UX Collective 🇧🇷 - Medium 10月27日 16:22
AI生成内容需可访问性
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

文章指出,尽管许多大公司已应用WCAG基本标准以实现其产品界面的可访问性,但由AI创建的内容(如图像和文本)仍可能存在障碍。文章列举了AI生成内容中的常见可访问性问题,包括缺乏替代文本、使用不当的emoji、语言模糊(如俚语或外语)以及语义结构错误。作者强调,由于AI训练数据中的偏见,其生成的内容往往不自然地缺乏可访问性。为解决此问题,文章建议通过定义“护栏”(如禁止使用外语、保持语言简单、确保图像附带描述等)来改善AI生成内容的可访问性。文章还提到Microsoft的“In Pursuit of Inclusive AI”和HAX Design Library等资源,但强调WCAG仍是指导数字产品开发中可访问性的关键标准。

📌 文章强调AI生成的内容(如图像和文本)可能缺乏可访问性,即使产品界面已遵循WCAG标准。这主要是因为AI训练数据中的偏见导致其生成的内容往往不自然地不包含可访问性考虑。

🖼️ 文章列举了AI生成内容中的常见可访问性问题,包括:缺乏图像替代文本、使用不当的emoji导致屏幕阅读器重复朗读、使用俚语或外语造成语言模糊、列表和表格的语义结构错误(视觉格式与实际结构不符)、以及视觉格式不一致导致认知障碍。

🛡️ 为解决这些问题,文章建议通过定义‘护栏’(guardrails)来规范AI生成内容,例如:禁止使用外语和俚语、确保图像自动附带描述且符合WCAG最佳实践、保持一致的语音语调以避免沟通障碍、限制使用emoji以减少阅读重复性、以及注意交互组件的导航和语义。

📚 尽管Microsoft的“In Pursuit of Inclusive AI”和HAX Design Library等资源提供了相关指导,但文章指出目前缺乏具体的可访问性设计指南。作者强调WCAG仍是唯一客观可测量的基础标准,其Principles, Guidelines, and Success Criteria结构正是当前AI产品开发所缺乏的验证和测试框架。

⏳ 文章最后警告,如果AI开发追求速度而忽视治理,会导致技术排除(exclusion),使更多用户无法使用新技术。作者主张WCAG应作为未来数字界面开发的基础,确保可访问性是所有AI讨论中的核心要素,而非最后考虑环节。

Tornar a interface acessível não basta — o conteúdo que a IA gera também precisa ser. E a WCAG continua sendo nossa melhor aposta.

Legislações como a LBI, ADA e European Accessibility Act reforçam o que todos nós já deveríamos saber: Prover acessibilidade digital é um dever inegociável.

No entanto, o estudo sobre a experiência de acessibilidade digital nos sites brasileiros realizado pela BigDataCorp em parceria com o Movimento Web para Todos prova que ainda estamos falhando coletivamente. Apenas 2,9% dos sites brasileiros foram aprovados nos testes de acessibilidade.

Mas, com a ascensão do novo paradigma da IA, surge também a possibilidade de reverter essa falha coletiva. Com as melhorias de experiência e tecnologia oferecidas por esse novo recurso, podemos criar um ecossistema digital mais acessível e fácil de usar.

Pessoalmente, gosto de ser otimista e pensar neste momento como uma folha em branco, onde talvez seja possível aplicar os princípios de acessibilidade digital corretamente desde o início dos projetos.

­

O problema do output inacessível

Apesar de a maioria dos grandes players já estar aplicando os critérios básicos da WCAG para possibilitar a navegação e uso da interface de seus produtos (o que já considero uma grande evolução), surge uma nova questão:

Como garantir que o conteúdo criado pela inteligência artificial também será acessível para todos?

Precisamos lembrar que, de acordo com o requisito 02 de conformidade da WCAG, todo o conteúdo precisa ser acessível — não apenas a navegação da interface do agente.

“A Conformidade é apenas para a(s) página(s) web completa(s) e não pode ser alcançada se uma parte da página web for excluída.”

Por exemplo, o Canva consegue gerar imagens diretamente da interface de chat do ChatGPT. Ele gera várias opções e pede para que o usuário escolha uma. No entanto, o agente não gera as descrições de imagem automaticamente.

O Canva tem a capacidade de gerar imagens, mas não oferece automaticamente a descrição delas.

Um usuário que desconhece a importância deste recurso provavelmente usaria as imagens sem criar a descrição, impedindo a compreensão por usuários com deficiências visuais. O texto na imagem também é uma prática que deve ser evitada.

Nesse exemplo, o usuário interage na criação do conteúdo, mas não conseguirá entender a imagem criada a menos que tome passos extras requisitando que o agente crie a descrição.

Outro possível problema é que um usuário sem conhecimento de acessibilidade não saberia da necessidade de solicitar a descrição e provavelmente seguiria utilizando a imagem na web sem adicionar esse recurso.

Outros problemas de acessibilidade já observados em conteúdo gerado pela IA são:

Apesar de exagerado, o exemplo demonstra visualmente algumas falhas do ChatGPT em gerar textos acessíveis e inclusivos.

­

A responsabilidade dos vieses na criação do conteúdo

É fácil entender por que os modelos de IA não criam conteúdo naturalmente acessível: eles não possuem boas referências, já que foram treinados em cima de um conteúdo conhecido por ser historicamente inacessível.

Os problemas de acessibilidade presentes nos dados de treinamento, somados à discriminação estatística, pavimentam um caminho perigoso.

Em entrevista ao ITForum, a pesquisadora Dra. Sambhavi Chandrashekar explica:

“Dados sobre pessoas com deficiência quase sempre são descartados dos cálculos por representarem números pequenos.
Quando não há representação no treinamento, o algoritmo simplesmente não aprende sobre elas — e, depois, exclui candidatos e usuários por não ‘encaixarem’ no padrão”
Quando a hierarquia de navegação é prejudicada, o usuário terá dificuldade para se localizar na página e interagir com o conteúdo.

Definindo guardrails para um conteúdo mais acessível

Porém, nem tudo está perdido. Graças ao grande poder de adaptação da IA, designers e engenheiros podem definir guardrails básicos para que o conteúdo gerado seja um pouco mais acessível:

Essas são apenas algumas sugestões de guardrails. É claro que essas definições não acessibilizam todo o seu produto para todas as pessoas, mas já indicam um passo na direção correta.

­

O momento é de definição de diretrizes e boas práticas

A criação de produtos com IA é um campo vasto e ainda sem diretrizes específicas e bem determinadas. No entanto, algumas empresas já estão pavimentando o terreno:

Ilustração da capa do material “In Pursuit of Inclusive AI” da Microsoft.

A Microsoft lançou um material chamado In Pursuit of Inclusive AI (Em Busca de uma IA Inclusiva) que detalha o impacto dos vieses na IA. Apesar de riquíssimo, o conteúdo ainda não oferece guias objetivos sobre como desenhar produtos com IA de forma acessível.

A HAX Design Library apresenta os critérios em cards para fácil leitura.

Além desse material, a Microsoft também desenvolveu a HAX Design Library— uma coleção de 18 diretrizes para a interação Humano-IA. Apesar de não mencionar diretamente critérios de acessibilidade, todas as diretrizes focadas em melhorar a experiência dos usuários também podem ser consideradas formas de melhorar a acessibilidade.

Exemplo de diretriz de design da OpenAI — designer deve evitar poluir a interface com logos redundantes e outros elementos visuais que ferem o padrão definido.

A OpenAI, por sua vez, divulgou uma série de diretrizes de design. Uma das diretrizes citadas é:

“Toda experiência de parceiro deve ser utilizável pelo público mais amplo possível. Acessibilidade é um requisito, não uma opção.”

No entanto, essa diretriz não especifica como definir o que é uma experiência acessível — com diretrizes mais “abertas”, como desenhar e validar objetivamente se as experiências estão acessíveis?

­

A resposta continua sendo a boa e velha WCAG

Nesse contexto, a WCAG se mantém como o nosso ponto de partida e base para sustentar os nossos esforços de Acessibilidade. Mais do que nunca, devemos nos apoiar nos critérios que já existem para direcionar o desenvolvimento de novos componentes e padrões de interação com IA.

Hoje, a WCAG ainda é, infelizmente, pouco aplicada no contexto de desenvolvimento de produtos digitais. Mas (por enquanto?) ela é a única base objetiva que temos. A sua estrutura de Princípios, Diretrizes e Critérios de Sucesso mensuráveis e objetivos é justamente o que falta como direcionamento para a validação e teste das diretrizes já desenvolvidas.

O paradigma da IA exige agilidade, mas agilidade sem governança resulta em exclusão, como pontuado pela Dra. Sambhavi:

“Se os programas são produzidos dez vezes mais rápido, há menos tempo para pensar em acessibilidade. Isso significa que muitos sistemas simplesmente não funcionarão para PcDs”

O nosso trabalho é garantir que isso não aconteça e que a acessibilidade seja um pilar em todas as discussões de IA, não um pensamento final. Para isso, a WCAG precisa ser a fundação a partir da qual a próxima geração de interfaces digitais será construída.

Errar aqui significa ser excludente, tornando o uso de mais uma nova tecnologia inacessível para a população considerada “fora do padrão”.

Referências

­

Leituras complementares


IA, Acessibilidade e uma nova chance de acertar was originally published in UX Collective 🇧🇷 on Medium, where people are continuing the conversation by highlighting and responding to this story.

Fish AI Reader

Fish AI Reader

AI辅助创作,多种专业模板,深度分析,高质量内容生成。从观点提取到深度思考,FishAI为您提供全方位的创作支持。新版本引入自定义参数,让您的创作更加个性化和精准。

FishAI

FishAI

鱼阅,AI 时代的下一个智能信息助手,助你摆脱信息焦虑

联系邮箱 441953276@qq.com

相关标签

AI可访问性 WCAG 内容可访问性 AI偏见 护栏机制 UX写作 屏幕阅读器
相关文章