Desafios da inteligência artificial na representação de mulheres com deficiência

A evolução da tecnologia e sua relação com a inclusão

A inteligência artificial ainda enfrenta dificuldades para representar mulheres com deficiência, refletindo desigualdades sociais.

No dia 5 de outubro de 2023, Jess Smith, ex-nadadora paralímpica, destacou as dificuldades que a inteligência artificial enfrenta para gerar imagens de pessoas com deficiência. Através de sua experiência, ela revelou que, até recentemente, não conseguia criar uma imagem que refletisse sua condição de ter um braço amputado. Isso mudou após melhorias na tecnologia, que agora permite a geração de imagens mais inclusivas.

A evolução da tecnologia e suas limitações

Smith observou que, ao tentar gerar sua imagem, a IA frequentemente a apresentava com dois braços ou com uma prótese metálica. A resposta da ferramenta de IA foi que não havia dados suficientes para trabalhar, evidenciando a desigualdade e a discriminação que a tecnologia pode refletir. Quando a BBC questionou o ChatGPT sobre as dificuldades, a ferramenta foi atualizada e Smith conseguiu finalmente produzir uma imagem fiel a sua realidade.

Impacto na representação

A ex-nadadora enfatizou a importância da representação na tecnologia. “A representação significa fazer parte do mundo que está sendo construído”, disse. Essa evolução na inteligência artificial não é apenas um avanço tecnológico, mas também um progresso social. Naomi Bowman, que tem visão limitada, relatou um problema semelhante. Ao tentar editar uma foto, a IA alterou seu rosto de maneira inadequada, mostrando que o preconceito na IA ainda persiste.

Necessidade de diversidade nos dados

Especialistas como Abran Maldonado, CEO da Create Labs, ressaltam que a diversidade nos dados de treinamento é fundamental. Se aqueles que vivenciam essas experiências não forem consultados, a IA continuará a falhar em sua representação. Um estudo do governo americano em 2019 já havia evidenciado que algoritmos de reconhecimento facial identificam rostos de forma desigual, refletindo preconceitos sociais.

Considerações finais

Jess Smith, apesar de sua condição, não se considera deficiente, apontando que as barreiras que enfrenta são sociais. Ela enfatiza a necessidade de um design inclusivo, que considere a diversidade das experiências humanas. Sua história ilustra não apenas os desafios enfrentados, mas também a importância de uma evolução contínua na inteligência artificial, para que todos sejam vistos e representados de forma justa.