Quando a Inteligência Artificial vai ser, de fato, inteligente para entender os conceitos de Diversidade e Inclusão?

Katya Hemelrijk | 27 nov 2023
Katya Hemelrijk, CEO da Talento Incluir Consultoria
Katya Hemelrijk | 27 nov 2023

Mesmo com tantas transformações que a Inteligência Artificial (IA) já trouxe ao nosso cotidiano, vale reforçar que os algoritmos que tentam imitar e se aproximar cada vez mais do comportamento humano trazem consigo vieses de uma sociedade que ainda exclui pessoas por suas características como deficiências, raça, gênero etc.

Exatamente por tentar imitar o comportamento humano, ela atua com falhas que impactam no tema Diversidade e Inclusão, com a possibilidade de perpetuar preconceitos e acentuar desigualdades por conta dos vieses que ela carrega. Eu comprovei isso testando vários sites de Inteligência Artificial, um exercício que eu proponho a quem esteja atuando como aliado da diversidade.

Constantemente faço perguntas sobre o tema e pedi informações sobre um estudo da condição econômica social da pessoa com deficiência. A IA me trouxe os dados, mas respondia a mim como se eu fosse um homem. Ao questioná-la sobre o porquê de me tratar assim, sendo que sou uma mulher, ela se desculpou justificando que esse tipo de pergunta, geralmente, é de interesse masculino.

Com relação às informações e imagens de pessoas com deficiência, tudo chega pela IA em tom assistencialista, sem muitos dados macroeconômicos.

Testei uma Inteligência Artificial que faz busca de imagens com elementos que a gente abastece. Pedi uma charge de um contexto urbano de pessoas com diversas deficiências e diversos marcadores sociais. Em segundos ela me apresentou uma ilustração com várias pessoas, todas brancas e cadeirantes. Pedi também uma imagem que retrate a diversidade em uma grande empresa em 2023 e o resultado é um retrato sem ninguém da diversidade. Somente pessoas brancas e jovens.

Pedi então uma imagem que retratasse colaboradores de uma grande empresa em 2050. O resultado foi uma ilustração com pessoas brancas, negras, homens e mulheres, aparentemente mais sêniores, porém nenhuma pessoa com deficiência. Tem robô como funcionário, mas não tem pessoa com deficiência. Esse é o time do futuro para a IA. Quantos anos serão necessários para a inteligência artificial considerar a representatividade da sociedade no mundo corporativo?

A Inteligência Artificial é a repetição dos nossos comportamentos, e comprovadamente ela já nasce excludente porque ainda não aprendeu a ser diversa. Quem está ensinando essa tecnologia é o ser humano falho e ainda muito enviesado, com informações e dados equivocados que busca na internet.

Outra tentativa foi pedir à IA que trouxesse imagens de pessoas com deficiência em ambiente corporativo misturados com outros marcadores sociais e o resultado foi muito impactante. Além de trazer pessoas com deficiência “fake”, o chamado “cripface” – uso de imagens que distorcem a realidade da pessoa com deficiência-, a IA trouxe (pasmem!) um homem em uma cadeira de rodas de hospital, que não são iguais às utilizadas pelas pessoas cadeirantes de fato, e fazendo um gesto com as mãos que imita um tiro em sua própria cabeça.

A IA ainda precisa entender como evitar preconceitos e estereótipos que são reproduzidos em bancos de imagens, quase sem representatividade real dos marcadores sociais, com imagens fakes e estereotipadas.

O mesmo para os processos de recrutamento e seleção. Quantos vieses trazem os algoritmos e o que a IA entende quando interpreta um currículo de uma pessoa com deficiência concorrendo a uma vaga de trabalho? Também é preciso mudar a cultura e falar de inclusão da diversidade com quem está programando e alimentando a inteligência artificial.

O fato é que ao humanizar as máquinas estamos passando para elas não apenas as boas qualidades, mas aprendizados que ainda estamos aprendendo como sociedade. A inclusão deveria ser natural do ser humano, mas infelizmente ainda não é.

**Katya Hemelrijk é CEO da Talento Incluir Consultoria, pioneira no país com soluções focadas nos pilares de DE&I Conscientização, Contratação, Carreira, Acessibilidade e Consultoria Estratégica para a inclusão de pessoas com deficiência. Formada em Administração de Empresas, tem especialização em Neurociência do Consumo e é certificada como Coach Internacional pelo ICC. É uma mulher com deficiência, que nasceu com osteogênese imperfeita. Em sua trajetória profissional, traz uma bagagem corporativa e de empreendedorismo de mais de 20 anos, sendo 12 deles como líder de comunicação na Natura. É também TEDx Speaker, palestrante, atriz e coautora do livro “Maria de Rodas”.



CONFIRA TAMBÉM