CONHEÇA A DEB: A INTELIGÊNCIA ARTIFICIAL DO ID_BR NO COMBATE AO RACISMO

---

Campanhas globais lutam pelo fim do uso de programas para reconhecimento facial — Imagem- Malkia Devich-Cyril.

A Inteligência Artificial (IA) está cada vez mais presente em nossas vidas, influenciando diversas áreas, inclusive a educação. Um estudo da professora Rosa Maria Vicari, da Universidade Federal do Rio Grande do Sul (UFRGS), prevê que até 2030, as inovações tecnológicas estarão presentes em até 50% das escolas públicas e privadas do Brasil. Além disso, a computação em nuvem deve ser adotada em 70% das instituições de ensino nos próximos anos.

Entretanto, é essencial perguntar: como usar a IA sem reproduzir estereótipos e preconceitos? A IA é criada por humanos, que têm suas próprias crenças e preconceitos. Assim, a IA não é neutra; ela reflete um histórico e um contexto social que moldam os algoritmos.

Reconhecimento Fotográfico Racista Capa comum,19 abril 2024 Edição Português, por Edson Souza Júnior.

Pesquisas mostram que a IA pode perpetuar discriminações como sexismo, homofobia e, especialmente, racismo. Muitas vezes, as bases de dados usadas para treinar algoritmos contêm informações enviesadas, resultando em tecnologias que falham em reconhecer a diversidade. Por exemplo, softwares de reconhecimento facial frequentemente têm dificuldades em identificar rostos de pessoas negras porque foram treinados principalmente com dados de pessoas brancas.

Essa situação se torna ainda mais crítica em áreas sensíveis, como a segurança pública. Aplicativos de reconhecimento facial utilizados por forças policiais, por exemplo, têm sido criticados por identificar desproporcionalmente pessoas negras como suspeitas. Isso ocorre porque a base de dados foi criada com uma perspectiva racista, associando injustamente a população negra à criminalidade.

Uma resposta positiva a esses desafios é o chatbot Deb, desenvolvido pelo Instituto de Identidades do Brasil (ID_BR). Deb é o primeiro chatbot do mundo dedicado a questões étnico-raciais, com o objetivo de esclarecer dúvidas sobre antirracismo e outras questões sociais. Recentemente, Deb ganhou destaque ao corrigir a apresentadora Xuxa durante o Prêmio SIM à Igualdade Racial, transmitido pela TV Globo.

A IA questionou Xuxa sobre a música infantil “Brincar de índio” e explicou que o termo correto é “indígena”, ressaltando que “índio” é um termo depreciativo. Xuxa reconheceu a inadequação dos termos e representações usadas em suas antigas gravações.O evento, organizado pelo ID_BR, é o maior da América Latina e reconhece pessoas, iniciativas e organizações que promovem a igualdade racial. A Deb foi desenvolvida em colaboração com a empresa Lanum, especializada em Business Analytics.

O Prêmio Sim à Igualdade Racial de 2024 aconteceu no dia 26 de maio, na Cidade das Artes, no Rio de Janeiro.

A missão da Deb é criar um espaço seguro e educativo para discutir e entender a complexidade das questões raciais no Brasil, incentivando a participação ativa na luta pela igualdade. Com uma equipe dedicada à curadoria de interações e conteúdos, a Deb oferece respostas sobre uma ampla gama de tópicos, desde terminologia racial até questões complexas sobre interseccionalidade entre raça, gênero e outros aspectos sociais.

Além de oferecer suporte educacional, a Deb tem o potencial de impactar diferentes esferas da sociedade, desde escolas até empresas. Com planos de expansão para escolas e empresas até o final do ano, a Deb busca ser uma aliada importante na luta contra o racismo e na promoção da diversidade e inclusão.

Luana Génot — Ceo do ID_BR com a Inteligência Artificial Deb. — Foto- Reprodução/Instagram.

“AI A sozinha não resolverá o problema do racismo, mas a Deb pode acelerar o processo de conscientização e ação coletiva. Acreditamos que o diálogo é fundamental para uma sociedade mais justa e igualitária”, explica Luana Génot, fundadora e CEO do instituto.