INTELIGÊNCIA ARTIFICIAL (AI) E ABUSO DE IMAGENS INFANTIS: COMO PREVENIR
- Mariele Santos
- 9 de out. de 2024
- 4 min de leitura
Atualizado: 6 de fev.
Cuidado ao compartilhar fotos de crianças nas redes sociais — sejam elas seus filhos, sobrinhos, netos ou filhos de amigos. Embora o desejo de mostrar ao mundo virtual a beleza e fofura dos pequenos seja compreensível, o avanço das tecnologias, especialmente da inteligência artificial (IA), tem facilitado a substituição de rostos, corpos e até vozes de forma quase imperceptível. Apesar de ser um crime, como a manipulação de fake news, essa prática é uma realidade preocupante que precisa ser combatida.
Com o desenvolvimento da IA, novas formas de abuso e exploração sexual têm surgido na internet, alimentando um perigoso mercado criminoso. Fotos e vídeos de crianças, muitas vezes postados inocentemente por pais e responsáveis, podem ser roubados e usados para fins ilícitos, como evidenciado em uma recente investigação divulgada pelo programa Fantástico. Criminosos se infiltram em redes sociais, utilizando códigos específicos para identificar e marcar imagens de crianças que chamam sua atenção, explorando-as em redes de pedofilia.
Atualmente, com o uso da IA generativa, esses criminosos conseguem transformar imagens e vídeos comuns em conteúdo sexual explícito. Thiago Tavares, diretor-presidente da SaferNet Brasil, alerta que essas tecnologias permitem manipular imagens de pessoas vestidas para simular nudez, gerando conteúdo ultrarrealista. Durante o evento Dia da Internet Segura, especialistas destacaram a crescente tendência do uso de IA para abuso sexual, tanto por meio da manipulação de imagens quanto de crimes virtuais no metaverso, como casos de estupros em ambientes digitais.
Além disso, plataformas de IA têm utilizado, sem autorização, imagens de crianças brasileiras. A Human Rights Watch revelou que pelo menos 170 fotos de crianças de 10 estados brasileiros foram encontradas em uma plataforma alemã de treinamento de IA, mostrando o uso não consentido e massivo de dados sensíveis. A manipulação dessas imagens pode resultar em graves consequências, como difamação, pornografia e outros tipos de abusos.
Em 2023, as denúncias relacionadas a imagens de abuso sexual infantil atingiram um recorde histórico, somando 71.867 queixas, conforme dados da ONG SaferNet. Esse aumento é atribuído ao uso de IA para criação de conteúdo abusivo, às demissões em massa nas grandes empresas de tecnologia — que afetaram as equipes de segurança e moderação de conteúdo — e à proliferação da venda de imagens autogeradas por adolescentes.
Como os usuários podem evitar o uso indevido de fotos de crianças:
Evite compartilhar fotos públicas: Ao postar fotos de crianças, prefira utilizar configurações de privacidade restritas, permitindo que apenas pessoas de confiança visualizem as imagens. Desative o compartilhamento automático de fotos com terceiros.
Evite marcar locais e eventos: Evitar a geolocalização e a marcação de eventos em tempo real pode reduzir as chances de exposição desnecessária de onde a criança está, diminuindo a vulnerabilidade.
Não compartilhe informações pessoais: Não inclua detalhes como o nome completo, data de nascimento, escola ou outras informações identificáveis nas postagens, pois esses dados podem ser usados por criminosos.
Fique atento às permissões de aplicativos: Verifique quais aplicativos têm acesso à sua galeria de fotos e desabilite permissões para aqueles que você não confia ou que não precisam dessas informações.
Use marcas d’água ou edite as fotos: Aplicar uma marca d’água nas imagens ou editar de modo que o rosto da criança não seja completamente visível pode dificultar o uso ilícito das fotos.
Monitore as configurações de segurança da rede social: Redes sociais frequentemente atualizam suas políticas de segurança e privacidade. Mantenha-se atualizado sobre como essas plataformas estão tratando o conteúdo gerado por IA e ajuste suas configurações de acordo.
Converse com as crianças sobre o uso seguro da internet: Eduque os jovens sobre os riscos de compartilhar imagens nas redes sociais e como proteger sua privacidade online.
Para enfrentar essa nova realidade, a Câmara dos Deputados aprovou, no final de 2023, a criminalização da criação e divulgação de imagens de nudez ou conteúdo sexual utilizando IA. A proposta, que agora está sob análise no Senado, prevê penas de 1 a 4 anos de prisão, além de multa. No entanto, especialistas como Iain Drennan, da WeProtect Global Alliance, reforçam que a legislação é apenas o primeiro passo. O apoio do governo, do setor privado e da sociedade civil é essencial para garantir a proteção das crianças no ambiente digital.
A Meta, gigante das redes sociais, também anunciou recentemente que irá identificar e rotular qualquer imagem gerada por IA em suas plataformas, como Facebook, Instagram e Threads. Esse esforço visa trazer mais transparência ao uso dessa tecnologia, além de desenvolver ferramentas para identificar conteúdo gerado por IA de parceiros como Google, OpenAI e Microsoft.
É importante lembrar que a responsabilidade de proteger as crianças não pode recair apenas sobre as famílias. A conscientização e a colaboração de todos são necessárias para que leis sejam aprovadas e aplicadas de maneira eficaz, garantindo um ambiente digital mais seguro. Denúncias de exploração sexual infantil podem ser feitas através da Central de Denúncias da SaferNet ou pelo Disque 100, canal mantido pelo governo federal.
댓글