Declaração pede proteção das crianças frente à perigos da IA no ambiente digital

Ferramentas e aplicações de inteligência artificial, IA, não estão sendo projetadas de modo a proteger as crianças e seu bem-estar. Por isso, um conjunto de mais de 10 instituições da ONU e dezenas de organizações da sociedade civil divulgaram uma declaração conjunta com uma série de recomendações.

O documento ressalta que as empresas de tecnologia tem a responsabilidade de respeitar os direitos da criança, “para alcançar melhores resultados para este grupo no ambiente digital”.

Auditorias e classificadores de conteúdo

Dentre as propostas apresentadas está a realização de auditorias regulares dentro das empresas que desenvolvem produtos com IA, para impedir impactos negativos no público menor de 18 anos. Outra sugestão é a implementação de classificadores para conteúdo prejudicial. 

O objetivo é prevenir e combater todas as formas de violência contra crianças e exploração infantil cometidas por meio de sistemas, ferramentas e plataformas de inteligência artificial ou com o seu apoio. 

As medidas incluem conter a violência física, sexual e psicológica, cyberbullying, exposição a conteúdo prejudicial e exploração. 

Narrativas prejudiciais amplificadas por algoritmos

Além disso, o documento destaca a preocupação com conteúdos gerados por IA que propagam discurso de ódio, incitam a violência ou promove trabalho infantil, tráfico de crianças e recrutamento de menores para conflitos armados. 

O conteúdo prejudicial pode incluir ainda deepfakes e outras mídias enganosas, material gráfico violento, conteúdo de abuso sexual infantil e mensagens que promovam automutilação, transtornos alimentares, uso de drogas, jogos de azar ou outras narrativas prejudiciais amplificadas por algoritmos.

A declaração afirma que qualquer medida para proteger as crianças da exposição a conteúdos que possam prejudicar a saúde mental ou física, deve estar em conformidade com as condições para a restrição do direito à liberdade de expressão.

Capacitações para acompanhar a rápida evolução da IA

O texto apela aos Estados para que combatam violações dos direitos da criança no contexto da inteligência artificial, dentro do seu território e/ou jurisdição, inclusive responsabilizando as empresas. 

As entidades que firmam a declaração também esperam que os parlamentos utilizem suas prerrogativas legislativas, orçamentárias de fiscalização e de relações públicas para promover e proteger os direitos da criança no contexto da inteligência artificial.

Para garantir que o uso da nova tecnologia esteja alinhado com a Convenção sobre os Direitos da Criança, o documento sugere mais treinamento para crianças, professores, pais, cuidadores e governos.

As capacitações ajudariam as diversas partes interessadas a acompanhar a rápida evolução da tecnologia, abordando temas como estruturas de IA, métodos de proteção de dados e avaliações de impacto nos direitos da criança.