SaferNet alerta para uso de IA para manipular e criar conteúdos

Um relatório divulgado nesta quarta-feira (20) pela SaferNet revelou que entre 1º de janeiro e 31 de julho deste ano foram registradas 49.336 denúncias anônimas de abuso e exploração sexual infantil na internet. Isso significou um crescimento de 18,9% em relação ao mesmo período de 2024.

As denúncias recebidas este ano correspondem a 64% de todas as notificações de crimes cibernéticos recebidas pela SaferNet no período, que engloba ainda outros crimes como racismo e violência contra a mulher, por exemplo.

Segundo a organização, os dados confirmam o agravamento da violência contra crianças e adolescentes no ambiente digital.

Um dos pontos que chamou a atenção é o uso crescente de inteligência artificial para criar conteúdo com abuso sexual infantil, tanto por meio da manipulação de imagens reais quanto pela produção de materiais hiper-realistas, como fotografias manipuladas, deepfakes e imagens artificiais criadas a partir de comandos de texto.

A SaferNet alerta que, de acordo com o Estatuto da Criança e do Adolescente (ECA), a manipulação de imagens também é considerada crime.

“A proliferação de aplicativos de IA generativa permite que se pegue a foto de uma pessoa vestida e se tire a roupa daquela pessoa”, explicou Thiago Tavares, fundador e diretor-presidente da SaferNet Brasil, ao fazer alerta sobre esse tipo de conteúdo em 2024.

Para discutir sobre o uso da inteligência artificial generativa, a SaferNet abriu recentemente uma chamada pública para receber relatos de adolescentes que tenham sido vítimas da criação de imagens não consensuais com uso de inteligência artificial. A chamada pública também engloba pessoas que tenham conhecimento de tais situações. O objetivo é analisar os casos e pensar em políticas de proteção mais eficazes.

Quem quiser participar pode fazer por meio do canal de ajuda da SaferNet ou por um formulário especializado para recebimento de denúncias de deepfakes entre adolescentes.

Adultização
As denúncias de abuso e exploração infantil cresceram após o influenciador Felca ter feito um vídeo para denunciar perfis que usam crianças e adolescentes para promover a adultização infantil.

Entre os dias 6 de agosto – quando o vídeo de Felca foi divulgado – e 18 de agosto, as denúncias desses crimes atingiram um pico, com mais de 6,2 mil registros, sendo que mais da metade delas (52% do total) ocorreu após a viralização do vídeo.

Depois do vídeo, a Câmara dos Deputados colocou em pauta a votação do Projeto de Lei (PL) nº 2.628 de 2022, que obriga plataformas digitais a tomarem medidas para prevenir o acesso de crianças e adolescentes a conteúdos ilegais ou considerados impróprios para determinadas faixas etárias.

Como denunciar
É possível denunciar páginas que contenham imagens de abuso e exploração sexual de crianças e adolescentes.

Isso pode ser feito na Central Nacional de Denúncias da Safernet Brasil , que é conveniada com o Ministério Público Federal.

Em caso de suspeita de violência sexual, deve ser acionado o Disque 100