O abuso sexual na internet ganhou uma nova dimensão com o uso da inteligência artificial. A IA generativa permite que criminosos criem imagens sexualmente explícitas a partir de qualquer imagem. Este tipo de crime, facilitado pela disseminação de ferramentas de (IA) de fácil acesso, tem afetado tanto pessoas comuns quanto celebridades.
A utilização indevida de aplicativos de Inteligência Artificial para a criação e disseminação de nudes falsos, também conhecidos como deep fakes, representa uma séria ameaça à privacidade e à dignidade das vítimas, especialmente das mulheres. Esses abusos não apenas violam os direitos individuais, mas também têm consequências profundas na vida pessoal e profissional das pessoas afetadas.
A falta de regulação e supervisão no uso de IA em interações humanas, especialmente em conversas que envolvem questões emocionais e psicológicas delicadas. A influência que modelos de linguagem podem exercer sobre indivíduos mais vulneráveis, como crianças e adolescentes, que ainda estão em processo de formação, é um ponto de preocupação. Eles podem ser mais suscetíveis ao convencimento e à persuasão de tais sistemas, sem compreender os riscos envolvidos.
Estudo de caso
Um dos mais preocupantes usos de IA é a criação de imagens e o compartilhamento de fotos íntimas falsas geradas por Inteligência Artificial, que têm se tornado uma nova forma de bullying virtual nas escolas brasileiras.
No Rio de Janeiro, a Polícia Civil abriu um inquérito para investigar montagens feitas por alunos do 7º ao 9º ano de um colégio. Ao menos 20 meninas afirmam ter sido alvo de “nudes” falsos, gerados e compartilhados por colegas. De maneira semelhante, em Recife, Pernambuco, um colégio registrou episódios análogos, onde estudantes criaram e espalharam imagens íntimas manipuladas de suas colegas.
O Ministério da Educação tem trabalhado para instituir Educação Digital nas escolas. Além disso, algumas redes de escolas já começaram a adotar medidas proativas para enfrentar esse problema, incluindo em sua grade curricular uma disciplina que aborda segurança online, ciberbullying, fake news e o uso ético da Inteligência Artificial. No Instituto Felipe Neto, há o Espaço Vida, que oferece oficinas de educação midiática e saúde mental como dois pilares fundamentais da educação para o mundo digital.
Recomendações do que fazer:
O Brasil já aprovou leis que punem a criação e divulgação desse tipo de material, com penas de até 4 anos de prisão. O Código Penal brasileiro aborda crimes relacionados à criação e divulgação de imagens íntimas sem consentimento, incluindo situações que envolvem o uso de Inteligência Artificial para manipular fotos e vídeos.
O artigo 216-B tipifica como crime produzir, fotografar, filmar ou registrar qualquer conteúdo de nudez ou ato sexual sem autorização, assim como realizar montagens para incluir uma pessoa em cenas íntimas. A pena é de seis meses a um ano de detenção.
O artigo 218-C criminaliza a oferta, venda ou exposição de registros audiovisuais que contenham cenas de estupro, nudez ou pornografia sem o consentimento da vítima. A pena pode variar de um a cinco anos de prisão.
Essas práticas, dependendo do contexto, podem ainda ser enquadradas como:
Difamação (artigo 139), que implica imputar um fato ofensivo à reputação de alguém, com pena de três meses a um ano de detenção, além de multa.
Injúria (artigo 140), ofensa direta à dignidade ou decoro da pessoa.
Extorsão ou falsa identidade, quando o material é utilizado para golpes ou chantagens.
Além disso, o Estatuto da Criança e do Adolescente (ECA), no artigo 241-C, prevê detenção de um a três anos, além de multa, para quem simular a participação de crianças ou adolescentes em cenas de sexo explícito ou pornográficas, por meio de montagem ou adulteração de fotos ou vídeos.
No entanto, essa é apenas parte da solução, e plataformas estão desenvolvendo ferramentas para identificar e rotular conteúdo criado por IA, buscando transparência e proteção para as vítimas.
Caso sua família sofra com esse tipo de prática, registre com fotos da tela (print screen) e URL. Depois, leve à polícia e ao Ministério Público.
Além disso, utilizar as ferramentas de controle parental, que veremos no capítulo 03, é fundamental para evitar riscos.
