A AGU (Advocacia-Geral da União) pediu ao Google que remova de seus resultados de busca sites que usam inteligência artificial para produzir imagens sexualizadas falsas de pessoas reais. Segundo o órgão, a notificação extrajudicial foi enviada à empresa nesta quarta-feira (1º) e o cumprimento das medidas deverá se dar no prazo cinco dias.
Procurado, o Google afirma que não vai se manifestar sobre a medida.
A solicitação é baseada em um estudo da faculdade de direito da Fundação Getulio Vargas do Rio de Janeiro lançado no final de fevereiro. O levantamento trata do aumento do interesse por programas de “nudificação” e afirma que são voltados principalmente à produção de nudes falsos e de imagens de abuso sexual infantil.
Mulheres, crianças e adolescentes são afetadas de forma desproporcional, segundo o documento, que recomenda a desindexação pelo Google de endereços eletrônicos que “hospedam, promovem ou facilitam acesso a ferramentas de nudificação por IA”.
“A indexação desses sites pelo Google amplifica exponencialmente o alcance de tecnologias de abuso”, afirma o trabalho. “A desindexação é medida necessária, tecnicamente viável e juridicamente fundamentada tanto no ordenamento brasileiro quanto em normativas internacionais de direitos humanos”.
Assinado por Yasmin Curzi, José Nunes, Yasmin dos Santos e Walter Gaspar, o estudo defende que a medida seja tomada imediatamente. “Plataformas têm responsabilidade de não amplificar ferramentas de violência. De outro modo, a inação perpetua ciclos de vitimização desproporcional de mulheres e de crianças”, concluem.
A análise demonstrou o crescimento, desde meados de 2023, de buscas por expressões como “nudify” na plataforma por usuários no Brasil.
Por meio da PNDD (Procuradoria Nacional da União de Defesa da Democracia), a AGU requer a adoção de duas medidas pelo Google.
“A primeira é a desindexação dos sites de ‘nudificação’, a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação. A outra é a implementação de filtros algorítmicos para impedir indexação futura de sites similares”, diz o órgão em comunicado.
Ainda segundo a nota, a AGU não nega a responsabilidade do autor direto na criação e distribuição do conteúdo ilícito, ou do próprio desenvolvedor da ferramenta. Porém, além de massificar o acesso a esses programas, a indexação no Google os coloca na “mesma categoria de qualquer outro item lícito de busca/interesse”, conforme o órgão.
Fonte ==> Folha SP
