Nova York derruba 12 sites usados para criar e divulgar deepfakes ilegais de famosas
Operação apreendeu domínios que comercializavam imagens e vídeos sexualmente explícitos produzidos com inteligência artificial sem consentimento; cerca de 1.200 pessoas foram vítimas
Autoridades de Nova York apreenderam nesta segunda-feira (14) os domínios de 12 sites usados para produzir, publicar e comercializar vídeos de deepfake com conteúdo sexual envolvendo pessoas reais sem autorização. A operação é considerada uma das maiores ações já realizadas contra plataformas dedicadas à disseminação desse tipo de material.
Segundo a Promotoria de Manhattan, aproximadamente 1.200 pessoas tiveram seus rostos e imagens utilizados sem consentimento para criar vídeos e imagens falsas extremamente realistas. A maioria das vítimas é formada por mulheres, incluindo celebridades, atletas, artistas, influenciadoras, ativistas e figuras políticas.
Os responsáveis pelos sites utilizavam ferramentas de inteligência artificial para combinar fotografias e vídeos reais das vítimas com conteúdos pornográficos preexistentes. Dessa forma, os materiais davam a falsa impressão de que as pessoas retratadas participavam de situações sexualmente explícitas.
As autoridades afirmam que os sites funcionavam como parte de um mercado que se expandiu nos últimos anos com o avanço das ferramentas de geração de imagens e vídeos por inteligência artificial. Alguns deles estavam ativos havia vários anos e chegaram a acumular milhares de visualizações.
A investigação também identificou conteúdos envolvendo personalidades públicas de diferentes áreas. Em alguns casos, políticos apareciam cadastrados nas plataformas com seus nomes e fotografias, acompanhados de vídeos manipulados digitalmente.
O promotor de Manhattan, Alvin Bragg, afirmou que as vítimas tiveram seus rostos e corpos transformados em pornografia ilegal sem conhecimento ou consentimento. Segundo ele, a exposição desse tipo de conteúdo pode provocar consequências profundas na vida pessoal e profissional das pessoas atingidas.
Os domínios foram retirados do ar por determinação judicial e passaram a exibir avisos informando que haviam sido apreendidos pelas autoridades. A investigação continua para identificar os responsáveis pelas plataformas e também pessoas envolvidas no envio e distribuição dos conteúdos.
A ofensiva ocorre em um momento de maior pressão nos Estados Unidos contra o uso criminoso da inteligência artificial para produzir imagens íntimas falsas. Em junho, autoridades federais americanas já haviam apreendido outros domínios utilizados para divulgar imagens sexualmente explícitas de mulheres famosas sem consentimento.
O combate a esse tipo de crime ganhou força com a legislação federal conhecida como Take It Down Act, que criminaliza a publicação não consensual de imagens íntimas, incluindo materiais produzidos ou alterados digitalmente por inteligência artificial.
Especialistas, porém, alertam que a retirada de sites isolados não elimina o problema. O ecossistema envolve também ferramentas utilizadas para gerar as imagens, plataformas de hospedagem, mecanismos de divulgação e sistemas de pagamento que permitem a monetização desse conteúdo.
A operação de Nova York representa, assim, mais um passo na tentativa de responsabilizar quem transforma a inteligência artificial em instrumento de violação da privacidade, da imagem e da dignidade de outras pessoas.
