Tóquio, Japão – Um homem foi preso pela polícia de Tóquio na última segunda-feira (19) sob suspeita de utilizar uma ferramenta de inteligência artificial generativa para criar “deepfakes” sexuais de celebridades femininas e vendê-las online.
De acordo com o Kyodo News, Tatsuro Chiba, um desempregado de 31 anos e residente em Sapporo, província de Hokkaido, é acusado de ter publicado 14 fotos falsas entre dezembro de 2024 e maio de 2025, em um site exclusivo para membros. Os usuários pagavam para ter acesso às fotos e, por um valor maior, Chiba também criava imagens sob encomenda.
O Departamento de Polícia Metropolitana de Tóquio afirmou que coletou fotos de 300 celebridades no computador de Chiba, incluindo cantoras idol, e que ele criou mais de 520 mil imagens falsas. Acredita-se que o homem tenha faturado cerca de 11 milhões de ienes com a venda dos deepfakes.
A polícia disse que Chiba confessou ter aprendido a criar deepfakes pornográficos por meio de tutoriais online.
Regulamentação contra deepfakes ainda é escassa
O Japão enfrenta dificuldades para mensurar os danos causados por deepfakes com conteúdo sexual, que têm se espalhado cada vez mais pelo país. Fotos de celebridades e pessoas comuns estão sendo usadas indevidamente em ferramentas de inteligência artificial generativa.
Alguns casos já foram confirmados no Japão, como o de um funcionário de escritório que criou um vídeo pornográfico de uma colega de trabalho, usando uma imagem dela que ele salvou durante uma reunião online e compartilhou com colegas. Em outro caso, um estudante do ensino fundamental criou imagens pornográficas de alunas a partir de um álbum de fotos de um evento e compartilhou com os colegas de classe.
No dia 16 de janeiro, o governo japonês solicitou que a empresa X tomasse medidas contra a alteração e sexualização de imagens usando a ferramenta de inteligência artificial Grok, da plataforma de mídia social, que permite aos usuários manipular imagens inserindo comandos.
A X tem apresentado um aumento recente de publicações geradas por inteligência artificial com imagens de pessoas reais alteradas de forma inadequada. Com milhões de usuários da plataforma no Japão, o governo também está solicitando que a operadora apresente um plano para lidar com o problema e poderá emitir diretrizes com base na lei de inteligência artificial caso não haja melhorias.
