La policía realiza el primer arresto en Japón por imágenes sexuales falsas de IA
La policía de Tokio ha realizado el primer arresto en Japón por utilizar inteligencia artificial generativa para crear y vender imágenes falsas sexualmente explícitas de celebridades.
El 16 de octubre, la Policía Metropolitana dijo que Hiroya Yokoi, un oficinista de 31 años de Akita, fue arrestado bajo sospecha de producir y exhibir material obsceno, específicamente miles de imágenes falsas de más de 260 celebridades femeninas.
La policía dijo que Yokoi admitió las acusaciones.
"La respuesta de los espectadores fue enorme y la película se hizo tan popular que me di cuenta de que podía ganar mucho dinero", dijo el sospechoso, citado por la policía.
Según la policía, este caso es el primero de este tipo en Japón.
Entre las víctimas hay más de 260 personalidades de televisión, actores, ídolos y presentadores de noticias.
Según la policía, de enero a junio de este año, Yokoi creó y publicó imágenes explícitas que mostraban a tres celebridades femeninas en un sitio de comunicación en línea, haciéndolas accesibles a cualquier persona.
Según se informa, Yokoi dijo a los investigadores que inició la operación en octubre del año pasado para ganar dinero extra para cubrir los gastos de manutención y pagar préstamos estudiantiles después de ver a otros ganar dinero de la misma manera.
PORNO CON IA COMO TRABAJO SECUNDARIO
La policía sospecha que Yokoi usó una cuenta promocional en redes sociales para dirigir a los usuarios a un sitio de suscripción donde publicó aproximadamente 20.000 imágenes deepfake. Los suscriptores pueden solicitar imágenes personalizadas por una tarifa adicional.
Al menos 50 personas se han inscrito, y en los 11 meses transcurridos desde octubre, el programa le ha hecho ganar alrededor de 1,2 millones de yenes (8.000 dólares), según fuentes de la investigación.
Según las fuentes, el sospechoso creó las imágenes como un "trabajo secundario".
No tenía formación profesional en IA generativa ni en tecnologías de la información y la comunicación; había aprendido de forma autodidacta a través de artículos y vídeos en línea.
El software gratuito que utilizó presume de su capacidad de "generar imágenes de alta calidad en segundos".
Yokoi entrenó la IA con fotos de celebridades y utilizó "indicaciones" de texto específicas para generar la vasta biblioteca de imágenes, dijeron las fuentes.
TENDENCIAS GLOBALES, VACÍOS LEGALES
Esta facilidad de uso ha contribuido a un aumento global de deepfakes sexuales.
Un estudio de una empresa de seguridad estadounidense identificó 95.820 vídeos deepfake en línea en 2023, un aumento de 5,5 veces respecto a hace cuatro años, el 98% de los cuales eran de naturaleza sexual.
En respuesta, Estados Unidos, Gran Bretaña y otros países han endurecido sus regulaciones.
Corea del Sur endureció sus sanciones el pasado mes de septiembre, haciendo punible no sólo la creación sino también la posesión y visualización de deepfakes sexuales.
Pero Japón actualmente no cuenta con una ley específica que regule los deepfakes sexuales, lo que obliga a las autoridades a operar dentro de la legislación existente.
Las fuerzas de seguridad japonesas se enfrentan al gran obstáculo de obtener pruebas objetivas que demuestren que una imagen generada por inteligencia artificial "posee legalmente" la identidad de la persona que representa.
Abrir una investigación por difamación requiere una denuncia de la víctima, quien a menudo desconoce la existencia de imágenes deepfake. Para cuando se da cuenta de que ha sido retratada injustamente, las imágenes ya se han difundido ampliamente.
“Los creadores pueden hacerlo con indiferencia, pero las víctimas sufren daños a su reputación y pueden sufrir daños mentales y económicos”, declaró un investigador japonés. “Debemos frenar a las empresas que abusan de la IA generativa”.
