Japón pide a X que tome medidas contra las imágenes sexualizadas generadas por IA
TOKIO — El gobierno japonés anunció el viernes que ha pedido a X que tome medidas contra la alteración y sexualización de imágenes utilizando la herramienta de inteligencia artificial de la red social.
X ha observado recientemente un aumento en la cantidad de publicaciones generadas por IA que contienen imágenes de personas reales alteradas inapropiadamente. Dado que, según se informa, decenas de millones de personas utilizan la plataforma en Japón, el gobierno también exige que el operador informe sobre su plan para abordar el problema y podría emitir directrices basadas en la Ley de IA si no se observan mejoras.
"Aceleraremos las discusiones mientras aseguramos la cooperación de los ministerios y agencias relevantes", dijo el ministro de estrategia de IA, Kimi Onoda, en una conferencia de prensa después de una reunión del Gabinete.
Liderado por el empresario estadounidense Elon Musk, X presentó el año pasado su herramienta de inteligencia artificial generativa "Grok", que permite a los usuarios manipular imágenes ingresando indicaciones.
La creación generalizada de imágenes sexuales falsas de personas reales mediante el abuso del servicio ha dado lugar a investigaciones sobre pornografía por parte de varios gobiernos de todo el mundo. Esta es la primera vez que se revela la respuesta de Japón.
La última solicitud fue emitida por la Oficina del Gabinete, que supervisa la legislación sobre IA, porque le preocupa la facilidad con la que se puede crear y difundir contenido falso.
Las imágenes falsas de personas pueden vulnerar sus derechos, como el derecho a la publicidad o el derecho a la reputación.
Los gobiernos de países como Gran Bretaña, Canadá y Malasia también han indicado que esta cuestión es problemática.
En respuesta, X declaró: "Estamos tomando medidas para eliminar contenido violento de alta prioridad, incluida la pornografía infantil y la desnudez no consensuada".
El año pasado, el gobierno también solicitó mejoras al generador de vídeo "Sora" de OpenAI con respecto a la creación de vídeos que se parezcan mucho a los dibujos animados japoneses.
