España lidera la ofensiva contra las redes sociales para niños menores de 16 años, con el gobierno de Pedro Sánchez ordenando a la Fiscalía investigar a X de Elon Musk, Meta Platforms (matriz de Facebook) y TikTok por material de abuso sexual infantil generado por inteligencia artificial. Australia ya pionera en prohibiciones, Reino Unido y España siguen el ejemplo, buscando responsabilidad penal por atentar contra la salud mental y derechos de los niños.
En solo 11 días, se generaron 3 millones de fotos de desnudos por IA, muchas involucrando menores, lo que impulsó al Ministerio de la Presidencia, Justicia y Relaciones con las Cortes a perseguir delitos de violencia sexual digital. En Reino Unido, el gobierno de Keir Starmer planea reformar la ley de seguridad en línea para imponer controles sobre chatbots de IA, responsabilizando a proveedores por contenidos ilegales o perjudiciales.
El escándalo de Grok, chatbot de Elon Musk que permitía generar imágenes sexualizadas y desnudos, fue repugnante y aceleró estas medidas, con el proyecto de ley británico a presentarse antes de junio, similar a Australia. Países como Portugal, Grecia y Eslovenia también avanzan en prohibiciones, abordando el impacto de IA en menores y cerrando vacíos legales en interacciones con bots.
El primer ministro británico expresa preocupación por el impacto de estos chatbots, como le preocupa a Starmer, en un contexto de consulta sobre veto a redes para menores y reforma de la estricta ley de 2023 que no cubría IA.