Un grave hecho de manipulación de imágenes mediante inteligencia artificial ha afectado a alumnos de escuelas secundarias, quienes aparecieron desnudos en fotos falsas difundidas por WhatsApp. La unidad fiscal especializada en delitos informáticos interviene en el caso, destacando que no es la primera vez que reciben denuncias de esta índole, aunque el hecho tomó notoriedad al involucrar a instituciones como el Colegio Nacional Buenos Aires y el Carlos Pellegrini.
El especialista en inteligencia artificial, Daniel Stillman, explica que estas herramientas, que permiten crear o transformar imágenes, se han acelerado debido a su uso malicioso. Si bien existen proyectos de ley, la legislación actual no contempla específicamente la generación de imágenes falsas por IA, lo que dificulta la sanción penal. Se debate la necesidad de agilizar la creación de un marco legal que proteja a las personas ante el avance de la IA.
Se señala que la problemática no es exclusiva de la IA, ya que la manipulación de imágenes existía previamente. Sin embargo, la IA elimina barreras, facilitando la creación y difusión de contenido perjudicial. La preocupación se centra en la protección de menores y la necesidad de educar sobre el uso responsable de la tecnología, así como en la importancia de la ética y la moral en la educación.