Crece la alarma por el uso de inteligencia artificial en deepfakes de menores y Europa aplica su primera sanción

Una resolución inédita en España reavivó el debate global sobre los abusos digitales cometidos con inteligencia artificial: la Agencia Española de Protección de Datos multó con 2000 euros a los padres de un adolescente que generó imágenes falsas de sus compañeras, en las que las menores aparecían desnudas. Las fotos, creadas con una aplicación accesible desde cualquier navegador, circularon entre alumnos del colegio y llegaron incluso a plataformas de contenidos para adultos, inaugurando un precedente sobre la protección de datos personales en menores. Un caso similar ocurrió en Estados Unidos, donde una joven de 17 años demandó a una empresa por la difusión de deepfakes sexuales que le generaron acoso y secuelas emocionales.

Los especialistas advierten que el problema se agrava ante la facilidad de acceso a herramientas capaces de fabricar imágenes hiperrealistas con un solo clic. Las aplicaciones combinan rostros reales con cuerpos generados por IA y reproducen detalles como complexión y tono de piel, lo que dificulta distinguir lo falso de lo auténtico. Para el abogado David Reigaraz, la multa aplicada en España resulta insuficiente frente al daño irreversible que produce este contenido, cuya eliminación total de la red es prácticamente imposible. Además, señala que las plataformas tecnológicas deberían estar obligadas a etiquetar los contenidos sintéticos, implementar controles de edad y actuar con mecanismos de detección proactiva para evitar la circulación de material ilegal.

El fenómeno expone un dilema central: la tecnología avanza más rápido que la legislación destinada a proteger a niños y adolescentes. Organismos europeos ya consideran la creación y difusión de desnudos falsos como una forma de violencia machista digital, mientras que fiscales especializados plantean incluso la desindexación de plataformas que no cumplan con estándares de seguridad. Sin marcos normativos robustos, las víctimas –en su mayoría mujeres y menores– quedan expuestas al impacto emocional y social de una violencia cuyo origen es falso, pero cuyos efectos son devastadores. En paralelo, las instituciones insisten en reforzar vías de denuncia y asistencia para casos de violencia digital.