La Unión Europea ha acordado, a propuesta del Gobierno de España, prohibir el uso de sistemas de Inteligencia Artificial que generen 'deepfakes' sexuales. Este acuerdo se alcanzó durante una negociación tripartita entre el Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea. La enmienda española prohíbe la creación o manipulación de contenido que identifique a personas en actividades sexuales sin su consentimiento y también aborda la pornografía infantil. El ministro Óscar López destacó que España lidera un modelo europeo de IA confiable, alineado con iniciativas recientes para proteger a menores en entornos digitales. La ley aún debe ser ratificada formalmente por el Parlamento y el Consejo antes del receso de verano.
La UE prohíbe los deepfakes sexuales
El ministro Óscar López ha celebrado el reciente acuerdo alcanzado por la Unión Europea, destacando que “España sigue liderando el despliegue de un modelo europeo propio de IA, que debe caracterizarse por ser el más confiable de todos, en línea con las iniciativas aprobadas por el Gobierno español en los últimos meses”.
La Unión Europea ha dado luz verde a la propuesta del Gobierno español para prohibir en todo su territorio la introducción y uso de sistemas de Inteligencia Artificial que generen ‘deepfakes’ sexuales. Esta iniciativa fue presentada por España en enero, como respuesta a la controversia provocada por imágenes no consensuadas de mujeres y menores creadas por Grok, un asistente virtual de la red social X. En marzo, la propuesta recibió apoyo suficiente para ser incluida en la reforma de la Ley Europea de Inteligencia Artificial.
El acuerdo se logró tras intensas negociaciones entre representantes del Parlamento Europeo, la Presidencia del Consejo y la Comisión Europea, concluidas en la madrugada del 7 de mayo. La enmienda española fue respaldada también por Francia.
La enmienda establece dos prácticas prohibidas relacionadas con el uso de Inteligencia Artificial en la UE. En primer lugar, se prohíbe generar o manipular imágenes, vídeos o audios realistas (‘deepfakes’) que involucren partes íntimas o que identifiquen a personas en actividades sexuales sin su consentimiento expreso. En segundo lugar, se prohíbe cualquier forma de generación o manipulación de pornografía infantil.
Óscar López subrayó que este acuerdo es un paso significativo hacia un modelo europeo seguro y confiable en materia de IA. Además, destacó que complementa otras iniciativas recientes del Gobierno español, como la Ley Orgánica para la protección de menores en entornos digitales, actualmente en tramitación.
La ley destinada a proteger a los menores es pionera en Europa y contempla reformas al Código Penal para penalizar tanto los ‘deepfakes’ sexuales como el grooming. Esta última práctica será considerada agravante para ciertos delitos sexuales. La legislación busca garantizar derechos fundamentales como la intimidad y protección de datos personales para niñas, niños y adolescentes.
En otro ámbito, se ha debatido sobre trasladar las obligaciones del Reglamento de IA a normativas sectoriales existentes. España se opuso firmemente a esta idea, argumentando que podría llevar a una desregulación perjudicial. Finalmente, solo se acordó transferir parte de la legislación relacionada con maquinaria industrial bajo condiciones específicas.
Se ha logrado establecer un registro simplificado para sistemas considerados no riesgosos según el Anexo III del Reglamento. Esto facilitará el control por parte de las autoridades competentes. Además, se reafirma la obligación de alfabetización sobre IA para proveedores y responsables del despliegue tecnológico.
El Gobierno celebra este acuerdo como un respaldo a su compromiso con acompañar a las empresas hacia una innovación responsable en inteligencia artificial, asegurando al mismo tiempo un marco confiable que respete los derechos humanos.
El acuerdo político deberá ser ratificado formalmente por el pleno del Parlamento y los ministros en el Consejo antes del receso veraniego.
La Unión Europea ha acordado, a propuesta del Gobierno de España, prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y uso de sistemas de Inteligencia Artificial que generen ‘deepfakes’ sexuales.
La propuesta fue impulsada tras la polémica generada por los desnudos de mujeres y menores creados por Grok, un asistente virtual de la red social X. Esto llevó a España a presentar la iniciativa en enero.
La enmienda propone prohibir dos prácticas: generar o manipular imágenes, vídeos o audios realistas de partes íntimas sin consentimiento expreso, y generar o manipular pornografía infantil.
El acuerdo se alinea con las iniciativas recientes del Gobierno español, incluyendo la Ley Orgánica para la protección de las personas menores de edad en entornos digitales, que busca proteger a los menores en el ámbito digital.
Se debatió sobre trasladar las obligaciones del Reglamento de IA a normas sectoriales existentes. España se opuso a esto para evitar desregulación y fragmentación del mercado interior.
El acuerdo político debe ser ratificado formalmente por el pleno del Parlamento y por los ministros en el Consejo, lo cual se espera que ocurra antes del receso de verano.