En esta vertiginosa carrera de la Inteligencia Artificial Generativa, así como los humanos la usan para mejorar sus vidas y sus esferas de actuación, desafortunadamente hay quienes las usan para cometer delitos y generar perjuicios.

Las deep fakes son imágenes, videos o audios que son generados con IA que muestran personas reales o inexistentes para entretenimiento, pero también pueden ser usadas para cometer delitos.

Trascendió en medios especializados que Dinamarca quien como país miembro de la Unión Europea la preside a partir del 1 de Julio de 2025, pretende impulsar en su agenda local, primero, una modificación a la ley de derechos de autor para garantizar que todos los habitantes del país, tengan derechos sobre su imagen (rostro, voz y cuerpo), con el fin de proteger a sus ciudadanos de los deep fakes.

Esto significa que si alguien usa la imagen de un tercero para generar mediante inteligencia artificial material propagandístico, pornográfico o fraudulento se enfrentará a multas y, además, deberá compensar económicamente a quienes sean objeto de imitaciones digitales que, también tendrán la potestad de exigirle a las plataformas que retiren el material infractor.

Esta es la primera ley de este tipo en Europa e incluirá las imitaciones realistas generadas digitalmente de la interpretación de un artista sin consentimiento

De aprobarse, la ley dará tres derechos:

A diferencia de muchas leyes existentes que solo permiten acciones legales después de que se ha causado un daño, la propuesta danesa busca ser preventiva. Permitiría a las personas exigir la eliminación de contenido deep fake no consentido, incluso antes de que cause un perjuicio evidente.

Adicionalmente, establecerá grandes multas para los infractores, sistemas obligatorios de remoción y sistemas de vigilancia para rastrear el mal uso de IA en línea.

El proyecto de ley danés coincidió con la introducción del borrador del Proyecto de informe sobre derechos de autor e inteligencia artificial generativa (GenAI) al Parlamento Europeo. Este documento desea poner el foco sobre la necesidad de ampliar y hacer más sólido el marco legal que protege a los creadores en Europa, al tiempo que se protegen la innovación y la inversión en esta materia.

En Estados Unidos hay algunos esfuerzos al respecto:

"Take It Down Act" (Ley de Derribo): Esta es una de las legislaciones federales más relevantes. Fue aprobada y penaliza la publicación y distribución de imágenes íntimas (reales o manipuladas con IA) sin el consentimiento de las personas involucradas. Contempla multas y penas de prisión. También impone a los sitios web y servicios en línea la obligación de establecer mecanismos para eliminar este tipo de contenido.

"No Fakes Act" Un proyecto de ley bipartidista presentado en el Senado que busca prohibir la creación y distribución de réplicas de voz e imagen generadas por IA sin consentimiento explícito. Propone que cualquier violación sea considerada una infracción de derechos de autor y permite que las personas afectadas demanden y obtengan compensaciones. Esta ley busca llenar un vacío legal en cuanto al consentimiento y la responsabilidad en el contexto de réplicas de IA.

En México lindo y querido no hay regulación específica para la inteligencia artificial, por ahora.

Una aproximación es la Ley General de Acceso a las Mujeres a una Vida Libre de Violencia que podría aplicarse en casos de deep fakes utilizados para crear pornografía no consensuada, ya que se considera una forma de violencia digital.

¿Lo que no está prohibido está permitido? ¿La ignorancia no te exime de tu responsabilidad?