El país nórdico impulsa una reforma para reconocer legalmente la propiedad personal sobre voz, rostro y cuerpo frente a usos no consentidos con inteligencia artificial.
MÁS ALLÁ DEL DISCURSO/Carlos Serrano
La iniciativa promovida en Dinamarca para otorgar a sus ciudadanos derechos sobre su imagen, voz y cuerpo, frente al uso no consentido mediante inteligencia artificial (IA) no solo representa un punto de inflexión en el ámbito legislativo, sino también una llamada de atención a todas las democracias modernas. El proyecto, que busca enmendar su ley de derechos de autor para reconocer la “propiedad” personal sobre rasgos biométricos, coloca a ese país nórdico como pionero en Europa.
En ese país, cualquier ciudadano podrá exigir la remoción de contenidos mediáticos engañosos o deepfakes realistas que usen su imagen o voz -excepto en casos de parodia o sátira- y obtener compensación por daños, además de imponer multas a plataformas tecnológicas que no actúen conforme al Reglamento Europeo de Servicios Digitales.
¿POR QUÉ SURGE ESTA LEY AHORA?
El avance de la IA generativa ha convertido la creación de deepfakes en algo tan accesible como instalar una app en un teléfono celular. De ahí que algunos especialistas consideren urgente establecer una protección, ya que pronto será difícil distinguir entre contenido real y uno generado por la inteligencia artificial, poniendo en riesgo a las democracias globales, donde existe un ecosistema de fraude multimillonario que va en franco aumento, como sucedió el año pasado en Estados Unidos, con pérdidas por 12 mil 500 millones de dólares.
Del otro lado del mundo, se activaron alertas en el Reino Unido y otros países, a causa de deepfakes usados contra políticos, como el audio difundido en octubre de 2023 en el Partido Laborista Británico que involucró a su líder, el abogado y político, Keir Rodney Starmer, en el que supuestamente insultó a sus seguidores, lo que fue desmentido en su momento, pero daño severamente su credibilidad.
ADEMÁS DE DINAMARCA: ¿QUÉ OTRAS INICIATIVAS EXISTEN?
El debate parlamentario no es exclusivo de Dinamarca. En Francia, la ley SREN, promovida en mayo de 2024, sanciona la difusión de deepfakes hasta con tres años de cárcel y una multa de hasta 75 mil euros. En el Reino Unido, la Ley de Seguridad en Internet de 2023 sanciona penalmente los deepfakes sexuales, mientras que el marco europeo de mayor alcance -el AI Act-, exige etiquetar y marcar claramente cualquier contenido generado por IA, aunque no reconoce derechos de autor sobre la imagen o voz de las personas, lo que aún deja un largo trecho por legislar.
Por otra parte, en los Estados Unidos, el año pasado se aprobó la ley federal denominada “Take It Down Act” (Ley de Herramientas para Abordar la Explotación Conocida mediante la Inmovilización de Deepfakes Tecnológicos en Sitios Web y Redes), que prohíbe la divulgación no consentida de imágenes sexuales reales o generadas por IA, sin consentimiento. Además, el estado de Tennessee actualizó su “Elvis Act”, que permite la transferencia de derechos sobre el nombre, voz o imagen de una persona a sus herederos por diez años tras su fallecimiento, para ampliar la protección de la voz de aquellos artistas legendarios frente a la posibilidad de clonación por IA.
¿Y MÉXICO?
En nuestro país existe la Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP), promulgada en 2010, que buscaba regular el uso de datos personales, incluyendo biométricos, como son huellas dactilares, reconocimiento facial, la voz o la firma, que se incluyen en documentos oficiales como la credencial del INE o la licencia de manejo.
En 2023, el Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) alertó sobre un aumento del 218 % sobre el robo de identidad con IA en la Ciudad de México, vinculado a hackeos a redes sociales y clonación de voz o bancos de datos. No obstante, aún no existe una legislación específica frente a los deepfakes ni sobre derechos de imagen que sea contundente. El debate legislativo sigue siendo incipiente ya que, aunque hay inquietud entre los políticos y grupos parlamentarios, nadie ha presentado un anteproyecto de ley que permita reconocer expresamente la titularidad de la voz, rostro o cuerpo, frente a herramientas de IA generativa.
De hecho, lo único que recientemente se aprobó fue un paquete de reformas a la Ley General de Población y a la Ley General en materia de Desaparición Forzada, que busca transformar la Clave Única de Registro de Población en una CURP biométrica, como parte de un nuevo sistema de identificación digital obligatorio, que ha sido duramente criticado por posibles fallas de seguridad, abuso de datos y ausencia de mecanismos judiciales de control, similar a lo que sucede en algunos bancos, al incluir datos biométricos como voz, iris y rostro, lo que pone en relieve posibles filtraciones, sin que exista una legislación robusta que garantice el uso exclusivo conforme a la ley.
¿QUÉ PODEMOS HACER?
Primero, se tendría que reformar la Ley Federal de Protección de Datos Personales en Posesión de los Particulares para reconocer explícitamente los derechos de “propiedad” o imagen de las personas frente al uso por inteligencia artificial, es decir: voz, rostro, gestos y cuerpo. Lo segundo es la creación de un mecanismo ágil, que elimine la burocracia, para facilitar las denuncias de uso no autorizado que deriven en órdenes de retiro en 24‑48 horas, como lo propone el modelo danés.
Lo siguiente es el establecimiento de sanciones proporcionales a los agravios, que consideren indemnizaciones y sanciones en contra de plataformas y generadores de contenido que incumplan las restricciones, con excepciones cuando se trate de parodia, arte y el ejercicio periodístico, con cláusulas específicas que impidan la censura creativa, además de destinar más recursos a investigación y desarrollo para identificar deepfakes, aunado a campañas de “alfabetización digital” para enseñar a la ciudadanía a identificar contenido generado por IA y proteger su identidad digital.
Lo que digo es que no hay que echar en saco roto el esfuerzo que están realizando en diferentes partes del mundo, como en Dinamarca, porque se trata de una señal de alarma. El futuro de nuestra identidad digital está en juego, porque sin un marco normativo sólido, México podría volverse un terreno fértil para fraudes, daño a la reputación y manipulación política. No se trata solo de reaccionar ante incidentes aislados, se necesita legislar con inteligencia, anticiparse al riesgo y empoderar a la ciudadanía para que pueda denunciar sin miedo.
Es hora de que nuestros legisladores tomen el toro por los cuernos y reconozcan que la propia cara, la voz y el cuerpo deben ser protegidos en la era digital. De lo contrario, lo que hoy es una curiosidad tecnológica —un deepfake que se vuelve viral— mañana será un arma habitual contra nuestras libertades individuales, no solo de los políticos, funcionarios, empresarios o hasta líderes religiosos, sino de los ciudadanos de a pie.
Discussion about this post