Marcelo Algarbe CalamanteLa inteligencia artificial ya no solo transforma la manera de producir contenidos: también empieza a estar sometida a reglas cada vez más estrictas. Desde este mes de agosto, la Unión Europea comenzó a aplicar nuevas disposiciones que obligan a identificar determinados materiales generados o modificados mediante inteligencia artificial.
La medida forma parte de la Ley de Inteligencia Artificial de la Unión Europea, aprobada en 2023 después de un extenso debate parlamentario. El objetivo es establecer un marco de regulación basado en el nivel de riesgo que representa cada sistema, con mayores controles para aquellas tecnologías que puedan afectar la seguridad, los derechos fundamentales y otros ámbitos sensibles.
Uno de los aspectos que comienza a tener impacto directo sobre los usuarios es la identificación del contenido generado mediante IA.
A partir de ahora, los videos, imágenes y sonidos generados artificialmente que puedan parecer auténticos deberán contar con una identificación visible y una marca de agua digital, incorporada directamente al archivo.
La intención es que los usuarios puedan distinguir con mayor facilidad entre un contenido real y otro creado artificialmente, especialmente frente al avance de los llamados deepfakes, capaces de reproducir con gran realismo la imagen, la voz o los movimientos de una persona.
También habrá reglas para los textos. Cuando se trate de contenidos de interés público generados mediante IA y que no hayan sido sometidos a una revisión editorial humana, deberán identificarse como tales.
Además, las empresas tendrán que informar a los usuarios cuando estén interactuando con un chatbot o cuando el material que reciben haya sido generado mediante inteligencia artificial.
La Unión Europea estableció algunas identificaciones genéricas que podrán utilizarse para advertir sobre el origen de los contenidos.
El símbolo circular negro con las letras “AI” será utilizado para señalar contenidos en cuya elaboración se emplearon herramientas de inteligencia artificial, incluidos determinados deepfakes y textos publicados.
La leyenda “AI Generated” (Generado con IA) identificará contenidos completamente creados mediante inteligencia artificial, como videos realistas de personajes públicos, determinadas obras musicales o resúmenes informativos.
En tanto, “AI Modified” (Modificado con IA) permitirá reconocer materiales originalmente producidos por personas pero que fueron alterados parcialmente mediante esta tecnología. Por ejemplo, una fotografía a la que se le modificó un rostro o una imagen real a la que se incorporaron digitalmente determinados elementos.
Las empresas también podrán desarrollar sus propios sistemas de identificación, siempre que cumplan con los requisitos establecidos por la normativa europea.
Las nuevas obligaciones contemplan excepciones. Las obras artísticas, satíricas o de ficción quedan fuera de determinadas exigencias de identificación, al igual que el contenido generado por usuarios para fines personales.
La regulación tampoco exige etiquetar contenidos generados antes de la entrada en vigor de estas disposiciones. Los sistemas de IA que ya estaban funcionando cuentan con plazos adicionales para adaptarse.
El incumplimiento de las normas puede tener un fuerte impacto económico para las empresas. Las multas podrían alcanzar los 15 millones de euros o el 3% de la facturación global de la compañía infractora, según el tipo de incumplimiento.
La fiscalización estará a cargo de la nueva Oficina de IA de la Unión Europea, que tendrá facultades para evaluar y verificar el funcionamiento de los grandes modelos de inteligencia artificial.
Los proveedores deberán facilitar el acceso a sus sistemas y adoptar medidas correctivas cuando las autoridades detecten incumplimientos.
La normativa europea no termina con el etiquetado. El calendario contempla nuevas restricciones y obligaciones para los próximos años.
Desde diciembre comenzarán a aplicarse prohibiciones sobre determinados sistemas capaces de generar imágenes de personas desnudas sin su consentimiento, así como material de abuso sexual infantil.
A fines de 2027 está previsto que entren en vigor nuevas disposiciones para sistemas considerados de alto riesgo, especialmente aquellos utilizados en ámbitos sensibles como la salud, la educación y el empleo.
Finalmente, en agosto de 2028 comenzarán a aplicarse reglas específicas para sistemas de inteligencia artificial incorporados en productos sujetos a otras normas europeas, como los vehículos.
La decisión de Bruselas marca así un nuevo capítulo en la evolución de la inteligencia artificial: la tecnología ya no solo deberá ser cada vez más capaz, sino también cada vez más identificable y transparente para quienes consumen sus contenidos.
