LA NUEVA
REGULACIÓN DE LA IA EN LA UNIÓN EUROPEA: UN PASO ADELANTE Y SUS DESAFÍOS EN
RELACIÓN A LOS DERECHOS DE AUTOR.
Normativa.
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de
junio de 2024, por el que se establecen normas armonizadas en materia de
inteligencia artificial y por el que se modifican los Reglamentos (CE) no
300/2008, (UE) no 167/2013, (UE) no 168/2013, (UE) 2018/858, (UE) 2018/1139 y
(UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828
(RIA). ( Link: Reglamento (UE) 2024/1689 )
Entrada en Vigor.
Se fijó la entrada en vigor para el 2
de agosto de 2024, pero
con carácter escalonado, así, se estableció el 2 de febrero de 2025
como dead line para la implantación de
las prohibiciones y disposiciones generales, y el 2 de agosto de 2025 como fecha de implementación del régimen sancionador, ante
los posibles incumplimientos de las prescripciones reglamentarias.
Implicaciones de la nueva normativa.
La ley establece directrices sobre cómo se debe desarrollar y
utilizar la IA, priorizando la seguridad,
la transparencia y la ética. Se busca proteger a los ciudadanos y
garantizar que la IA se utilice de manera responsable. Esto incluye la
obligación de que los sistemas de IA sean auditables y que se informe a los
usuarios sobre su funcionamiento, lo que representa un avance hacia una mayor
confianza en estas tecnologías.
Ventajas.
1. Regulación y Seguridad: La ley
establece un marco regulatorio claro que ayuda a garantizar que las
aplicaciones de inteligencia artificial se desarrollen y utilicen de manera
segura y ética. Esto protege tanto a los usuarios como a las empresas.
2. Fomento de la Innovación: Al proporcionar
directrices claras, la ley puede incentivar la innovación en el sector
tecnológico, ya que las empresas saben qué esperar y pueden invertir con mayor
confianza en el desarrollo de nuevas tecnologías.
3. Protección de Datos: Se han implementado
medidas más estrictas para la protección de datos personales, lo que ayuda a
salvaguardar la privacidad de los usuarios y a fomentar la confianza en el uso
de tecnologías basadas en IA.
4. Responsabilidad: La ley establece
responsabilidades claras para los desarrolladores y proveedores de IA, lo que
significa que hay un marco para abordar cualquier problema o daño que pueda surgir
del uso de estas tecnologías.
5. Inclusión y Accesibilidad: Se promueve el
desarrollo de tecnologías de IA que sean inclusivas y accesibles para todos, lo
que puede ayudar a reducir la brecha digital y asegurar que más personas se
beneficien de los avances tecnológicos.
6. Colaboración Internacional: La ley también
puede facilitar la colaboración entre países en el ámbito de la inteligencia
artificial, promoviendo estándares globales que beneficien a todos.
8. Mejorar la gobernanza y la aplicación efectiva de la
legislación vigente en materia de derechos fundamentales y los requisitos de
seguridad aplicables a los sistemas de IA.
Ámbito de aplicación.
Esta ley se aplicará
a:
- Empresas y desarrolladores que diseñen o
comercialicen sistemas de IA dentro de la UE, independientemente de su
ubicación geográfica.
- Entidades públicas y privadas que utilicen IA en sus
procesos de toma de decisiones.
- Consumidores y usuarios de sistemas de IA en la
UE, garantizando su derecho a la transparencia y seguridad en el uso de
estas tecnologías.
En resumen, la ley busca equilibrar la innovación
con la seguridad y la ética, lo que puede resultar en un entorno más saludable
para el desarrollo y uso de la inteligencia artificial.
EL DILEMA DE LOS DERECHOS DE AUTOR.
¿Quién es el autor de una obra creada
por una IA? ¿Es el programador que diseñó el algoritmo, la empresa que lo
utiliza, o la propia IA?
Sam Altman, creador
de OpenAI (ChatGPT), reconoció ante
la Cámara de los Lores de Reino Unido que «sería imposible entrenar los modelos actuales de IA sin material con
derechos de autor».
La falta de claridad en este ámbito
puede llevar a conflictos legales y éticos. Por un lado, los creadores de
contenido humano podrían sentirse amenazados por la capacidad de la IA para
generar obras similares o incluso superiores. Por otro lado, si se otorgan
derechos de autor a las obras generadas por IA, esto podría abrir la puerta a
un nuevo tipo de propiedad intelectual que aún no se ha explorado
completamente.
Problemáticas.
1. Autoría: Una de las preguntas fundamentales es quién es
considerado el "autor" de
una obra creada por IA. Tradicionalmente, los derechos de autor se otorgan a
personas físicas, lo que plantea un dilema cuando una obra es generada por un
algoritmo o un sistema de IA. ¿Es el programador que creó la IA, la empresa que
la utiliza, o la propia IA la que debería ser reconocida como autora? En
la mayoría de las jurisdicciones, entre ellas España y Alemania, únicamente las
obras creadas por un ser humano pueden estar protegidas por el derecho de autor
2. Derechos de los Creadores: Si se reconoce que las obras
generadas por IA tienen derechos de autor, esto podría afectar a los creadores
humanos. Por ejemplo, si una IA puede generar música, arte o texto de manera
similar a un humano, los artistas y escritores podrían sentir que su trabajo
está siendo desvalorizado o amenazado.
3. Licencias y Uso: La falta de claridad sobre la autoría
también complica la cuestión de las licencias. Si una obra generada por IA se
utiliza comercialmente, ¿quién tiene derecho a licenciarla? Esto puede llevar a
disputas legales y a la necesidad de nuevas normativas que aborden específicamente
estas situaciones.
4. Excepciones y Limitaciones: Las leyes de
derechos de autor suelen incluir excepciones y limitaciones, como el uso justo.
Sin embargo, la aplicación de estas excepciones en el contexto de obras
generadas por IA es aún un área gris, lo que puede generar incertidumbre sobre
cómo se pueden utilizar estas obras sin infringir derechos.
Por ejemplo, parece
que la nueva versión de DALL-E3 de Open AI cuenta con un mecanismo que permite
a los artistas la opción de restringir o negar por completo el uso de sus
creaciones en el entrenamiento que hace el sistema de versiones posteriores.
Además, tiene una política de contenido por la que advierte al usuario que no
puede generar contenido “al estilo de” artistas de menos de 100 años. Esta
política de contenidos de Open AI y la posibilidad que se ofrece a los autores
de que manifiesten su deseo de que sus obras no se usen en estos sistemas de
entrenamiento para versiones posteriores ya pone de manifiesto, al menos,
cierta sensibilidad con sus
derechos.
Preguntas
Frecuentes
· La inteligencia
artificial tiene derechos de autor?
No, a las obras
creadas íntegramente por una máquina, sin intervención humana (el prompt no
cuenta aquí), no se les puede atribuir derechos de autor ni protegerlos, puesto
que estos derechos solo pueden atribuirse a seres humanos.
·Qué empresas están obligadas a cumplir
con la nueva Ley de IA?
Todas las empresas que desarrollen,
implementen o utilicen sistemas de inteligencia artificial en la UE deben
cumplir con la normativa. Esto incluye tanto a desarrolladores de IA como a
organizaciones que integran herramientas de IA en sus procesos.
·La Ley de IA solo afecta a empresas dentro de la UE o
también a empresas extranjeras?
La normativa también aplica a empresas extranjeras si sus sistemas de IA afectan a ciudadanos de la UE.
·Las empresas que solo usan herramientas de IA de terceros también
deben cumplir con la normativa?
Sí. Aunque la carga regulatoria principal recae en los
desarrolladores de IA, las empresas que usen herramientas de terceros deben
asegurarse de que estas cumplen con la ley.
·En qué se diferencia la Ley de IA del Reglamento General de
Protección de Datos (RGPD)?
La Ley de Inteligencia Artificial (IA) de la Unión
Europea y el Reglamento General de Protección de Datos (RGPD) son dos
normativas distintas, aunque complementarias, con objetivos diferentes.
Principales diferencias:
1. Enfoque y objetivo
- Ley de IA: Regula el desarrollo, uso y comercialización
de sistemas de inteligencia artificial. Su meta es garantizar que la IA se
utilice de manera segura, ética y respetuosa con los derechos
fundamentales.
- RGPD: Protege los datos personales de las personas
físicas en la UE. Se centra en cómo se recopilan, procesan, almacenan
y comparten esos datos.
2. Ámbito de aplicación
- Ley de IA: Abarca todos los sistemas de IA, incluso
si no tratan datos personales. Clasifica los sistemas por nivel de riesgo
(mínimo, limitado, alto y prohibido).
- RGPD: Aplica solo cuando hay tratamiento de datos
personales, independientemente de si se usa o no IA.
3. Riesgos y clasificación
- Ley de IA: Introduce una clasificación de riesgos:
- Riesgo inaceptable (prohibido)
- Riesgo alto (regulado estrictamente)
- Riesgo limitado o mínimo (obligaciones menores o nulas)
- RGPD: No clasifica tecnologías por riesgo, aunque
promueve evaluaciones de impacto cuando el tratamiento puede
suponer un alto riesgo para los derechos y libertades.
. Sujetos regulados
- Ley de IA: Aplica a proveedores, implementadores,
importadores y distribuidores de sistemas de IA en el mercado de la
UE.
- RGPD: Se dirige a responsables y encargados del
tratamiento de datos personales, como empresas, organizaciones
públicas o privadas.
Tipos de obligaciones
- Ley de IA: Impone requisitos como:
- Transparencia del sistema
- Gestión de riesgos
- Documentación técnica
- Supervisión humana
- RGPD: Establece obligaciones como:
- Consentimiento para el tratamiento de datos
- Derecho al olvido
- Portabilidad de datos
- Notificación de brechas de seguridad
Cómo
se relacionan?
Un sistema de IA que usa datos personales debe
cumplir ambas leyes:
- La Ley de IA, por su funcionamiento y
riesgos.
- El RGPD, por el tratamiento de los datos
personales.
En resumen, la cuestión de los derechos de autor en relación
con las obras generadas por IA es un tema en desarrollo que requiere un diálogo
continuo entre legisladores, expertos en tecnología y la comunidad creativa
para encontrar un equilibrio que fomente la innovación y proteja los derechos
de todos los involucrados.
*NOTA:
*Reglamento
(UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024.
Artículo 5 Prácticas de IA prohibidas:
1. Quedan prohibidas las siguientes prácticas de IA:
· a) la introducción en el mercado, la puesta
en servicio o la utilización de un sistema de IA que se sirva de técnicas
subliminales que trasciendan la conciencia de una persona o de técnicas
deliberadamente manipuladoras o engañosas con el objetivo o el efecto de
alterar de manera sustancial el comportamiento de una persona o un colectivo de
personas, mermando de manera apreciable su capacidad para tomar una decisión
informada y haciendo que tomen una decisión que de otro modo no habrían tomado,
de un modo que provoque, o sea razonablemente probable que provoque, perjuicios
considerables a esa persona, a otra persona o a un colectivo de personas;
· b) la introducción en el mercado, la puesta
en servicio o la utilización de un sistema de IA que explote alguna de las
vulnerabilidades de una persona física o un determinado colectivo de personas
derivadas de su edad o discapacidad, o de una situación social o económica
específica, con la finalidad o el efecto de alterar de manera sustancial el
comportamiento de dicha persona o de una persona que pertenezca a dicho
colectivo de un modo que provoque, o sea razonablemente probable que provoque,
perjuicios considerables a esa persona o a otra;
· c) la introducción en el mercado, la puesta
en servicio o la utilización de sistemas de IA para evaluar o clasificar a
personas físicas o a colectivos de personas durante un período determinado de
tiempo atendiendo a su comportamiento social o a características personales o
de su personalidad conocidas, inferidas o predichas, de forma que la puntuación
ciudadana resultante provoque una o varias de las situaciones siguientes:
o
i) un trato perjudicial o desfavorable hacia determinadas personas físicas o
colectivos de personas en contextos sociales que no guarden relación con los
contextos donde se generaron o recabaron los datos originalmente,
o
ii) un trato perjudicial o desfavorable hacia determinadas personas físicas o
colectivos de personas que sea injustificado o desproporcionado con respecto a
su comportamiento social o la gravedad de este;
· d) la introducción en el mercado, la puesta
en servicio para este fin específico o el uso de un sistema de IA para realizar
evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el
riesgo de que una persona física cometa un delito basándose únicamente en la
elaboración del perfil de una persona física o en la evaluación de los rasgos y
características de su personalidad; esta prohibición no se aplicará a los
sistemas de IA utilizados para apoyar la valoración humana de la implicación de
una persona en una actividad delictiva que ya se base en hechos objetivos y
verificables directamente relacionados con una actividad delictiva;
· e) la introducción en el mercado, la puesta
en servicio para este fin específico o el uso de sistemas de IA que creen o
amplíen bases de datos de reconocimiento facial mediante la extracción no
selectiva de imágenes faciales de internet o de circuitos cerrados de
televisión;
· f) la introducción en el mercado, la puesta
en servicio para este fin específico o el uso de sistemas de IA para inferir
las emociones de una persona física en los lugares de trabajo y en los centros
educativos, excepto cuando el sistema de IA esté destinado a ser instalado o
introducido en el mercado por motivos médicos o de seguridad;
· g) la introducción en el mercado, la puesta
en servicio para este fin específico o el uso de sistemas de categorización
biométrica que clasifiquen individualmente a las personas físicas sobre la base
de sus datos biométricos para deducir o inferir su raza, opiniones políticas,
afiliación sindical, convicciones religiosas o filosóficas, vida sexual u
orientación sexual; esta prohibición no incluye el etiquetado o filtrado de
conjuntos de datos biométricos adquiridos lícitamente, como imágenes, basado en
datos biométricos ni la categorización de datos biométricos en el ámbito de la
garantía del cumplimiento del Derecho;
· h) el uso de sistemas de identificación
biométrica remota «en tiempo real» en espacios de acceso público con fines de
garantía del cumplimiento del Derecho, salvo y en la medida en que dicho uso
sea estrictamente necesario para alcanzar uno o varios de los objetivos
siguientes:
o
i) la búsqueda selectiva de víctimas concretas de secuestro, trata de seres
humanos o explotación sexual de seres humanos, así como la búsqueda de personas
desaparecidas,
o
ii) la prevención de una amenaza específica, importante e inminente para la
vida o la seguridad física de las personas físicas o de una amenaza real y
actual o real y previsible de un atentado terrorista,
o
iii) la localización o identificación de una persona sospechosa de haber
cometido un delito a fin de llevar a cabo una investigación o un enjuiciamiento
penales o de ejecutar una sanción penal por alguno de los delitos mencionados
en el anexo II que en el Estado miembro de que se trate se castigue con una
pena o una medida de seguridad privativas de libertad cuya duración máxima sea
de al menos cuatro años.
El párrafo primero, letra h), se entiende sin perjuicio de lo dispuesto en
el artículo 9 del
Reglamento (UE) 2016/679 en lo que respecta al tratamiento de
datos biométricos con fines distintos de la garantía del cumplimiento del
Derecho.
2. El uso de sistemas de identificación biométrica remota «en tiempo real» en
espacios de acceso público con fines de garantía del cumplimiento del Derecho
para cualquiera de los objetivos mencionados en el apartado 1, párrafo primero,
letra h), debe desplegarse para los fines establecidos en dicha letra,
únicamente para confirmar la identidad de la persona que constituya el objetivo
específico y tendrá en cuenta los siguientes aspectos:
· a) la naturaleza de la situación que dé
lugar al posible uso, y en particular la gravedad, probabilidad y magnitud del
perjuicio que se produciría de no utilizarse el sistema;
· b) las consecuencias que tendría el uso del
sistema en los derechos y las libertades de las personas implicadas, y en
particular la gravedad, probabilidad y magnitud de dichas consecuencias.
Además, el uso de sistemas de identificación biométrica remota «en tiempo
real» en espacios de acceso público con fines de garantía del cumplimiento del
Derecho para cualquiera de los objetivos mencionados en el apartado 1, párrafo
primero, letra h), del presente artículo deberá cumplir garantías y condiciones
necesarias y proporcionadas en relación con el uso de conformidad con el
Derecho nacional que autorice dicho uso, en particular en lo que respecta a las
limitaciones temporales, geográficas y personales. El uso del sistema de
identificación biométrica remota «en tiempo real» en espacios de acceso público
solo se autorizará si la autoridad garante del cumplimiento del Derecho ha
completado una evaluación de impacto relativa a los derechos fundamentales
según lo dispuesto en el artículo 27 y ha registrado el sistema en la base de
datos de la UE de conformidad con el artículo 49. No obstante, en casos de
urgencia debidamente justificados, se podrá empezar a utilizar tales sistemas
sin el registro en la base de datos de la UE, siempre que dicho registro se
complete sin demora indebida.
3. A los efectos del apartado 1, párrafo primero, letra h), y el apartado 2,
todo uso de un sistema de identificación biométrica remota «en tiempo real» en
espacios de acceso público con fines de garantía del cumplimiento del Derecho
estará supeditado a la concesión de una autorización previa por parte de una
autoridad judicial o una autoridad administrativa independiente cuya decisión
sea vinculante del Estado miembro en el que vaya a utilizarse dicho sistema,
que se expedirá previa solicitud motivada y de conformidad con las normas
detalladas del Derecho nacional mencionadas en el apartado 5. No obstante, en
una situación de urgencia debidamente justificada, se podrá empezar a utilizar
tal sistema sin autorización siempre que se solicite dicha autorización sin
demora indebida, a más tardar en un plazo de veinticuatro horas. Si se rechaza
dicha autorización, el uso se interrumpirá con efecto inmediato y todos los
datos, así como los resultados y la información de salida generados por dicho
uso, se desecharán y suprimirán inmediatamente.
La autoridad judicial competente o una autoridad administrativa independiente
cuya decisión sea vinculante únicamente concederá la autorización cuando tenga
constancia, sobre la base de pruebas objetivas o de indicios claros que se le
aporten, de que el uso del sistema de identificación biométrica remota «en
tiempo real» es necesario y proporcionado para alcanzar alguno de los objetivos
especificados en el apartado 1, párrafo primero, letra h), el cual se indicará
en la solicitud, y, en particular, se limita a lo estrictamente necesario en lo
que se refiere al período de tiempo, así como al ámbito geográfico y personal.
Al pronunciarse al respecto, esa autoridad tendrá en cuenta los aspectos
mencionados en el apartado 2. Dicha autoridad no podrá adoptar ninguna decisión
que produzca efectos jurídicos adversos para una persona exclusivamente sobre
la base de los resultados de salida del sistema de identificación biométrica
remota «en tiempo real».
4. Sin perjuicio de lo dispuesto en el apartado 3, todo uso de un sistema de
identificación biométrica remota «en tiempo real» en espacios de acceso público
con fines de garantía del cumplimiento del Derecho se notificará a la autoridad
de vigilancia del mercado pertinente y a la autoridad nacional de protección de
datos de conformidad con las normas nacionales a que se refiere el apartado 5.
La notificación contendrá, como mínimo, la información especificada en el
apartado 6 y no incluirá datos operativos sensibles.
5. Los Estados miembros podrán decidir contemplar la posibilidad de autorizar,
ya sea total o parcialmente, el uso de sistemas de identificación biométrica
remota «en tiempo real» en espacios de acceso público con fines de garantía del
cumplimiento del Derecho dentro de los límites y en las condiciones que se
indican en el apartado 1, párrafo primero, letra h), y los apartados 2 y 3. Los
Estados miembros de que se trate deberán establecer en sus respectivos Derechos
nacionales las normas detalladas necesarias aplicables a la solicitud, la
concesión y el ejercicio de las autorizaciones a que se refiere el apartado 3,
así como a la supervisión y la presentación de informes relacionadas con estas.
Dichas normas especificarán también para qué objetivos de los enumerados en el
apartado 1, párrafo primero, letra h), y en su caso en relación con qué delitos
de los indicados en la letra h), inciso iii), se podrá autorizar a las
autoridades competentes para que utilicen esos sistemas con fines de garantía
del cumplimiento del Derecho. Los Estados miembros notificarán dichas normas a
la Comisión a más tardar treinta días después de su adopción. Los Estados
miembros podrán adoptar, de conformidad con el Derecho de la Unión, leyes más
restrictivas sobre el uso de sistemas de identificación biométrica remota.
6. Las autoridades nacionales de vigilancia del mercado y las autoridades
nacionales de protección de datos de los Estados miembros a las que se haya
notificado el uso de sistemas de identificación biométrica remota «en tiempo
real» en espacios de acceso público con fines de garantía del cumplimiento del
Derecho con arreglo al apartado 4 presentarán a la Comisión informes anuales
sobre dicho uso. A tal fin, la Comisión facilitará a los Estados miembros y a
las autoridades nacionales de vigilancia del mercado y de protección de datos
un modelo que incluya información sobre el número de decisiones adoptadas por
las autoridades judiciales competentes o una autoridad administrativa
independiente cuya decisión sea vinculante en relación con las solicitudes de
autorización de conformidad con el apartado 3, así como su resultado.
7. La Comisión publicará informes anuales sobre el uso de sistemas de
identificación biométrica remota «en tiempo real» en espacios de acceso público
con fines de garantía del cumplimiento del Derecho elaborados basados en datos
agregados relativos a los Estados miembros sobre la base de los informes
anuales a que se refiere el apartado 6. Dichos informes anuales no incluirán
datos operativos sensibles de las actividades de garantía del cumplimiento del
Derecho conexas.
8. El presente artículo no afectará a las prohibiciones aplicables cuando una
práctica de IA infrinja otras disposiciones de Derecho de la Unión.
Photo: @pixabay
Comentarios
Publicar un comentario