¿Cómo es el marco regulatorio actual sobre la inteligencia artificial?

El rápido desarrollo de la inteligencia artificial ha obligado a Estados de todo el mundo a legislar su uso, tanto en el ámbito personal, como en el empresarial o profesional.

En Europa, el marco regulatorio actual sobre inteligencia artificial está en plena consolidación y ya es posible conocer qué responsabilidad tienen proveedores, empresas y sus trabajadores a la hora de utilizar esta tecnología.

En este artículo explicamos cuál es la ley vigente, a qué cuestiones afecta y qué otras iniciativas reguladoras se están poniendo en marcha.

¿Qué ley regula la inteligencia artificial en Europa? La Ley de IA de 2024

El Reglamento (UE) 2024/1689, conocido como la Ley de Inteligencia Artificial (IA), es la primera legislación integral sobre IA en el mundo.

Su objetivo es doble:

• Por un lado, fomentar la innovación en IA.
• Por el otro, proteger los derechos fundamentales y la seguridad de los ciudadanos europeos en este ámbito.

Con este fin, establece un marco legal uniforme para el desarrollo, la comercialización y uso de sistemas de inteligencia artificial en la Unión Europea.

Principalmente, esta normativa se aplica a:

• Proveedores que comercializan sistemas de IA en la UE.
• Usuarios de estos sistemas dentro de la Unión.
• Proveedores y usuarios de sistemas de IA ubicados fuera de la UE cuando los resultados de estos sistemas se utilicen en la Unión.

Por su parte, las principales prohibiciones y obligaciones que recoge esta norma, son claras:

Prohibiciones y obligaciones en materia de IA

Este reglamento europeo de inteligencia artificial entró en vigor el 1 de agosto de 2024, pero su aplicación plena se realizará de forma escalonada hasta (previsiblemente) el 2 de agosto de 2027.

En cualquier caso, desde el 2 de febrero de 2025, ya están establecidas ciertas prohibiciones y obligaciones en materia de alfabetización de IA.

Entre las prohibiciones, destacan las siguientes:

• El uso de técnicas subliminales o de manipulación que puedan causar daño.
• La explotación de vulnerabilidades de grupos específicos basadas en la edad o discapacidad.
• El uso de sistemas de categorización biométrica basados en características sensibles.
• La creación de bases de datos de reconocimiento facial mediante la recopilación masiva de imágenes de internet o de cámaras de vigilancia.

En cuanto a las obligaciones, podemos mencionar la promoción de programas educativos sobre IA y el fomento de la diversidad de género y étnica en los equipos de desarrollo de IA.

A partir del 2 de agosto de 2025, entrarán en vigor las normas de gobernanza y las obligaciones para los modelos de IA de uso general, que afectarán a grandes modelos de lenguaje y sistemas de IA multipropósito.

En estas, se establece que las empresas que desarrollen o implementen estos modelos deberán informar sobre sus capacidades, limitaciones y posibles riesgos.

Próximamente, la UE establecerá un sistema de supervisión que incluirá auditorías regulares y la posibilidad de imponer sanciones por incumplimiento.

Próximas normas para sistemas de IA de alto riesgo

Las normas para sistemas de IA de alto riesgo integrados en productos regulados entrarán en vigor el 2 de agosto de 2027.

Se aplicarán a sistemas de aplicaciones de IA en la salud, la seguridad en el trabajo, y los vehículos autónomos, que deberán cumplir una serie de requisitos:

• Evaluaciones de riesgo exhaustivas antes de la comercialización.
• Implementación de sistemas de gestión de riesgos.
• Uso de datos de alta calidad para el entrenamiento y validación.
• Documentación detallada y trazabilidad del sistema.
• Transparencia y provisión de información a los usuarios.
• Supervisión humana efectiva.
• Robustez, precisión y ciberseguridad.

En este sentido, los fabricantes de estos productos deberán obtener una certificación específica que demuestre el cumplimiento de estos requisitos antes de poder comercializarlos en la UE.

¿Cómo se regula la inteligencia artificial en España?

Actualmente, España no cuenta con una ley específica sobre IA, pero se aplican varias leyes existentes que son relevantes para su regulación.

Entre ellas, podemos mencionar las siguientes:

• La Ley Orgánica 3/2018 de Protección de Datos Personales y Garantía de los Derechos Digitales, que regula el tratamiento de datos personales, incluyendo su uso en sistemas de IA.
• La Ley de Propiedad Intelectual, que puede aplicarse a las creaciones generadas por IA.
• La Ley de Patentes, relevante para las invenciones relacionadas con la IA.
• La Ley de Defensa de la Competencia, que puede aplicarse a prácticas anticompetitivas que involucren el uso de IA.

Además, el gobierno español está trabajando en varios proyectos para adaptar su marco regulatorio a los desafíos planteados por la IA, como:

La Estrategia Nacional de Inteligencia Artificial (ENIA).

La creación de un sandbox regulatorio para la IA, que permitirá probar aplicaciones de IA en un entorno controlado antes de su implementación general.

Ambos se recogen en la web España Digital 2026.

Además, el gobierno está trabajando activamente en la aplicación del Reglamento de IA de la UE, adaptando la legislación nacional a este nuevo marco europeo.

Otras medidas políticas que acompañan el desarrollo de la IA

Además de la Ley de IA, la Unión Europea ha puesto en marcha varias iniciativas para apoyar el desarrollo de una IA fiable y centrada en el ser humano, como son las siguientes:

• El paquete de innovación en materia de IA: este conjunto de medidas busca acelerar la adopción de la IA en Europa, proporcionando financiación y recursos para la investigación y el desarrollo de tecnologías de IA.
• La puesta en marcha de «fábricas» de IA: se trata de unas instalaciones especializadas donde se facilita la colaboración entre investigadores, empresas y el sector público para desarrollar soluciones de IA aplicables a diversos sectores.
• El plan coordinado sobre IA: es una iniciativa que busca alinear las estrategias de IA de los Estados miembros de la UE, fomentando la cooperación y el intercambio de mejores prácticas.
• El Pacto sobre la IA: se trata de una especie de tratado que invita a proveedores e implementadores de IA a cumplir con las obligaciones clave de la Ley de IA.

Todas estas medidas trabajan en sinergia para promover una IA segura, ética y beneficiosa para la sociedad europea, al tiempo que se fomenta la innovación y la competitividad en este campo tecnológico tan en auge.

De todos modos, también existen críticas a este tipo de normativas, ya que se argumenta que podrían frenar la innovación dentro de un sector tan dinámico y relevante en el mundo actual.

La formación, clave para utilizar la IA de forma segura

El Reglamento Europeo de Inteligencia Artificial 2024/1689 recoge la necesidad de formar a la población y a los profesionales de ámbitos de riesgo para utilizar la inteligencia artificial de manera segura.

Sin duda, uno de ellos es el de la salud, un sector con un uso de IA creciente y con una necesidad real de expertos conocedores de los distintos modelos y aplicaciones que estos tienen en el diagnóstico y seguimiento de distintas patologías, así como de su legislación.

En este sentido, una formación especializada como el Máster en Aplicaciones de Inteligencia Artificial en Sanidad de CEMP puede dar respuesta a esta necesidad de aprendizaje e innovación dentro del ámbito de la salud.

Su temario abarca tanto la parte teórica (incluyendo el marco regulatorio actual sobre inteligencia artificial) como la práctica, con módulos como los siguientes:

• Módulo 3: Aplicaciones de la IA en sanidad
• Módulo 4: Implementación de proyectos de IA en Sanidad

Incluye prácticas en empresas y un plan de empleabilidad que, sin duda, te facilitará el acceso a uno de los sectores más innovadores.

En definitiva, aunque es imprescindible contar con un marco regulatorio sobre inteligencia artificial, también es de vital importancia que la normativa no constituya un freno injusto para la innovación.

Al fin y al cabo, tanto los profesionales como los pacientes pueden beneficiarse de una aplicación correcta de este tipo de innovaciones en relación con la IA.