English
Русский
El 2 de febrero de 2025 marca un antes y un después en la regulación de la Inteligencia Artificial (en adelante, IA) en Europa, ya que, en esta fecha, entraron en vigor los primeros artículos del Reglamento Europeo de Inteligencia Artificial (en adelante, RIA). La Unión Europea da un paso decisivo en la protección de los derechos fundamentales frente a los riesgos que puede plantear esta tecnología. La prohibición de determinadas prácticas y la exigencia de alfabetización en IA para los responsables de su despliegue suponen una revolución en el sector tecnológico y empresarial, con consecuencias que afectarán en múltiples ámbitos de la sociedad.
Desde esta fecha (2/2/2025), quedan vetados los sistemas de IA que busquen manipular de manera subliminal el comportamiento de las personas, exploten vulnerabilidades por edad o discapacidad, o sean utilizados para categorizar individuos mediante técnicas biométricas. Asimismo, se prohíbe el reconocimiento de emociones en los lugares de trabajo, una práctica que generó gran controversia por su posible impacto en la privacidad y los derechos laborales. Estas prácticas están expresamente prohibidas por el artículo 5 de la normativa vigente.
Un caso viral de inteligencia artificial prohibida fue Clearview AI, una empresa estadounidense que recopilaba fotos de redes sociales y sitios web para crear una base de datos biométrica. Fue demandada por Matthias Marx, quien descubrió que su imagen había sido añadida a la base de datos sin su conocimiento ni permiso. La Autoridad de Protección de Datos de Hamburgo dictaminó que la recogida de imágenes de residentes europeos por parte de Clearview AI es ilegal, aunque solo ordenó la eliminación de los valores “Hash” matemáticos que representaban el perfil biométrico del Sr. Marx, no las imágenes en sí. Este caso pone de manifiesto la creciente preocupación sobre el uso de la inteligencia artificial en la vigilancia masiva, especialmente cuando se utiliza para categorizar y controlar a las personas sin su consentimiento, algo que ahora está prohibido por el artículo 5 de la normativa de IA de la UE del que hablamos.
¿Las restricciones son buenas para protegernos o malas porque aumentan el control burocrático sobre el individuo?
Según la propia Ley estas restricciones no sólo buscan prevenir abusos, sino también establecer un marco ético y responsable para la implementación de la IA en Europa. Empresas del sector de la seguridad, recursos humanos y tecnología, serán algunas de las más afectadas por esta normativa, debiendo adaptar sus sistemas y prácticas a las nuevas exigencias legales.
El incumplimiento de estas disposiciones conllevará sanciones severas: hasta 35 millones de euros o el 7% del volumen de negocio anual de la empresa infractora. La Agencia Española de Supervisión de la IA (Aesia) será la encargada de vigilar el cumplimiento de la normativa y aplicar las correspondientes sanciones. Una nueva Agencia creada para sancionar el uso, o mal uso, según entienda la norma qué es un mal uso.
Otro aspecto fundamental del reglamento es la obligación de garantizar un nivel suficiente de formación en IA para todas las personas responsables de su despliegue y uso. Este requisito no sólo busca asegurar un uso consciente y responsable de la tecnología, sino también mitigar los riesgos asociados a su aplicación.
Alfabetizar en Inteligencia Artificial
Es evidente que esta nueva tecnología debe ser estudiada y la población debe formarse en su uso, es lo que hemos llamado “alfabetización en IA”. La alfabetización en IA se centra en dotar a los profesionales de conocimientos sobre los beneficios y riesgos de esta tecnología, así como sobre sus implicaciones legales y éticas. Se espera que esta medida ayude a fomentar una IA más transparente, explicable y controlada por humanos, un requisito indispensable que será obligatorio en todos los entornos laborales en los próximos años.
El Reglamento establece un calendario progresivo de aplicación, con nuevas medidas que entrarán en vigor en los próximos meses y años. Lo siguiente es que, para el próximo 2 de agosto de 2025, se aplicarán restricciones adicionales sobre sistemas de alto riesgo y modelos de IA de uso general, mientras que para 2027 el reglamento estará plenamente implementado.
Esta regulación representa una apuesta por un desarrollo tecnológico basado en la confianza y la protección de los derechos fundamentales. La Unión Europea se coloca, así, a la vanguardia en regulación de la IA, estableciendo un modelo que podría influir en futuras normativas a nivel global, si bien la Unión Europea no está a la vanguardia del uso y desarrollo informático de la IA, pues ha optado por regularla antes que estudiarla.
La entrada en vigor del Reglamento Europeo de IA supone un punto de inflexión para el sector tecnológico. Si bien plantea desafíos para empresas y desarrolladores, también abre la puerta a una IA más ética, transparente y centrada en el ser humano. Con sanciones drásticas para los infractores y un enfoque progresivo en la regulación, Europa trata de marcar el camino hacia un futuro donde la inteligencia artificial sea una herramienta al servicio de la sociedad y no un riesgo para sus derechos fundamentales.
