English
Русский
Una de las principales preocupaciones de las empresas ante la entrada en aplicación del AI Act es saber qué ocurre si no cumplen sus obligaciones.
El Reglamento europeo sobre inteligencia artificial establece un régimen sancionador con multas que pueden alcanzar importes significativos, cuya cuantía dependerá, entre otros factores, de la gravedad de la infracción, de la obligación incumplida y de las circunstancias de la empresa.
No obstante, la finalidad del AI Act no es limitar el uso de la inteligencia artificial, sino establecer un marco que garantice que estas tecnologías se utilicen de forma segura, transparente y respetando los derechos de las personas.
Por ello, la mejor forma de reducir riesgos es anticiparse: conocer las obligaciones aplicables, revisar cómo se utiliza la inteligencia artificial dentro de la empresa y adoptar las medidas necesarias antes de que aparezcan posibles incumplimientos.
¿Puede una empresa ser sancionada por utilizar inteligencia artificial?
Sí. Aunque muchas empresas asocian el AI Act únicamente con los desarrolladores de tecnología, el Reglamento también puede afectar a organizaciones que utilizan sistemas de inteligencia artificial en su actividad profesional.
Una empresa puede asumir responsabilidades, por ejemplo, si:
- utiliza un sistema de inteligencia artificial prohibido;
- incumple obligaciones aplicables a sistemas de alto riesgo;
- no respeta determinadas obligaciones de transparencia;
- no cumple los requisitos que correspondan como empresa usuaria de un sistema de IA;
- utiliza herramientas de inteligencia artificial sin tener en cuenta otras normas aplicables, como protección de datos o normativa laboral.
La imposición de una sanción dependerá siempre del uso concreto de la herramienta y de las circunstancias del caso.
¿Qué multas establece el AI Act?
El Reglamento establece diferentes niveles de sanciones según la gravedad del incumplimiento. De forma general, las multas pueden alcanzar:
- hasta 35 millones de euros o, si se trata de una empresa, hasta el 7 % de su volumen de negocio mundial anual por determinadas infracciones relacionadas con prácticas prohibidas;
- hasta 15 millones de euros o hasta el 3 % del volumen de negocio mundial anual por otros incumplimientos relevantes;
- hasta 7,5 millones de euros o hasta el 1 % del volumen de negocio mundial anual por proporcionar información incorrecta o incompleta a las autoridades.
Los límites concretos pueden variar según el tipo de infracción y el sujeto responsable.
Además, el Reglamento prevé que, en el caso de pequeñas y medianas empresas, incluidas las empresas emergentes, se tengan en cuenta sus circunstancias específicas al determinar el importe de determinadas multas.
¿Qué incumplimientos pueden generar sanciones?
No todos los usos incorrectos de inteligencia artificial tienen la misma gravedad. Entre las conductas que pueden generar sanciones se encuentran:
Utilizar sistemas de inteligencia artificial prohibidos
El AI Act prohíbe determinados usos considerados incompatibles con los derechos fundamentales. Las empresas deben asegurarse de que las herramientas utilizadas no se encuentran dentro de estas categorías prohibidas.
Incumplir obligaciones aplicables a sistemas de alto riesgo
Las empresas que utilicen sistemas considerados de alto riesgo deben cumplir requisitos adicionales relacionados con la gestión de riesgos, documentación, supervisión humana o calidad de los datos. No aplicar estas medidas puede generar consecuencias jurídicas.
Incumplir obligaciones de transparencia
En determinados casos, las empresas deben informar a las personas cuando interactúan con sistemas de inteligencia artificial o cuando reciben determinados contenidos generados mediante estas tecnologías. No cumplir estas obligaciones puede suponer un incumplimiento del Reglamento.
No garantizar un uso adecuado de la inteligencia artificial
El AI Act también pone el foco en la necesidad de que las organizaciones utilicen estas herramientas de forma responsable.
La falta de controles internos, formación adecuada o procedimientos claros puede aumentar el riesgo de un uso incorrecto.
¿El AI Act es la única norma que deben tener en cuenta las empresas?
No. Una de las ideas más importantes para las empresas es que el AI Act no sustituye al resto de normativa aplicable.
El uso de inteligencia artificial puede afectar también a otras áreas legales, como:
- Protección de datos personales
Si una herramienta de inteligencia artificial trata información de personas físicas, debe analizarse su compatibilidad con el Reglamento General de Protección de Datos (RGPD).
- Relaciones laborales
El uso de IA en selección de personal, evaluación del rendimiento o gestión de empleados puede generar obligaciones adicionales desde el punto de vista laboral.
- Propiedad intelectual y confidencialidad
La utilización de contenidos generados mediante inteligencia artificial puede plantear cuestiones relacionadas con derechos de autor, información confidencial o secretos empresariales.
Por ello, el cumplimiento del AI Act debe integrarse dentro de una visión más amplia de cumplimiento normativo.
¿Cómo puede una empresa reducir el riesgo de sanciones?
La mejor forma de reducir el riesgo de incumplimientos es adoptar una actitud preventiva y establecer unas pautas claras para el uso de la inteligencia artificial dentro de la organización.
Algunas medidas recomendables son:
- Identificar las herramientas de inteligencia artificial utilizadas: El primer paso es conocer qué sistemas de IA utiliza la empresa, para qué se emplean y qué departamentos o personas tienen acceso a ellos.
- Analizar la finalidad y el impacto de cada uso: No basta con saber que existe una herramienta de IA. Es necesario comprender para qué se utiliza y qué impacto puede tener.
- Establecer una política interna de uso de inteligencia artificial: Contar con unas reglas claras ayuda a determinar qué herramientas pueden utilizarse, qué información puede compartirse y qué controles deben aplicarse antes de utilizar los resultados generados.
- Formar al personal: Las personas que utilizan herramientas de inteligencia artificial deben conocer sus posibilidades, limitaciones y riesgos para poder emplearlas de forma responsable.
- Revisar periódicamente el cumplimiento: La inteligencia artificial evoluciona rápidamente. Por ello, la empresa debe revisar periódicamente sus herramientas, procedimientos internos y criterios de uso para adaptarse a los cambios tecnológicos y normativos.
¿Qué debería hacer una empresa ahora?
No todas las empresas deben adoptar las mismas medidas de adaptación al AI Act. Las obligaciones dependerán del tipo de herramientas utilizadas, de la finalidad de cada sistema y del impacto que pueda tener sobre las personas.
Por ello, el primer paso debe ser realizar un análisis de la situación actual de la empresa y responder a cuestiones como:
- ¿Qué herramientas de inteligencia artificial utilizamos?
- ¿Para qué tareas o procesos las empleamos?
- ¿Qué tipo de información introducimos en estas herramientas?
- ¿Pueden sus resultados afectar a clientes, trabajadores u otras personas?
- ¿Contamos con normas internas que regulen su utilización?
Este análisis inicial permite identificar posibles riesgos, conocer las obligaciones aplicables y definir las medidas necesarias para un uso seguro y responsable de la inteligencia artificial.
Conclusión
El AI Act introduce un nuevo marco de responsabilidad para las empresas que utilizan inteligencia artificial. Aunque el Reglamento establece un régimen sancionador relevante, la adaptación no debe plantearse desde la preocupación, sino desde la anticipación y la correcta planificación.
La mejor forma de reducir riesgos consiste en conocer qué herramientas utiliza la organización, analizar para qué se emplean y establecer unas reglas claras que permitan un uso seguro y responsable.
La inteligencia artificial seguirá siendo una herramienta estratégica para la competitividad empresarial. Las empresas que la integren con una adecuada gestión jurídica y organizativa estarán mejor preparadas para aprovechar sus oportunidades y afrontar las nuevas obligaciones normativas.
En nuestro despacho ayudamos a empresas y profesionales a adaptarse al AI Act, analizando sus sistemas de inteligencia artificial, identificando posibles riesgos y diseñando medidas de cumplimiento ajustadas a su actividad.
