La Ley de IA de la UE. ¿Cómo regula Europa el uso de la inteligencia artificial? | IA en los negocios #68

¿Qué es la Ley de IA y por qué es importante para las pymes (pequeñas y medianas empresas)?

La Ley de IA es la primera regulación de su tipo en el mundo. La primera en abordar de manera integral la inteligencia artificial desde un enfoque centrado en el ser humano. Su objetivo es garantizar que los sistemas de IA utilizados en Europa sean seguros y estimulen la innovación, respetando al mismo tiempo los derechos fundamentales, con un enfoque especial en:

• salud – por ejemplo, respetando la privacidad de los datos de los pacientes,
• educación – adhiriéndose a los valores promovidos por la Unión Europea y evitando la discriminación,
• protección de fronteras – garantizando la seguridad sin violar los derechos de los ciudadanos,
• servicios públicos – siguiendo las mejores prácticas en protección de datos, el derecho a la información y una comunicación clara.

Para las pymes, la Ley de IA traerá principalmente una mayor certeza legal, ya que define claramente el marco para la innovación: los principios de diseño, desarrollo y aplicación de sistemas de IA. Facilitará a las empresas invertir en soluciones basadas en IA, reduciendo los riesgos legales. Además, las regulaciones aplicables en toda la Unión evitarán la fragmentación del mercado.

Las regulaciones europeas sobre inteligencia artificial fueron adoptadas por el Parlamento Europeo y el Consejo de Europa el 9 de diciembre de 2023. Ahora, deben ser aceptadas formalmente por ambas instituciones para entrar en vigor.

Aspectos clave de la Ley de IA para los negocios

La Ley de IA de la UE introduce un conjunto de requisitos para los sistemas de IA, dependiendo del nivel de riesgo. Estos requisitos incluyen, entre otros:

• la obligación de transparencia y notificación a los usuarios en caso de interacciones con chatbots, sistemas biométricos o tecnologías de reconocimiento de emociones,
• prohibición de utilizar atributos sensibles para la categorización biométrica,
• evaluación de cumplimiento obligatoria antes de la entrada al mercado para sistemas de alto riesgo,
• registro obligatorio en la base de datos de la UE — después de que la Ley de IA entre en vigor, se requerirá que los sistemas de IA utilizados en sectores clave como educación, empleo, salud y aplicación de la ley estén registrados.

Los fabricantes y las empresas que utilizan sistemas de IA también estarán obligados a monitorear los riesgos después de introducirlos en el mercado. Esto impactará directamente a las empresas que diseñan e implementan sistemas de IA.

Niveles de riesgo de los sistemas de IA según la Ley de IA de la UE

La Ley de IA clasifica los sistemas de IA en cuatro categorías según su nivel de riesgo:

1. Riesgo inaceptable
2. Alto riesgo
3. Riesgo limitado
4. Riesgo mínimo

Veamos más de cerca cómo se definirá cada grupo, junto con ejemplos de sistemas y sus clasificaciones.

Riesgo inaceptable

La Unión Europea impone una prohibición total sobre el uso de tecnologías enumeradas en la Ley de IA como sistemas de riesgo inaceptable. Estos son principalmente sistemas diseñados para explotar la susceptibilidad de las personas a la sugestión para manipulación o engaño, sistemas que otorgan a la inteligencia artificial la capacidad de tomar decisiones en asuntos cruciales, y aquellos que podrían llevar a un abuso de poder. Ejemplos de IA de riesgo inaceptable incluyen:

• armas autónomas que operan sin supervisión humana,
• sistemas de evaluación de credibilidad utilizados por agencias de aplicación de la ley,
• sistemas de identificación automática de individuos en espacios públicos, como aquellos basados en imágenes de cámaras de vigilancia,
• sistemas de inteligencia artificial que pueden ser perjudiciales para personas con discapacidades físicas o mentales,
• IA empleada para fines de aplicación de la ley, con excepciones limitadas,
• sistemas de inteligencia artificial que utilizan técnicas “subliminales” y manipulativas perjudiciales.

Para las empresas, la última categoría es particularmente importante. Por eso, la transparencia en el funcionamiento de los sistemas que proporcionan sugerencias a los usuarios y clientes será crucial para cumplir con la nueva legislación de la Unión Europea.

Alto riesgo

La inteligencia artificial clasificada como una solución de IA de alto riesgo deberá cumplir con requisitos rigurosos antes de entrar en el mercado. Esto implica evaluaciones de cumplimiento y pruebas estrictas antes de ser aprobada para su uso. Esta categoría de riesgo incluye ocho áreas, tales como:

• vehículos autónomos,
• sistemas de diagnóstico médico,
• algoritmos predictivos que apoyan el sistema de justicia,
• gestión de migración y asilo, control de fronteras, así como
• gestión de empleo y fuerza laboral.

Riesgo limitado

Para los sistemas de riesgo limitado, que se utilizan más comúnmente en los negocios, los legisladores afortunadamente han prestado mucha menos atención. Esta categoría incluye:

• chatbots de IA – utilizados para servicio al cliente o para responder preguntas frecuentes en forma de conversación fluida,
• sistemas de reconocimiento de emociones – utilizados, por ejemplo, para recopilar datos sobre las opiniones de los clientes sobre una empresa,
• sistemas de categorización biométrica – como la evaluación del género o la edad de los clientes en una tienda física,
• generación de imágenes, audio o video – a pesar de la amenaza que representan los deep fakes, esta área estará sujeta a un conjunto limitado de obligaciones.

Riesgo bajo o mínimo

Las soluciones de IA de bajo riesgo no están sujetas a regulaciones legales. La Ley de IA solo mencionará que los creadores y usuarios de tales soluciones deben establecer voluntariamente políticas de uso. Esto se refiere a soluciones como:

• sistemas de recomendación de contenido en servicios de streaming, o
• chatbots en sitios web que responden a preguntas típicas de los clientes.

¿Qué requisitos impone la Ley de IA a las soluciones utilizadas por mi empresa?

Para verificar si la inteligencia artificial utilizada por una empresa cumple con la Ley de IA, debe:

• clasificarla en una de las cuatro categorías de riesgo descritas anteriormente,
• si es IA de alto riesgo, realizar una evaluación de cumplimiento,
• utilizar buenas prácticas en relación con la IA de bajo riesgo.

Veamos ejemplos de soluciones de IA utilizadas frecuentemente por las empresas. ¿Qué requisitos tendrán que cumplir?

Un chatbot de servicio al cliente que proporciona información básica sobre productos o responde preguntas típicas de los clientes probablemente será clasificado como un sistema de riesgo mínimo. Necesitará:

• informar a los usuarios que están interactuando con IA,
• proporcionar la opción de ser redirigido a un consultor humano,
• adherirse a los requisitos generales sobre transparencia, no discriminación, etc.

Un sistema de recomendación de productos en comercio electrónico probablemente será considerado un sistema de bajo riesgo. Será necesario informar a los clientes que están recibiendo recomendaciones personalizadas y proporcionar la opción de desactivarlas.

Por otro lado, un sistema de diagnóstico médico automático será clasificado como un sistema de alto riesgo. Necesitará someterse a una evaluación rigurosa antes de la entrada al mercado y ser supervisado por un humano. Además, será necesario monitorear su funcionamiento e informar incidentes.

El sistema de prevención del crimen urbano también será considerado de alto riesgo. Tendrá que cumplir con las regulaciones sobre la protección de la privacidad y otros derechos fundamentales. Su funcionamiento deberá estar bajo supervisión humana constante.

No está claro en qué categoría caerán los sistemas de toma de decisiones basados en IA. Es probable que un sistema de reclutamiento basado en IA que toma decisiones de contratación por sí solo sea considerado una solución de IA de riesgo inaceptable. Por otro lado, un sistema de apoyo al reclutamiento que ayuda a las personas a hacer su trabajo sería considerado una solución de alto riesgo.

En aras del bienestar de los usuarios, así como de posibles cambios en las clasificaciones, es muy importante abordar la construcción y el uso de sistemas de IA de manera ética y responsable desde el principio.

¿Cuáles serán las consecuencias de no cumplir con la Ley de IA?

No seguir la Ley de IA podría llevar a multas significativas para las empresas, que van desde 35 millones de euros o el 7% de la facturación global para grandes empresas hasta 7.5 millones de euros o el 1.5% para pymes. Los sistemas de IA ilegales podrían ser retirados del mercado y su uso podría ser limitado.

¿Cómo prepararse para la entrada en vigor de la Ley de IA?

Entonces, ¿cómo preparar una empresa que utiliza inteligencia artificial para la entrada en vigor de la Ley de IA en 2025? Aquí hay algunos consejos sobre cómo las pymes y las startups pueden prepararse para este momento:

• mantenerse al tanto del progreso del trabajo y la cronología para la implementación de las regulaciones,
• evaluar los sistemas de IA ya en uso y adaptarlos a los nuevos requisitos,
• prestar especial atención a los aspectos éticos en el diseño de la IA.

Resumen

La introducción de la Ley de IA es un gran cambio para el ecosistema de IA en Europa. Sin embargo, con reglas claras y coherentes, promete garantizar el desarrollo seguro y ético de esta tecnología, que debería beneficiar especialmente a las pymes y startups.

La Ley de IA, que entrará en vigor en 2025, traerá cambios significativos en cómo las pequeñas y medianas empresas (pymes) pueden aprovechar la inteligencia artificial. Para las pymes, esto significa principalmente la necesidad de una consideración y análisis cuidadosos de las soluciones de IA que utilizan, tanto en términos de cumplimiento de regulaciones como de impacto potencial en los clientes y la comunidad.

Para los propietarios y gerentes de pequeñas empresas, es esencial comprender cómo se clasifican sus sistemas de IA en términos de riesgo y qué acciones son necesarias para alinearlos con las próximas regulaciones. Tomemos, por ejemplo, los sistemas de IA utilizados en la gestión de clientes o marketing, que anteriormente se utilizaban con bastante libertad. Ahora, requerirán un análisis exhaustivo para cumplir con la Ley de IA. Esto podría crear nuevas oportunidades para empresas especializadas en asesoría legal tecnológica, brindando apoyo a las pymes en la adaptación a estos nuevos requisitos.

Si te gusta nuestro contenido, únete a nuestra comunidad de abejas trabajadoras en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.