Regulación de la IA. ¿Qué necesitas saber como emprendedor? | IA en los negocios #47

Entendiendo las regulaciones de IA. ¿Qué es y cómo cambia los negocios?

La inteligencia artificial es un conjunto de tecnologías y métodos que permiten a las máquinas imitar las habilidades cognitivas humanas. Los sistemas de IA pueden aprender y resolver problemas de maneras cada vez más similares a los humanos. Un papel clave lo desempeñan el aprendizaje automático y el aprendizaje profundo, que permiten a los algoritmos optimizarse en función de los datos.

Las aplicaciones de la IA son casi ilimitadas:

• generación de contenido – texto, como lo hacen ChatGPT y Bard, o imágenes en Midjourney y DALL-E-3,
• traducciones – muy útiles para negocios internacionales,
• reconocimiento de imágenes y sonidos – utilizado, por ejemplo, al inspeccionar el entorno laboral con cámaras o grabaciones de llamadas de centros de atención telefónica,
• análisis avanzado de datos de una variedad de fuentes – desde redes sociales hasta sensores industriales.

Esta es una verdadera revolución que está cambiando la cara de muchas industrias. La IA permite a las empresas automatizar procesos, comprender mejor a los clientes o desarrollar nuevos productos. Sin embargo, la tecnología también conlleva riesgos, de ahí la necesidad de regulación.

Regulaciones de IA: conceptos y principios clave

Al implementar soluciones de IA en su empresa, debe estar al tanto de las regulaciones actuales relacionadas con el uso de la inteligencia artificial. Las más importantes son:

• derechos de autor,
• ley de protección de datos,
• leyes relacionadas con la responsabilidad por el funcionamiento de la inteligencia artificial utilizada por las empresas.

Derecho de autor vs. inteligencia artificial

La ley de derechos de autor protege los derechos personales y patrimoniales de los creadores. En muchos países, solo las obras creadas por humanos pueden estar cubiertas por su protección. Como resultado, los abogados tienden a interpretar que las obras creadas únicamente por IA en un proceso automatizado no están sujetas a derechos de autor, a pesar de que la inteligencia artificial generalmente no puede crear contenido sin la colaboración humana.

En el contexto empresarial, las preocupaciones regulatorias relacionadas con la autoría son:

• usar las obras de creadores vivos para enseñar a la inteligencia artificial – esto se aplica a las empresas que crean sus modelos o enseñan los existentes utilizando datos disponibles públicamente; de hecho, todas las obras – desde la pintura y la escultura hasta la marca y los textos publicados en sitios web – están sujetas a derechos de autor,
• protección de los materiales de la empresa creados con inteligencia artificial – aquí es necesario leer cuidadosamente las reglas y regulaciones de las herramientas de IA individuales para averiguar qué regulaciones invocan. Sin embargo, típicamente, transfieren los derechos sobre la obra creada en cooperación con la IA a la persona que escribe las indicaciones, o prompts para la inteligencia artificial, dejándose libres para usar el contenido creado con fines promocionales o de investigación.

El 30 de octubre de 2023, se dictó el primer veredicto en la famosa demanda por infracción de derechos de autor presentada por tres artistas estadounidenses, Sarah Anderson, Kelly McKernan y Karla Ortiz, contra las tres empresas detrás de los generadores de imágenes líderes Midjourney, Stable Diffusion y Dream Up.

Los artistas escribieron en su demanda que los modelos de inteligencia artificial fueron enseñados con sus obras sin su permiso, y por lo tanto podrían generar obras que copian sus obras, violando sus derechos de autor. Sin embargo, el tribunal desestimó sus reclamaciones en un fallo de 28 páginas, afirmando, entre otras cosas, que en EE. UU., los derechos de autor deben registrarse para demandar por su supuesta infracción. Los artistas no pudieron identificar cuáles de sus obras estaban incluidas en un conjunto de datos de imágenes descargadas de Internet y utilizadas para entrenar a la inteligencia artificial.

Ley de protección de datos personales

La Ley de Protección de Datos (RODO) regula el procesamiento de datos personales, que es central para muchas aplicaciones de IA. Los sistemas de IA a menudo recopilan y procesan enormes cantidades de datos, desafiando así a las empresas a garantizar su seguridad. Para los emprendedores, esto significa no solo asegurar la información adquirida, sino también garantizar su procesamiento transparente y la rendición de cuentas a lo largo del proceso. En la práctica, requiere la implementación de mecanismos de seguridad efectivos y procedimientos de gestión de datos apropiados para garantizar que se proteja la privacidad y se respeten los derechos de los usuarios.

Responsabilidad de la IA

Actualmente se están desarrollando nuevas regulaciones para facilitar las reclamaciones por daños causados por sistemas de IA. La cuestión clave aquí es la pregunta de la responsabilidad civil – si el fabricante, el usuario o el propio sistema es responsable de las acciones de la IA. Las regulaciones pendientes pueden introducir soluciones como:

• seguro obligatorio para los fabricantes de IA, o
• fondos de compensación especiales.
• Por lo tanto, es importante que los emprendedores sigan de cerca estos cambios y se preparen para los nuevos requisitos y obligaciones.

¿Cómo está cambiando la IA el panorama legal para las pequeñas empresas?

La revolución de la IA es una oportunidad para las pequeñas empresas – gracias a las nuevas tecnologías pueden competir con los grandes actores. Sin embargo, la implementación de herramientas avanzadas de IA implica cumplir con estrictos estándares legales. Y esto requiere desembolsos financieros y conocimientos que los pequeños actores no siempre pueden permitirse.

Por eso, los emprendedores más pequeños necesitan familiarizarse con las regulaciones actuales y planificadas con anticipación – esto les permitirá minimizar los riesgos legales e implementar la IA de manera responsable. Vale la pena utilizar los servicios de abogados especializados en nuevas tecnologías.

Fuente: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Ejemplos de aplicaciones de IA en los negocios y su regulación legal de IA

¿Cuáles son los dilemas legales en la implementación de la IA en la práctica? Aquí hay ejemplos:

• chatbots – el uso de ChatGPT en una empresa bajo una licencia no empresarial implica aceptar los términos y condiciones de participación en un “experimento científico” realizado por OpenAI; las conversaciones realizadas pueden ser revisadas y utilizadas para crear conjuntos de datos para enseñar a la próxima generación de inteligencia artificial,
• voicebots – pueden recopilar datos personales sin el conocimiento de los llamantes, lo que plantea preocupaciones sobre la privacidad; ya que los datos se relacionan no solo con el tema de la conversación, sino también, por ejemplo, con una grabación de la voz de la persona. Una pequeña muestra de ella es suficiente para “clonarla”, es decir, crear una copia utilizando inteligencia artificial, que puede crear grabaciones de sonido natural de cualquier contenido que sonará como las expresiones de esa persona,
• personalización – los algoritmos que recopilan y categorizan datos sobre los usuarios pueden violar el principio de igualdad de trato; también existe el riesgo de que puedan ser utilizados para manipulación, creando burbujas de información basadas en la personalización precisa del mensaje; por lo tanto, uno de los principios básicos de la ética de la IA, así como de las futuras regulaciones sobre el uso de la inteligencia artificial, será la transparencia en el uso de datos – pero cómo se verá esto en la práctica es desconocido,
• coches autónomos – requieren nuevas regulaciones sobre seguridad y responsabilidad por posibles accidentes que involucren coches sin conductor.

Como puede ver, cuestiones técnicas aparentemente no relacionadas implican el cumplimiento de numerosas regulaciones. Y estos son solo ejemplos seleccionados más cercanos a la realidad empresarial actual.

Desafíos legales clave de la implementación de la regulación de IA en pequeñas empresas

¿Qué puede dar específicamente a los propietarios de pequeñas empresas que implementan sistemas avanzados de IA noches de insomnio? Estos son principalmente:

• regulaciones complejas y cambiantes – en el paisaje de herramientas de IA que cambia rápidamente, es difícil mantenerse al día con las innovaciones tecnológicas, mientras que las regulaciones legales relacionadas con ellas tardan en surgir, por lo que queda seguir las regulaciones de las herramientas utilizadas y consultar a un abogado especializado en la ley afectada por el área de operación de la empresa,
• responsabilidad por errores de IA – esta es una de las cuestiones primordiales para los propietarios de negocios en la implementación de los últimos desarrollos en inteligencia artificial, la pregunta es quién será responsable de cualquier daño en caso de una violación de la protección de datos del cliente o plagio cometido por un generador de publicaciones en redes sociales,
• derechos sobre obras creadas por IA – ¿cómo proteger la propiedad intelectual si se crea en colaboración con inteligencia artificial para que la protección sea efectiva dentro de un sistema legal dado? Esta es una pregunta muy importante en ausencia de regulaciones y formas prácticas de distinguir entre contenido generado por humanos y contenido creado por humanos,
• discriminación involuntaria – ¿cómo eliminar los sesgos algorítmicos que pueden llevar, por ejemplo, a la creación de segmentos de clientes de “primera” y “segunda” categoría según reglas de categorización entendidas solo por la IA?

Estos son dilemas fundamentales que enfrentan las empresas que implementan soluciones avanzadas basadas en inteligencia artificial.

Una guía para emprendedores: ¿Cómo garantizar el cumplimiento de las regulaciones de IA?

Las leyes que regulan el uso de la inteligencia artificial aún se están desarrollando en muchos países. Por fuerza, solo será posible garantizar el cumplimiento de las regulaciones de IA una vez que entren en vigor. En octubre de 2023, la Casa Blanca publicó el Esquema para la Ley de Derechos de IA para los Estados Unidos, que incluye cinco principios para proteger a los ciudadanos de daños causados por la inteligencia artificial. Los principios abordan la seguridad y eficiencia de los sistemas, la protección contra la discriminación algorítmica, la privacidad de los datos, la información y explicación, y las opciones alternativas. Su redacción detallada se puede encontrar aquí: https://www.whitehouse.gov/ostp/ai-bill-of-rights/

La regulación que rige la inteligencia artificial en los Estados Unidos establece nuevos estándares para la seguridad y las protecciones de IA destinadas a proteger la privacidad de los estadounidenses, así como a promover la innovación y la competencia, así como a fortalecer la posición de EE. UU. como líder en el desarrollo de inteligencia artificial a nivel internacional. Las acciones clave incluyen:

• establecer requisitos para pruebas de seguridad y compartir resultados por parte de las empresas que desarrollan sistemas avanzados de IA,
• desarrollar estándares, herramientas y pruebas de seguridad de IA,
• combatir la discriminación causada por algoritmos,
• proteger a consumidores, pacientes, empleados y estudiantes,
• garantizar el uso responsable de la IA por parte del gobierno.

La Unión Europea, a su vez, está trabajando en la “Ley de IA”, un conjunto de regulaciones que cubren cada aplicación de IA en la UE. Se pretende cubrir todas las herramientas y grupos de interés – estados, empresas e individuos – y dividir los sistemas de IA en categorías de riesgo:

1. Sistemas que plantean riesgos no autorizados – por ejemplo, basados en técnicas subliminales,
2. Sistemas de alto riesgo – como la identificación biométrica o la gestión de infraestructuras críticas,
3. Sistemas de riesgo limitado.

La responsabilidad por el correcto funcionamiento de los sistemas de alto riesgo recae principalmente en sus proveedores, lo que puede convertirse en una carga considerable para las empresas que ofrecen tales soluciones. El texto completo de la “Ley de Inteligencia Artificial” se puede encontrar aquí: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206

Entonces, ¿cómo minimizar los riesgos legales al implementar IA en su empresa? Aquí hay algunos consejos prácticos. Primero:

• enfocarse en los impactos anticipados de la implementación de sistemas de IA para detectar riesgos potenciales con anticipación,
• desde el principio, tener en cuenta los mecanismos para controlar y supervisar el funcionamiento de los algoritmos, como herramientas humanas o automatizadas que monitorean su comportamiento,
• verificar que está utilizando proveedores de tecnología de IA de confianza, leer regulaciones y actualizaciones,
• mantener un estrecho seguimiento de la actualización de las regulaciones de IA y cumplir con ellas.
• Cuando tenga dudas, busque asesoría de abogados especializados en nuevas tecnologías.

El futuro de la regulación de IA. ¿Qué pueden esperar los emprendedores?

La regulación de la IA aún está en su infancia, pero ya es evidente que nos estamos moviendo hacia un mayor control y supervisión de la tecnología. Un ejemplo es la “Ley de IA” de la UE, que impone estándares estrictos a los sistemas de alto riesgo.

Por otro lado, hay voces, por ejemplo, del Reino Unido, que abogan por regulaciones más flexibles que no sofocarán la innovación. ¿Quizás el futuro será un término medio?

Independientemente de las soluciones exactas, parece seguro que las regulaciones de IA se volverán cada vez más estrictas, por lo que las empresas deben tenerlas en cuenta al implementar nuevas tecnologías en sus empresas.

Resumen

La revolución en la inteligencia artificial es una gran oportunidad de negocio. Sin embargo, al introducir soluciones avanzadas de IA en una pequeña empresa, se debe ser consciente de numerosos escollos legales. Las regulaciones existentes y planificadas pueden dar muchos dolores de cabeza a los propietarios de negocios. Por lo tanto, es crucial adquirir una comprensión temprana de los aspectos legales de la IA, realizar análisis de riesgos exhaustivos y cumplir con todos los requisitos. Entonces tanto las empresas como los clientes podrán aprovechar al máximo los beneficios de la inteligencia artificial.

Si te gusta nuestro contenido, únete a nuestra comunidad de abejas trabajadoras en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.