IA y ética empresarial. Por qué deberías invertir en soluciones éticas | IA en los negocios #45

¿Qué son la ética empresarial de la IA?

La ética de la IA se refiere a cómo las tecnologías basadas en IA deben ser diseñadas, desarrolladas, utilizadas y gestionadas de manera responsable y siguiendo los valores humanos.

La ética de la IA en un contexto empresarial incluye principalmente cuestiones como:

• Proteger la privacidad y respetar los derechos de los usuarios en relación con el uso de sus datos,
• Robustez de las soluciones, incluyendo evitar errores resultantes de la publicación de soluciones no preparadas,
• no discriminación, es decir, cuidar los datos con los que se enseña a la inteligencia artificial para evitar reproducir sesgos en los algoritmos y modelos de aprendizaje automático, así como probar cuidadosamente las soluciones introducidas,
• la responsabilidad de las empresas por las soluciones que crean, lo que incluye problemas relacionados con la privacidad, cómo se manejan los datos, la desinformación y la manipulación del comportamiento del usuario, y el impacto de la inteligencia artificial en el medio ambiente, es decir, el impulso por crear las soluciones más eficientes en términos de energía posible.

¿Cómo implementar la inteligencia artificial de manera ética en los negocios?

La clave para el uso ético de la IA en los negocios es crear soluciones transparentes, es decir, esforzarse por una transparencia total en cómo se crean las soluciones de IA y qué datos utilizan. Un tema aparte es mantener la transparencia, es decir, revisar y actualizar regularmente el rendimiento de las soluciones basadas en IA para garantizar que no haya discriminación involuntaria o violaciones de la privacidad.

Otro aspecto importante es asegurar que los empleados y clientes sean conscientes de cómo la empresa utiliza la IA y las posibles consecuencias de ese uso. Estos deben estar claramente descritos en los reglamentos de servicio de IA disponibles para los usuarios.

Fuente: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Para trabajar en la ética de la IA, se estableció el Frontier Model Forum en julio de 2023, que se centró en garantizar el desarrollo seguro y responsable de modelos de IA. Fue creado por empresas líderes en el desarrollo de inteligencia artificial, a saber:

• Anthropic – la empresa responsable del chatbot Claude, “una empresa de investigación en seguridad e inteligencia artificial que trabaja para construir sistemas de inteligencia artificial confiables, interpretables y controlables.”
• Google – una organización que utiliza la inteligencia artificial en muchas soluciones B2B y B2C, y proporciona el chat Google Bard descrito como un “experimento de investigación.”
• Microsoft – de manera similar a Google, Microsoft desarrolló IA a gran escala, incluyendo Bing Chat y Microsoft Image Generator,
• OpenAI – creadores de ChatGPT y Dall-e 3, que definen su misión como “asegurar que la inteligencia general artificial beneficie a toda la humanidad.”

Los objetivos del Foro incluyen:

1. Apoyar el desarrollo seguro y responsable de modelos de IA,
2. Reconocer las mejores prácticas en el campo,
3. Promover la investigación en seguridad de la IA y
4. Facilitar el intercambio de información entre empresas y gobiernos.

El foro planea consultas públicas y discusiones con gobiernos sobre cómo colaborar de manera efectiva en el futuro de la inteligencia artificial, así como desarrollar aplicaciones de inteligencia artificial en estrecha conexión con la ética de la IA. Por ejemplo, su aplicación en áreas como la mitigación del cambio climático, la detección de cáncer y la lucha contra amenazas cibernéticas.

Fuente: Frontier Model Forum (www.frontiermodelforum.org)

¿Por qué invertir en soluciones de ética empresarial?

Invertir en IA ética es crucial no solo desde un punto de vista moral, sino también por los beneficios estratégicos para el negocio. Según una investigación de Google, el 86% de los consumidores prefieren gastar dinero en empresas que representan sus valores. Las razones clave para considerar la implementación de IA ética son:

1. Cumplimiento legal – Un enfoque ético de la IA ayuda a cumplir con las crecientes regulaciones de protección de datos y privacidad.
2. Evitar riesgos reputacionales – el uso indebido de la IA puede llevar a daños reputacionales graves. Por ejemplo, IBM ha sido demandada por supuestamente mal utilizar datos, Optum ha sido acusada de crear algoritmos que favorecen a pacientes blancos, y Goldman Sachs ha sido acusada de discriminación de género en préstamos.
3. Rentabilidad a largo plazo – la IA ética previene errores costosos, generando beneficios a largo plazo.
4. Responsabilidad social – el uso ético de la IA es un reflejo de la responsabilidad social de una empresa.

Cuestiones de ética empresarial de la IA

El ejemplo más conocido de problemas con la aplicación ética de la IA se refiere a datos de usuarios no autorizados: el caso de Facebook, que se volvió infame por dar acceso a Cambridge Analytica, una empresa políticamente enredada, a los datos personales de más de 50 millones de usuarios. Esta situación demuestra los riesgos asociados con el uso indebido de datos personales y señala la necesidad de una ética y responsabilidad sólidas en la IA.

La segunda amenaza relacionada con la ética de la IA en los negocios es el problema del consumo de energía. Aunque la cantidad exacta de energía requerida para entrenar el modelo GPT-4, utilizado en versiones de pago de ChatGPT y BingChat, no se ha divulgado públicamente, contiene más de 175 mil millones de parámetros y ha sido entrenado con más de 45 TB de datos.

El proceso de entrenamiento requirió analizar enormes cantidades de datos y optimizar los parámetros del modelo, mientras que mantener y actualizar el funcionamiento de GPT-4 implica la necesidad de un uso intensivo de poder computacional y también resulta en un alto consumo de energía. Por lo tanto, uno de los problemas importantes de la ética de la IA es utilizar en los negocios inteligencia artificial con los requisitos mínimos necesarios para realizar las tareas planificadas, en lugar de utilizar para todos los propósitos los modelos más modernos pero costosos en energía.

El tercer problema, muy importante, es la desinformación y los “deepfakes”. Aquí los principales problemas de la ética de la IA son:

• etiquetar contenido creado por inteligencia artificial generativa,
• control sobre los materiales publicados – es decir, la “verificación de hechos” evita la propagación involuntaria de desinformación. Es importante recordar que la inteligencia artificial puede “alucinar”, es decir, crear contenido altamente probable pero falso,
• no utilizar imágenes de personas famosas – que, gracias a su accesibilidad, son muy fácilmente elegidas como narradores de video que dicen cualquier línea.

IA y ética empresarial – resumen

Invertir en IA ética no solo es una obligación moral, sino también una decisión estratégica para el negocio. Para las pequeñas y medianas empresas, esto significa no solo proteger la privacidad y evitar la discriminación, sino también prestar atención a la accesibilidad de las soluciones de IA para todos los usuarios. También es significativo capacitar a los empleados en IA ética para que comprendan tanto las capacidades como las limitaciones de estas tecnologías.

Invertir en soluciones de IA ética genera confianza no solo entre los clientes, sino también entre inversores y socios, convirtiéndose en la base para relaciones a largo plazo basadas en la transparencia y la integridad. La visión a largo plazo de una empresa sobre la ética de la IA debe incluir la adaptación continua de las directrices éticas a los nuevos desarrollos tecnológicos y cambios sociales que parecen ser un resultado inevitable del desarrollo de la IA, para garantizar la aplicación responsable y sostenible de la IA en los negocios.

Si te gusta nuestro contenido, únete a nuestra comunidad de abejas trabajadoras en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.