Detectores de contenido de IA. ¿Valen la pena? | IA en los negocios #38

Hoy, los desarrolladores de detectores de contenido de IA los presentan como herramientas para proteger la autenticidad. La pregunta es, ¿valen la confianza y la inversión? En este artículo, analizaremos cómo funcionan los detectores de contenido de IA, por qué podrían extinguirse, qué desafíos traen y los dilemas éticos que plantean.

Detectores de contenido de IA

Los detectores de contenido de IA se basan en modelos de lenguaje similares a los utilizados para generar contenido de IA. Se pueden dividir en aquellos cuya tarea es verificar el origen de imágenes, textos y música generados con el apoyo de inteligencia artificial. Cada tipo de “detector de IA” funciona de manera ligeramente diferente, pero ninguno de ellos puede distinguir con absoluta certeza entre contenido creado por humanos y contenido generado por IA.

Los detectores de imágenes generadas por IA están desempeñando un papel cada vez más importante debido al poder de los medios para generar noticias falsas. Analizan anomalías, estilos y patrones distintivos, y buscan signos dejados por modelos como DALL-E.

Destacando entre los detectores utilizados para identificar imágenes está la herramienta “AI or Not” de Optic, que utiliza bases de datos de imágenes generadas por Midjourney, DALL-E y Stable Diffusion. Si bien los resultados son inciertos, es un paso hacia el desarrollo de métodos de identificación más precisos en el futuro.

Fuente: AI or Not (https://www.aiornot.com/)

Detrás del funcionamiento de los detectores de IA que reconocen textos generados por IA hay algoritmos avanzados que analizan la estructura y la elección de palabras del texto, y luego reconocen patrones específicos de IA. Hacen uso de:

• clasificadores – un algoritmo que clasifica el texto y verifica el estilo, el tono y la gramática. Por ejemplo, una descripción de producto que podría encajar en cualquier producto de su tipo podría clasificarse como una creación de IA,
• embeddings (incrustaciones) – representaciones numéricas de palabras que permiten a las máquinas entender el contexto de su uso. Es gracias a ellos que el programa “entiende” que un texto con una selección monótona de palabras puede ser obra de IA,
• perplejidad – que es una medida de la imprevisibilidad de un texto. Los textos escritos por humanos tienden a tener una mayor perplejidad, aunque los textos que son inherentemente simples, utilitarios en forma típica, o escritos por extranjeros pueden ser clasificados erróneamente como generados por IA,
• diversidad (variabilidad) – este factor describe la variabilidad en la longitud y estructura de las oraciones. Los humanos tienden a escribir textos más variados que la inteligencia artificial.

Los elementos mencionados anteriormente se utilizan conjuntamente por los detectores de contenido de IA para evaluar si estamos tratando con texto creado por humanos o por máquinas.

¿Por qué usar detectores de contenido de IA?

Los detectores de contenido de IA funcionan en una variedad de campos, desde la educación hasta el marketing y la contratación. Aquí están las principales razones para tenerlos como herramienta para ayudar en la evaluación, pero no como prueba definitiva de si el contenido ha sido generado:

• Identificación de fotos modificadas por IA que representan a personas conocidas – para detectar si la foto representa una situación real,
• Prevención de la desinformación – En el contexto de la lucha contra la desinformación, los detectores de contenido de IA efectivos ayudan a los moderadores de redes sociales a detectar la difusión de información falsa para identificar y eliminar contenido repetitivo generado por bots,
• Limitación de la publicación de textos de bajo valor – Los detectores de contenido de IA pueden ayudar a los editores a rechazar textos que contengan información genérica generada por ChatGPT, Bing o Bard después de escribir una consulta simple.

Sin embargo, vale la pena recordar que el origen del texto no es la base para que Google reduzca la clasificación de un sitio. El blog del Centro de Búsqueda de Google afirma que es clave para Google “recompensar contenido de calidad independientemente de cómo se crea […]. La automatización se ha utilizado durante mucho tiempo para generar contenido útil, como resultados deportivos, pronósticos del tiempo y transcripciones. La IA puede abrir nuevos niveles de expresión y creatividad y ser una herramienta clave para apoyar la creación de gran contenido web.”

Infiabilidad de los detectores de contenido de IA. ¿Realidad o mito?

Aunque los detectores de contenido de IA son omnipresentes, su efectividad puede ser cuestionable. Los principales problemas son:

• baja eficiencia en la detección de contenido de IA,
• problemas con falsos positivos, así como
• dificultades para adaptar los detectores a modelos de IA nuevos que se diversifican y mejoran rápidamente.

Las pruebas realizadas por OpenAI mostraron que su clasificador reconocía texto generado por GPT solo el 26% del tiempo. Un ejemplo interesante de la falta de fiabilidad de los generadores se puede ver en un experimento realizado por TechCrunch, que mostró que la herramienta GPTZero identificó correctamente cinco de siete textos generados por IA. Mientras que el clasificador de OpenAI solo identificó uno.

Fuente: GPTZero (https://gptzero.me/)

Además, existe el riesgo de recibir un falso positivo, es decir, identificar un texto escrito por un humano como generado por IA. Por ejemplo, el comienzo del segundo capítulo de Don Quijote de Miguel de Cervantes fue marcado por el detector de OpenAI como probablemente escrito por inteligencia artificial.

Si bien los errores en el análisis de textos literarios históricos pueden considerarse una curiosidad divertida, la situación se complica más cuando queremos usar detectores como herramientas para evaluar textos. La Constitución de EE. UU. fue marcada por ZeroGPT como 92.15% escrita por inteligencia artificial. Y, según un estudio publicado por investigadores de la Universidad de Stanford, el 61% de los ensayos TOEFL escritos por estudiantes no nativos de inglés fueron clasificados como generados por IA. Desafortunadamente, no hay datos sobre cuán alto es el porcentaje de textos clasificados erróneamente como positivos en otros idiomas.

Otro problema es el cambio de clasificación en ejecuciones posteriores del detector. Esto se debe a que a menudo sucede que un detector como ZeroGPT o Scribbr cambia la clasificación de fragmentos de texto, que marca como generados por IA una vez y como escritos por humanos otra vez.

Fuente: Scribbr (https://www.scribbr.com/ai-detector/)

Los detectores de imágenes y videos de IA se utilizan principalmente para identificar deepfakes y otro contenido generado por IA que puede ser utilizado para difundir desinformación.

Las herramientas de detección actuales como Deepware, Illuminarty y FakeCatcher no proporcionan resultados de prueba sobre su fiabilidad. En el contexto legal de la detección de material visual generado por IA, hay iniciativas para agregar marcas de agua a las imágenes de IA. Sin embargo, este es un método muy poco fiable: se puede descargar fácilmente una imagen sin marca de agua. Midjourney adopta un enfoque diferente para la marca de agua, dejando a los usuarios decidir si quieren marcar una imagen de esta manera.

Evitando la detección de IA. ¿Es posible y cómo?

Los emprendedores deben ser conscientes de que los detectores de contenido de IA no son un sustituto de la evaluación de calidad humana y no siempre son fiables. Sus problemas prácticos de mantenimiento pueden plantear dificultades considerables, al igual que intentar evitar que su contenido sea clasificado como generado por IA. Especialmente cuando la IA es simplemente una herramienta en manos de un profesional, es decir, no es “contenido generado por IA”, sino “contenido que fue creado en colaboración con IA.”

Es relativamente simple agregar a alguien a los materiales generados, por lo que la forma en que se crean es realmente difícil de detectar. Si la persona que utiliza IA generativa sabe qué efecto lograr, puede simplemente ajustar manualmente los resultados.

La pregunta básica radica en la razón detrás de nuestro deseo de evitar la detección si el contenido fue generado por IA.

• Si se trata de un problema ético y concierne, por ejemplo, a la autoría de investigaciones científicas publicadas, uno debe confiar en la ética profesional del científico y el uso responsable de herramientas basadas en IA.
• Si el empleador desea que los empleados opten por no usar IA, queda un acuerdo contractual para el uso de inteligencia artificial generativa.

También plantea la cuestión de si queremos promover el uso responsable de la IA a través de prohibiciones y detractores (¡ZeroGPT y GPTZero!), o a través de una apreciación de la transparencia, la construcción de confianza y el uso honesto de tecnologías avanzadas.

Fuente: ZeroGPT (https://www.zerogpt.com/)

Resumen

La respuesta a la pregunta de si los detectores de contenido de IA valen la pena es todo menos clara. Los detectores de contenido de IA aún están en desarrollo, y su futuro es difícil de predecir. Una cosa es cierta: evolucionarán junto con el desarrollo de la tecnología de IA. Los avances en IA, incluida la creciente capacidad de los modelos de lenguaje para imitar el estilo de escritura humano, significan que la detección de contenido de IA podría volverse aún más complicada. Para las empresas, esto es una señal para seguir estos desarrollos y no depender únicamente de herramientas, sino de su evaluación del contenido y su idoneidad para el propósito para el cual fue creado. Y utilizar la inteligencia artificial en rápido desarrollo de manera sabia.

Si te gusta nuestro contenido, únete a nuestra comunidad de abejas ocupadas en Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.