En la era de las redes sociales y la información instantánea, las noticias falsas y la desinformación en línea se han convertido en amenazas urgentes. A medida que los malos actores explotan las plataformas para difundir propaganda y sembrar la discordia, el mundo de la tecnología recurre a un aliado insólito en la lucha por la verdad: la inteligencia artificial.
Llegan los grandes modelos lingüísticos (LLM), potentes sistemas de IA entrenados en vastos conjuntos de datos capaces de generar textos similares a los humanos con una fluidez asombrosa. Liderados por ChatGPT de OpenAI, estos modelos están revolucionando sectores que van desde la atención al cliente hasta la escritura creativa. Pero, ¿podrían también ayudar a frenar las noticias falsas?
Los LLM presentan promesas y peligros. Por un lado, pueden entrenarse con noticias legítimas para aprender patrones que distingan la información creíble del contenido engañoso. De este modo, pueden actuar como verificadores automáticos de hechos, escaneando contenidos en línea y señalando afirmaciones sospechosas.
Ya existen iniciativas prometedoras. Investigadores del MIT e IBM han desarrollado el Giant Language Model Test Room (GLTR), que utiliza un modelo GPT anterior para detectar escritos generados por IA mediante la identificación de patrones de palabras y frases inusuales, herramientas útiles para detectar artículos falsos y documentos falsificados.
Sin embargo, la misma tecnología también puede convertirse en un arma. Con la capacidad de generar texto realista a gran escala, los LLM podrían explotarse para producir en masa noticias falsas, publicaciones en redes sociales e incluso campañas completas de desinformación.
"La misma tecnología que puede aprovecharse para detectar noticias falsas podría convertirse fácilmente en un arma para crearlas".
La preocupación es real: está en marcha una carrera armamentística tecnológica. Microsoft, inversor en OpenAI, ha integrado ChatGPT en sus productos. Mientras tanto, Google y Meta están creando modelos lingüísticos rivales.
A medida que estos sistemas se vuelven más sofisticados, también aumentan los riesgos. Los expertos temen que pronto nos enfrentemos a una era de "deepfakes para texto ": desinformación generada por IA indistinguible de contenido escrito por humanos.
Los responsables políticos se apresuran a reaccionar. En Estados Unidos se han celebrado audiencias sobre IA y desinformación, pero la legislación va a la zaga. En Europa, la propuesta de Ley de Inteligencia Artificial ha suscitado un debate por su amplitud y vaguedad.
Mientras tanto, las empresas tecnológicas operan con escasa supervisión. Aunque OpenAI prohíbe la suplantación de identidad o la generación explícita de contenidos, los críticos sostienen que las salvaguardias existentes son insuficientes.
"La vertiginosa velocidad de desarrollo de la IA ha dejado a los gobiernos desamparados, con pocas directrices claras sobre cómo vigilar el uso de los modelos lingüísticos".
¿Qué se puede hacer?
"A medida que los modelos lingüísticos se vuelvan más sofisticados, será cada vez más difícil para una persona normal detectar contenidos falsos generados por IA".
LLM como ChatGPT ofrecen poderosas herramientas en la lucha contra la desinformación, pero también aumentan lo que está en juego. A medida que la tecnología de IA se acelera, los responsables políticos, los tecnólogos y los ciudadanos deben trabajar juntos para construir sistemas que apoyen la verdad, no que la socaven.
Las decisiones que tomemos hoy darán forma a nuestro ecosistema de información en las próximas décadas.
Suscríbase a nuestro boletín semanal y manténgase al día de las opiniones de los expertos en inteligencia artificial e integridad de los medios de comunicación. No te pierdas las últimas novedades que configuran el futuro de la verdad en Internet.
.svg){kind=small}