Imagine que está revisando su feed un martes por la mañana, con el café en la mano, y se topa con una noticia de última hora. Un político local es captado en cámara haciendo una declaración tan incendiaria que parece imposible. El video parece real. La voz suena correcta. El artículo debajo está pulido, tiene fuentes y es completamente coherente. Lo comparte antes de terminar su café. Para el mediodía, tiene 40,000 retuits. Para la noche, alguien lo ha desmentido. El clip fue generado por IA. El artículo fue escrito por un modelo de lenguaje en unos cuatro segundos.

Esto no es una hipótesis de un thriller de ciencia ficción. Es el entorno operativo actual para cualquiera que consuma, publique o dependa de información precisa, es decir, para todos. La tecnología que hace posible este tipo de engaño ha avanzado a un ritmo que hace que la verificación de hechos tradicional parezca una persona muy cansada tratando de correr en una cinta transportadora que se mueve en la dirección equivocada.

Los modelos de lenguaje extenso, los sistemas de IA detrás de herramientas como ChatGPT, Claude y Gemini, llevan años generando titulares. Pero verlos como nuevos participantes brillantes en el panorama mediático sería un error en 2026. Estos modelos son infraestructura a estas alturas. Están integrados en motores de búsqueda, plataformas de atención al cliente, redacciones, flujos de trabajo legales y, sí, campañas de desinformación. La pregunta más interesante no es si los LLM cambiaron el problema de las noticias falsas (lo hicieron), sino cómo funciona realmente ese cambio, a quién beneficia y si la misma tecnología puede volverse contra el problema que ayudó a crear.

La respuesta, como ocurre con la mayoría de las cosas en la IA, es: depende, y también, en cierto modo sí, pero con importantes matices.

El arma de doble filo de la que nadie quiere hablar

Aquí está el núcleo incómodo de toda esta situación. La investigación sobre los roles duales de los modelos de lenguaje extenso en las noticias falsas confirma lo que muchos sospechaban pero pocos decían claramente: las mismas familias de modelos que pueden generar desinformación convincente también se encuentran entre las mejores herramientas disponibles para detectarla. GPT-4, en la configuración de detección de noticias falsas de un estudio, estuvo cerca de una precisión perfecta al identificar noticias falsas generadas por LLM. Eso es realmente impresionante. El problema es que los modelos tuvieron más dificultades cuando se les pidió evaluar contenido que ellos mismos habían producido, lo cual es un poco como pedirle a alguien que corrija su propio trabajo después de tres copas de vino y esperar que lo detecte todo.

Este problema del "autojuez" no es una nota al pie menor. Es una debilidad estructural en cualquier sistema que dependa de la IA para vigilar el contenido generado por IA. Si su proceso de moderación utiliza un modelo de la misma familia que el que genera el contenido problemático, tiene un punto ciego integrado en su arquitectura. La investigación encontró que las noticias falsas generadas por LLM son más difíciles de detectar que las escritas por humanos, especialmente para los sistemas de detección más antiguos, como los modelos BERT ajustados, que se basaban en los patrones estilométricos de la propaganda escrita por humanos, el spam de baja calidad y el tipo de artículos fabricados y toscos que solían poblar sitios web sospechosos en 2016.

Esos detectores antiguos fueron entrenados con un tipo diferente de mentira. Los LLM modernos producen algo más fluido, más consciente del contexto y más coherente estructuralmente que casi cualquier cosa que un propagandista humano se molestaría en escribir a mano. El resultado es que los detectores entrenados con desinformación anterior a los LLM simplemente no pueden generalizarse al contenido sintético que se produce hoy en día. Básicamente, está tratando de atrapar un nuevo tipo de falsificación con equipos calibrados para una anterior.

Cómo los LLM cambiaron la economía del engaño

Para entender por qué esto es tan importante, ayuda pensar en lo que realmente costaban las noticias falsas antes de los modelos de lenguaje de gran tamaño. Escribir un artículo falso convincente requería tiempo, cierta habilidad para la escritura, conocimiento del tema y la suficiente familiaridad con las convenciones periodísticas para que el texto pareciera creíble. Producirlo a gran escala requería un equipo. Adaptarlo a diferentes audiencias, dialectos regionales, contextos políticos o registros emocionales requería aún más esfuerzo.

Los LLM colapsaron esa estructura de costos casi por completo. Un solo mensaje ahora puede producir docenas de variaciones de la misma afirmación falsa, cada una ajustada para una audiencia, tono o plataforma diferente. El Instituto McCain ha argumentado que la desinformación generada por IA puede moverse lo suficientemente rápido como para que los verificadores de hechos simplemente no puedan seguir el ritmo, y aunque se trata de una observación cualitativa más que de una tasa medida, coincide con lo que sabemos sobre la brecha de velocidad entre la generación de contenido y su verificación.

El peligro no es solo el volumen. Es la variación. Un atacante que quiera difundir una afirmación falsa sobre, por ejemplo, los lugares de votación en un condado específico, ya no necesita escribir un artículo y esperar a que se difunda. Puede generar cientos de versiones ligeramente diferentes, cada una adaptada a un grupo demográfico o formato de plataforma distinto, y distribuirlas a través de redes de bots que amplifican el alcance antes de que cualquier revisor humano tenga la oportunidad de marcar el original. La charla TED de Alexandr Wang sobre la IA y la nueva carrera armamentista global destaca exactamente esta combinación: contenido generado por IA junto con cuentas de redes sociales gestionadas por bots, inundando las plataformas con falsedades persuasivas más rápido de lo que la infraestructura de verificación puede responder.

Los LLM también pueden fabricar citas que suenan plausibles. Un artículo falso que incluye lo que parece ser una referencia a un estudio revisado por pares, un informe gubernamental o un experto nombrado, tiene más credibilidad ante los lectores casuales que uno que hace afirmaciones sin respaldo. El modelo no necesita enlazar a una fuente real; solo necesita generar texto que parezca provenir de una. Para los lectores que no hacen clic (que son la mayoría, la mayor parte del tiempo), la cita es persuasiva independientemente de si existe o no.

Los antecedentes técnicos: por qué los modelos se volvieron tan buenos y tan rápido

Ninguna de estas capacidades apareció de la noche a la mañana. El salto en la calidad de los modelos en los últimos años está directamente relacionado con la masificación de la computación y los datos de entrenamiento que subyace a los modelos fundacionales modernos. Las arquitecturas de IA anteriores procesaban el texto de forma secuencial, lo que creaba cuellos de botella en el entrenamiento a gran escala. El cambio a arquitecturas basadas en Transformers, que permitieron un procesamiento mucho más paralelo, hizo viable el entrenamiento con conjuntos de datos órdenes de magnitud mayores de lo que los sistemas anteriores podían manejar. Ese cambio arquitectónico es una razón importante por la que los modelos actuales son a la vez más capaces y más costosos de construir que todo lo que existía antes.

La implicación para la desinformación es directa. Las mismas inversiones en infraestructura que hacen que un modelo de frontera sea mejor razonando, programando o resumiendo un documento legal, también lo hacen mejor generando texto sintético convincente. No se puede separar limpiamente la capacidad que escribe un artículo de opinión persuasivo de la capacidad que fabrica uno. Son el mismo sistema subyacente, apuntando en diferentes direcciones dependiendo de quién esté dando la instrucción y por qué.

La generación de contenido mediante IA también se ha expandido mucho más allá del texto. La desinformación ya no son solo artículos fabricados. Llega en forma de imágenes de aspecto realista, audio sintético y videos deepfake, lo que significa que una narrativa falsa ahora puede presentarse como evidencia multimodal. Una cita falsa es una cosa. Un video falso de un candidato diciendo esa cita, con una clonación de voz convincente y una sincronización labial realista, es algo considerablemente más difícil de descartar a simple vista. El problema del texto y el problema de los medios están convergiendo, y las mismas familias de modelos subyacentes están impulsando ambos.

La geopolítica de la carrera de la IA (y por qué alimenta el problema de la desinformación)

Sería conveniente que el problema de las noticias falsas existiera de forma aislada, como un desafío técnico discreto que los investigadores pudieran resolver con mejores detectores y políticas de plataforma más claras. No es así. Se encuentra dentro de una competencia mucho mayor por el dominio de la IA que involucra a gobiernos, fondos soberanos, controles de exportación e inversiones estratégicas en infraestructura.

El Instituto AI Now ha documentado el cambio de una competencia de IA impulsada por el mercado a una moldeada por la política industrial, con subsidios estatales, restricciones a la exportación de chips y decisiones de contratación pública que determinan cada vez más qué modelos se construyen y quién puede construirlos. Esto no es ruido de fondo. Es el contexto en el que se toman las decisiones sobre capacidades, y esas decisiones afectan directamente qué herramientas de medios sintéticos están disponibles, a qué costo y para quién.

El marco de referencia entre EE. UU. y China se ha convertido en una lente dominante en la cobertura pública sobre IA, a veces de manera productiva y otras veces de formas que oscurecen más de lo que revelan. Las investigaciones que analizan cómo se enmarca la competencia en IA en la cobertura de noticias muestran que la narrativa de la "carrera armamentista" ha sido una metáfora organizativa persistente tanto en los informes estadounidenses como en los internacionales, y que ese encuadre moldea las respuestas políticas tanto como las realidades técnicas. Cuando los gobiernos tratan la capacidad de la IA como un activo de seguridad nacional, tienden a priorizar la velocidad sobre la cautela, lo cual no es una dinámica ideal cuando la capacidad en cuestión puede utilizarse para generar desinformación relacionada con las elecciones a gran escala.

El artículo del McCain Institute señala que modelos como ERNIE X1 de Baidu y DeepSeek R1 han sido descritos como más rápidos, más baratos y más capaces que las alternativas líderes de EE. UU. en algunos puntos de referencia, citando informes de Reuters sobre el panorama competitivo. Independientemente de si esas comparaciones se mantienen en todos los casos de uso, el punto es que la capacidad de los modelos de frontera ya no es dominio exclusivo de un puñado de laboratorios estadounidenses. Las herramientas para generar medios sintéticos se están proliferando a nivel mundial, y los marcos de gobernanza no están siguiendo el ritmo de esa proliferación.

Elecciones, periodismo y el problema de la confianza

Si usted dirige una pequeña empresa, es posible que a estas alturas se pregunte si todo esto es realmente su problema. Es una pregunta justa. He aquí por qué lo es.

Sus clientes forman opiniones sobre el mundo, los mercados, las regulaciones y en qué empresas confiar, basándose en el entorno informativo que habitan. Cuando ese entorno se inunda de contenido sintético diseñado para engañar, el daño colateral no se limita a la política. Incluye la confianza del consumidor, la reputación de la marca y la credibilidad básica de cualquier comunicación que viaje a través de canales digitales. Si las personas no pueden distinguir de manera fiable lo real de lo falso, terminan desconfiando de todo, y eso es perjudicial para cualquiera que intente construir un negocio legítimo en línea.

El contexto electoral hace que lo que está en juego sea especialmente claro. El texto, las imágenes y la voz generados por IA pueden suplantar a candidatos, fabricar respaldos o difundir instrucciones de voto falsas a una velocidad que hace que la verificación tradicional sea casi imposible. El McCain Institute plantea esto como una amenaza directa a las instituciones democráticas, argumentando que la IA puede socavar los fundamentos epistémicos de la toma de decisiones democrática al dificultar la verificación de la verdad en tiempo real. Es una afirmación importante, pero no es irrazonable dada la trayectoria actual de la calidad de los medios sintéticos.

El periodismo está absorbiendo parte de esta presión directamente. Las redacciones que ya estaban bajo presión de recursos antes de la era de los LLM ahora operan en un entorno donde el volumen de contenido que requiere verificación ha aumentado drásticamente, mientras que el costo de producir ese contenido ha caído casi a cero para los actores malintencionados. Los verificadores de hechos no son lentos porque sean incompetentes; son lentos porque la verificación requiere juicio humano, acceso a fuentes y conocimiento contextual que no se puede automatizar sin introducir nuevos modos de fallo. La asimetría es estructural, no un problema de personal que un equipo más grande pueda solucionar.

El problema de la detección es más difícil de lo que parece

Existe un optimismo persistente en los círculos tecnológicos de que la detección terminará alcanzando a la generación. Quizás lo haga. Pero la investigación sugiere que la relación es más complicada que un simple retraso. Los modelos más grandes generalmente funcionan mejor en la detección de noticias falsas generadas por LLM, lo cual es alentador. Pero la misma investigación encontró que la precisión de la detección disminuye cuando el detector y el generador pertenecen a la misma familia de modelos, lo que significa que la dinámica de carrera armamentista es real y no es simplemente una cuestión de construir un detector más grande.

También hay un problema estructural más profundo. La investigación académica sobre la detección de IA en términos más generales ha abogado por poner fin a la carrera armamentista de la detección de IA debido a que las estrategias de detección y contradetección que escalan tienden a generar falsos positivos, desconfianza institucional y una carrera armamentista interminable de contramedidas, en lugar de soluciones duraderas. Este argumento se desarrolló en el contexto de la integridad académica, pero su lógica se traslada perfectamente a la desinformación. Si toda su estrategia consiste en construir un detector mejor, se está comprometiendo a una escalada indefinida sin una condición de salida clara.

Los enfoques basados únicamente en la detección también generan daños colaterales. Un sistema que marca contenido sintético inevitablemente marcará también parte del contenido escrito por humanos, especialmente a medida que los estilos de escritura evolucionan y las personas incorporan la redacción asistida por IA en sus flujos de trabajo. En un contexto de moderación, los falsos positivos significan que se suprime contenido legítimo. En un contexto político o periodístico, esto tiene consecuencias reales para la libertad de expresión y el discurso público. La herramienta diseñada para proteger la integridad de la información puede terminar socavándola debido a una corrección excesiva.

Esto no significa que la detección sea inútil. La investigación también descubrió que las explicaciones generadas por modelos de lenguaje (LLM) pueden ayudar a los usuarios a identificar noticias falsas, lo que apunta hacia una aplicación más prometedora: utilizar la IA no solo para marcar contenido, sino para explicar por qué un fragmento de información es sospechoso en términos que un lector pueda evaluar. Se trata de un enfoque con intervención humana que trata al modelo como una herramienta para aumentar el juicio en lugar de reemplazarlo, y es considerablemente más defendible que un clasificador binario operando a escala de plataforma.

Qué se está haciendo realmente (y qué no)

En cuanto a la regulación, el panorama a mediados de 2026 es mixto. La Ley de IA de la UE ya está en vigor, tras haber superado su etapa de propuesta y entrado en fase de implementación. Establece requisitos basados en el riesgo para los sistemas de IA, con normas más estrictas para las aplicaciones de alto riesgo, e incluye disposiciones relevantes para los medios sintéticos y obligaciones de transparencia para el contenido generado por IA. Si la aplicación será lo suficientemente coherente y contará con los recursos necesarios para marcar la diferencia es otra cuestión, pero el marco legal existe de una forma que no existía hace dos años.

En Estados Unidos, el entorno normativo sigue siendo más fragmentado. Se han celebrado audiencias en el Congreso sobre IA y desinformación, pero no se ha aprobado una legislación federal integral. El análisis del AI Now Institute sobre el cambio de la desregulación a la política industrial sugiere que el enfoque actual de EE. UU. se centra más en mantener la ventaja competitiva que en establecer salvaguardas de gobernanza, lo que significa que el énfasis político está en acelerar la capacidad en lugar de limitar el uso indebido.

Las respuestas a nivel de plataforma varían considerablemente. Se están desarrollando y probando sistemas de procedencia de contenido, que integran metadatos en los medios generados por IA para indicar su origen, pero su adopción es desigual y los sistemas pueden ser eliminados. Existen enfoques de marcas de agua, pero son imperfectos. En algunas jurisdicciones se han adoptado requisitos de etiquetado para la publicidad política generada por IA y en otras se están debatiendo. Ninguna de estas es una solución mágica, y tratar cualquier intervención aislada como una solución completa es la mejor forma de llevarse una sorpresa cuando falle.

Las iniciativas de alfabetización mediática son probablemente la parte de la respuesta con menos financiación en relación con su importancia. Si la carrera armamentista de la detección es realmente imposible de ganar en su forma técnica pura, entonces la defensa más duradera es una población de lectores escépticos, conscientes de las fuentes y entrenados para hacer una pausa antes de compartir. Se trata de una inversión a largo plazo con beneficios difusos, lo que la hace políticamente difícil de financiar y fácil de relegar frente a soluciones técnicas más llamativas. Es, además, posiblemente la más importante.

La realidad del doble uso: los LLM como herramientas contra la desinformación

Sería injusto, y también inexacto, presentar a los LLM únicamente como una amenaza para la integridad de la información. La misma investigación que documenta su capacidad para generar noticias falsas convincentes también muestra que los modelos más grandes tienen un mejor desempeño en la detección de noticias falsas y que las explicaciones generadas por LLM pueden ayudar a los usuarios a identificar contenido falso. Eso no es poca cosa. Sugiere un papel legítimo para estos modelos en los flujos de trabajo contra la desinformación, siempre que ese papel se diseñe cuidadosamente.

La extracción de afirmaciones, el triaje de contenido, la verificación cruzada y la generación de explicaciones son tareas en las que los LLM pueden aportar un valor real a los equipos de verificación humana. Un modelo que pueda identificar rápidamente las afirmaciones fácticas específicas en un contenido, marcar cuáles son verificables y mostrar informes previos relevantes es realmente útil para un verificador de hechos que trabaja bajo presión de tiempo. No reemplaza el juicio humano necesario para tomar una decisión final, pero puede hacer que esa persona sea más eficiente y esté mejor informada.

El principio de diseño clave es mantener a los humanos en el proceso para las decisiones importantes. La moderación automatizada a escala de plataforma sin una revisión humana significativa tiene un historial deficiente en múltiples categorías de contenido, y no hay razón para pensar que la desinformación generada por IA será diferente. Los modelos son herramientas. La forma en que se despliegan, gobiernan y auditan determina si ayudan o dañan.

Algunas de las aplicaciones más prometedoras se encuentran en la capa de explicación. En lugar de simplemente etiquetar el contenido como "potencialmente falso", un sistema que pueda explicar por qué una afirmación específica es inconsistente con la evidencia disponible, en un lenguaje sencillo y accesible para un lector no experto, ofrece a los usuarios algo sobre lo que realmente pueden actuar. Trata la alfabetización mediática como una característica del producto en lugar de una iniciativa educativa separada que se espera que los usuarios sigan por su cuenta.

El punto de vista del que no se habla lo suficiente

Gran parte de la cobertura sobre la IA y la desinformación suele caer en una de estas dos posturas: o bien la IA destruirá la verdad tal como la conocemos, o bien una tecnología mejor acabará solucionando el problema. Ambos enfoques pasan por alto algo fundamental.

El análisis estructuralmente más honesto, que se refleja en el examen de la carrera armamentística de la IA realizado por la revista International Socialism y en el enfoque de política industrial del AI Now Institute, es que la situación actual está impulsada principalmente por la concentración de capacidad de cómputo, capital y datos en un pequeño número de actores, y que esta concentración es tan importante como cualquier capacidad específica de un modelo. La cuestión de quién controla la infraestructura que entrena y ejecuta los modelos de vanguardia es un asunto de gobernanza, no técnico, y no se resuelve mediante puntos de referencia de precisión en la detección.

Si un pequeño número de empresas y estados controlan los modelos más capaces, también controlan los términos bajo los cuales se utilizan, restringen y despliegan dichos modelos. Se trata de una cuestión de distribución de poder con implicaciones para la libertad de prensa, el discurso político y la economía de la información que van mucho más allá de si una noticia falsa concreta es marcada o no. El enfoque de "carrera armamentística", aunque útil para captar la dinámica de escalada, puede ocultar esto al hacer que la competencia parezca una lucha limpia entre la verdad y la mentira, en lugar de una compleja negociación sobre quién controla la infraestructura del discurso público.

Qué significa esto si dirige un negocio

Para los propietarios de pequeñas empresas, las implicaciones prácticas son más inmediatas que las geopolíticas. Su marca existe en el mismo entorno informativo que la de los demás, y el contenido sintético puede afectarla directamente. Una campaña de reseñas falsas que utilice texto generado por LLM es más difícil de detectar que una que emplee spam con plantillas evidentes. Una historia inventada sobre su negocio, su sector o sus proveedores puede propagarse más rápido de lo que su equipo de relaciones públicas puede responder. Un deepfake de una figura pública respaldando o condenando su categoría de producto puede mover los mercados antes de que nadie confirme que es falso.

Nada de esto significa que deba convertirse en un investigador de IA. Sí significa que merece la pena dedicar tiempo a integrar hábitos básicos de verificación en el flujo de trabajo de su equipo. Antes de compartir noticias que afecten a sus decisiones empresariales, dedique treinta segundos a comprobar si la fuente es real, si la afirmación aparece en otros medios creíbles y si las imágenes o el vídeo de la pieza han sido verificados. Estos no son actos heroicos de alfabetización mediática; son el escepticismo mínimo viable para operar en el entorno actual.

También significa prestar atención a la procedencia del contenido que su propia empresa produce y comparte. A medida que el contenido generado por IA se vuelve más frecuente, las empresas que puedan señalar su autenticidad de forma creíble, mediante una voz coherente, fuentes transparentes y una responsabilidad humana real detrás de sus comunicaciones, tendrán un factor diferenciador importante para un público cada vez más escéptico ante todo lo que lee. Eso no es una estrategia de marketing; es una arquitectura de confianza.

Hacia dónde nos dirigimos

La respuesta honesta es que nadie sabe exactamente dónde se estabilizará la dinámica entre los LLM y la desinformación. La investigación es clara en cuanto a que los modelos más grandes suelen tener un mejor rendimiento en la detección, lo que sugiere que la defensa puede mejorar al mismo ritmo que el ataque. Pero la investigación es igualmente clara en cuanto a que la detección tiene límites estructurales, especialmente cuando las mismas familias de modelos están en ambos lados de la ecuación, y que es poco probable que una estrategia basada puramente en la escalada de la detección produzca soluciones duraderas.

El camino a seguir más defendible combina varios elementos que normalmente no reciben financiación conjunta: mejores herramientas de detección, sí, pero también sistemas de procedencia de contenido que hagan que los medios sintéticos sean atribuibles, políticas de plataforma con capacidad real de aplicación, marcos regulatorios como la Ley de IA de la UE que creen responsabilidad para las aplicaciones de IA de alto riesgo, y una inversión sostenida en alfabetización mediática a una escala que coincida con el alcance del problema. Ninguno de estos elementos por sí solo es suficiente. Juntos, crean un entorno informativo más resiliente de lo que cualquier solución técnica aislada podría ofrecer.

La competencia geopolítica no va a disminuir. El enfoque de carrera armamentística en la cobertura de la IA refleja una dinámica real en la que los estados y las empresas están acelerando el desarrollo de capacidades con una intención estratégica, y el problema de la desinformación es un efecto secundario de esa aceleración, no su motor principal. Abordarlo requiere involucrarse en la gobernanza de la infraestructura de IA, no solo en los resultados de modelos específicos.

El debate sobre políticas públicas ha pasado de "¿Debería existir la IA?" a "¿Cómo gobernamos una carrera de capacidades que se acelera rápidamente sin erosionar las salvaguardas democráticas?". Esa es una pregunta mejor, aunque las respuestas aún se estén elaborando. El enfoque del Instituto McCain sobre esto como una lucha digital por la democracia es directo, pero captura algo real: lo que está en juego si la gobernanza de la IA falla no es abstracto. Se manifiesta en las elecciones, en las redacciones, en las crisis de salud pública y en la capacidad básica de las personas para tomar decisiones informadas sobre sus vidas.

Si quiere hacer algo concreto esta semana, empiece con un hábito: antes de compartir algo que parezca urgente, sorprendente o que encaje perfectamente con lo que ya cree, tómese noventa segundos para verificarlo. No es una solución completa para un problema de esta magnitud, pero es una contribución real a un entorno informativo que necesita desesperadamente que más personas se detengan antes de pulsar enviar. La tecnología avanza rápido. Su criterio no tiene por qué hacerlo.