Preguntas frecuentes
¿Qué pasa si la IA se equivoca al clasificar?
Que una persona lo corrige antes de que llegue a nadie. En Innguma la IA propone la clasificación de cada señal y el analista la revisa en Factory, el espacio donde Innguma procesa y estructura las señales: corrige, descarta o valida. Cada señal enlaza a la publicación de la que procede, así que cualquier dato puede comprobarse en su origen. La IA procesa; las personas deciden qué se publica y a quién llega.
¿Con qué frecuencia se equivoca la IA generativa?
Lo suficiente como para no publicar nada sin revisar. Dos estudios independientes sobre noticias lo miden:
- EBU y BBC, octubre de 2025. 22 medios públicos de 18 países evaluaron más de 3.000 respuestas de ChatGPT, Copilot, Gemini y Perplexity sobre actualidad. El 45 % tenía al menos un problema significativo; el 31 %, problemas graves de atribución de fuentes; el 20 %, errores importantes de exactitud, como detalles inventados o información desactualizada[1].
- Tow Center, Universidad de Columbia, marzo de 2025. Se dio a ocho buscadores con IA fragmentos de artículos reales y se les pidió identificar titular, medio, fecha y URL. En conjunto, respondieron de forma incorrecta a más del 60 % de las 1.600 consultas[2].
Ambos estudios miden asistentes que buscan y responden, no un sistema de clasificación con revisión. Lo que muestran es el tipo de fallo que hay que esperar: atribución, fechas y detalles plausibles pero falsos.
¿Qué errores son habituales al clasificar señales y cómo se detectan?
| Tipo de error | Ejemplo ilustrativo | Cómo se detecta |
|---|---|---|
| Entidad confundida | Una empresa con el mismo nombre que un competidor, pero de otro sector | La entidad no encaja con el resto de la señal o con la fuente |
| Tema principal mal asignado | Una tecnología citada de pasada en una entrevista se etiqueta como tema central | Al abrir la fuente, la mención ocupa una línea |
| Tipo de evento erróneo | Un anuncio de intención se clasifica como lanzamiento | El texto usa futuro o condicional |
| Tono mal interpretado | Un titular irónico o una noticia con matices se marca como positiva | El tono no coincide con el contenido |
| Lugar impreciso | Se asigna la sede de la empresa en lugar del país donde ocurre el hecho | La señal no aparece al filtrar por el país relevante |
| Resumen que afirma de más | Una cifra o una conclusión que la fuente no contiene | Contraste con la fuente enlazada |
El último caso es el más delicado. OWASP lo recoge como riesgo de desinformación: contenido falso que parece creíble, agravado por la confianza excesiva de quien lo lee[3]. El NIST lo denomina confabulación: contenido erróneo presentado con seguridad[4].
¿Qué controles tiene Innguma frente a estos errores?
- Revisión humana en Factory. Es el entorno de trabajo del analista, donde se revisan y validan las señales que la IA ha filtrado, agrupado y clasificado.
- Fuente siempre enlazada. Cada señal enlaza a la publicación de la que procede, para comprobar el dato en su origen.
- Decisión de las personas. Qué se publica y a quién llega lo decide el equipo, no la IA.
- Histórico revisable. Lo validado se conserva en la Biblioteca con etiquetas, comentarios y fuente, de modo que el equipo puede revisar qué se validó y por qué.
Si tu organización conecta un asistente mediante MCP y habilita la publicación automática, el mismo criterio aplica: tu equipo decide qué se publica sin revisión y qué pasa antes por una persona.
¿Cómo se trabaja bien con la clasificación automática?
- Trata cada etiqueta como una propuesta, no como un dato.
- Revisa con más cuidado lo que va a difundirse o a apoyar una decisión.
- Abre la fuente original antes de citar una cifra, una fecha o una declaración.
- Cuando una corrección importe, explícala en un comentario para que el equipo comparta el criterio.
- Si un error se repite, ajusta los filtros o la definición de la vigilancia en lugar de corregirlo una y otra vez.
Fuentes y referencias
- [1] EBU. Estudio internacional News Integrity in AI Assistants, coordinado por la EBU y dirigido por la BBC. Nota de prensa, 22 de octubre de 2025
- [2] Jaźwińska, K. y Chandrasekar, A. AI Search Has a Citation Problem. Tow Center for Digital Journalism, Columbia Journalism Review. 6 de marzo de 2025
- [3] OWASP GenAI Security Project. LLM09:2025 Misinformation. 2025
- [4] NIST. AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Julio de 2024