Perguntas frequentes
O que acontece se a IA errar ao classificar?
Uma pessoa corrige antes que chegue a alguém. Na Innguma, a IA propõe a classificação de cada sinal e o analista a revisa no Factory, o espaço em que a Innguma processa e estrutura os sinais: corrige, descarta ou valida. Cada sinal enlaza a publicação de onde procede, de modo que qualquer dado pode ser conferido na origem. A IA processa; as pessoas decidem o que se publica e a quem chega.
Com que frequência a IA generativa erra?
O suficiente para não publicar nada sem revisão. Dois estudos independentes sobre notícias medem isso:
- EBU e BBC, outubro de 2025. 22 meios públicos de 18 países avaliaram mais de 3.000 respostas do ChatGPT, do Copilot, do Gemini e do Perplexity sobre atualidade. 45% tinham ao menos um problema significativo; 31%, problemas graves de atribuição de fontes; 20%, erros importantes de exatidão, como detalhes inventados ou informação desatualizada[1].
- Tow Center, Universidade de Columbia, março de 2025. Foram dados a oito buscadores com IA fragmentos de artigos reais, e pediu-se que identificassem título, meio, data e URL. No conjunto, responderam de forma incorreta a mais de 60% das 1.600 consultas[2].
Ambos os estudos medem assistentes que buscam e respondem, e não um sistema de classificação com revisão. O que mostram é o tipo de falha que se deve esperar: atribuição, datas e detalhes plausíveis, porém falsos.
Que erros são habituais ao classificar sinais e como se detectam?
| Tipo de erro | Exemplo ilustrativo | Como se detecta |
|---|---|---|
| Entidade confundida | Uma empresa com o mesmo nome de um concorrente, mas de outro setor | A entidade não encaixa no resto do sinal ou na fonte |
| Tema principal mal atribuído | Uma tecnologia citada de passagem em uma entrevista é etiquetada como tema central | Ao abrir a fonte, a menção ocupa uma linha |
| Tipo de evento errado | Um anúncio de intenção é classificado como lançamento | O texto usa futuro ou condicional |
| Tom mal interpretado | Uma manchete irônica ou uma notícia com nuances é marcada como positiva | O tom não corresponde ao conteúdo |
| Lugar impreciso | Atribui-se a sede da empresa em vez do país onde ocorre o fato | O sinal não aparece ao filtrar pelo país relevante |
| Resumo que afirma demais | Um número ou uma conclusão que a fonte não contém | Confronto com a fonte vinculada |
O último caso é o mais delicado. A OWASP o inclui como risco de desinformação: conteúdo falso que parece crível, agravado pela confiança excessiva de quem o lê[3]. O NIST o denomina confabulação: conteúdo errôneo apresentado com segurança[4].
Que controles a Innguma tem diante desses erros?
- Revisão humana no Factory. É o ambiente de trabalho do analista, onde são revisados e validados os sinais que a IA filtrou, agrupou e classificou.
- Fonte sempre vinculada. Cada sinal enlaza a publicação de onde procede, para conferir o dado na origem.
- Decisão das pessoas. O que se publica e a quem chega é decidido pela equipe, não pela IA.
- Histórico revisável. O validado é conservado na Biblioteca com etiquetas, comentários e fonte, de modo que a equipe pode revisar o que foi validado e por quê.
Se a sua organização conectar um assistente via MCP e habilitar a publicação automática, o mesmo critério se aplica: a sua equipe decide o que é publicado sem revisão e o que passa antes por uma pessoa.
Como trabalhar bem com a classificação automática?
- Trate cada etiqueta como uma proposta, e não como um dado.
- Revise com mais cuidado o que vai ser difundido ou que vai sustentar uma decisão.
- Abra a fonte original antes de citar um número, uma data ou uma declaração.
- Quando uma correção for importante, explique-a em um comentário para que a equipe compartilhe o critério.
- Se um erro se repetir, ajuste os filtros ou a definição da vigilância, em vez de corrigi-lo uma vez após outra.
Fontes e referências
- [1] EBU. Estudo internacional News Integrity in AI Assistants, coordenado pela EBU e dirigido pela BBC. Nota de imprensa, 22 de outubro de 2025
- [2] Jaźwińska, K. e Chandrasekar, A. AI Search Has a Citation Problem. Tow Center for Digital Journalism, Columbia Journalism Review. 6 de março de 2025
- [3] OWASP GenAI Security Project. LLM09:2025 Misinformation. 2025
- [4] NIST. AI 600-1, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. Julho de 2024