Em Dezembro de 2025, a EY publicou um relatório de 44 páginas sobre cibersegurança. O documento tinha o aspecto habitual: logótipo institucional, linguagem técnica, referências numeradas. Aparentava ser o tipo de análise que empresas e jornalistas citam sem questionar. O problema é que 16 das 27 fontes citadas não existiam.
Algumas fontes apontavam para artigos que nunca foram publicados. Havia até uma referência atribuída à McKinsey que apontava para um blogue de qualidade duvidosa. O que aconteceu não foi um caso isolado, pois até a Deloitte teve de rever outro relatório encomendado por um governo provincial canadiano, no valor de 1,6 milhões de dólares, depois de serem identificados erros gerados por IA. O escritório de advogados Sullivan & Cromwell pediu desculpa ao tribunal de Nova Iorque por ter submetido uma peça com citações legais fabricadas. Em todos estes casos, foram utilizadas ferramentas de IA generativa e produzidas referências que ninguém verificou antes de publicar.
O problema não é recente
A ciência académica já vivia uma crise semelhante antes do uso generalizado de IA. Com isto não digo que a ciência seja descuidada, pois o processo de revisão por pares existe precisamente para filtrar erros e continua a ser um dos melhores mecanismos de verificação que temos. No entanto, há décadas que a pressão para publicar cria incentivos que distorcem uma parte da produção de conhecimento. Por norma, os estudos com resultados positivos são mais publicados do que os estudos negativos. Isto reduz o incentivo para testar estudos anteriores e alimenta a procura por validação estatística autoproclamada como condição de publicação, independentemente da robustez dos dados.
Um dos casos mais documentados é o da psicologia social. Durante anos, inúmeros estudos sobre o comportamento humano foram publicados em revistas de prestígio, citados em livros e usados para justificar políticas públicas. Todavia, quando os investigadores tentaram reproduzi-los, uma parte significativa falhou. Não por fraude, mas porque amostras pequenas e metodologias frágeis tinham produzido resultados que não resistiam ao escrutínio. A comunidade científica já identificou o problema e está activamente a tentar corrigi-lo. Entretanto, a sociedade já avançou com base em muitas destas conclusões.
O problema não se reduz a má-fé, mas a um sistema que em certos contextos recompensa a publicação em detrimento da verificação.
A IA não criou este problema, acelerou-o
Quando uma ferramenta de IA inventa uma referência bibliográfica, chamamos a isso de alucinação. A IA não “sabe” a verdade nem tem consciência. Ela prevê qual é a palavra seguinte mais provável com base nos dados em que foi treinada. Muitas vezes acerta, mas há sempre excepções. Pode também basear-se em dados de treino incorrectos, contraditórios ou desactualizados.
O que o caso da EY mostrou é que mesmo grandes organizações não implementam processos de verificação adequados. A explicação mais provável é uma mistura de desleixo aliado à suposição de que alguém já verificou anteriormente. Quando uma consultora de prestígio publica informação, alimenta outros relatórios. Pode até alimentar outros modelos de IA, que a reproduzirão como se fosse conhecimento estabelecido, multiplicando o erro.
A resposta que devemos dar
Este problema exige uma revisão honesta dos hábitos que desenvolvemos à volta das novas ferramentas. Durante anos habituámo-nos a tratar a autoridade das fontes como substituto da verificação do conteúdo. Seja um estudo publicado numa revista reconhecida ou um relatório assinado por uma grande consultora, todos estes sinais funcionavam como garantias implícitas. A IA generativa corrói essa lógica. Produz outputs com aparência de autoridade que não correspondem a fontes verificáveis. Qualquer organização com recursos modestos pode hoje publicar algo que parece conhecimento estabelecido e não é.
É urgente recuperarmos práticas que nunca deveríamos ter abandonado, como verificar as fontes primárias e questionar os números antes de os citar. Estes hábitos garantem o rigor e combatem a desinformação. O relatório da EY foi apanhado porque alguém verificou. Quantos não foram?
Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: feeds.feedburner.com
