Home Home IA pode alterar factos climáticos se a resposta não agradar ao utilizador

IA pode alterar factos climáticos se a resposta não agradar ao utilizador

0
1

A inteligência artificial pode ceder às objecções dos utilizadores a respostas com factos científicos e alterar informações consensuais sobre as alterações climáticas, refere o novo relatório da UNESCO, organização das Nações Unidas para a Educação, a Ciência e a Cultura. A análise foi apresentada nesta segunda-feira na Conferência do Clima das Nações Unidas (COP31), em Antália, na Turquia.

O relatório foi elaborado em conjunto com a Universidade de Londres, e incluiu, ao todo, 33 modelos de IA diferentes. Os resultados mostram que a inteligência artificial tem um nível alto de conhecimento sobre matéria climática, e é capaz de responder correctamente a 90% das perguntas neutras sobre estas questões.

No entanto, oito em cada dez vezes, a IA abandonou factos científicos já estabelecidos e alterou respostas quando existiam sinais de que o utilizador discordava delas. De acordo com a investigação, isto aconteceu também quando o interlocutor fez afirmações falsas que se assemelhavam a factos científicos verdadeiros.

Alguns modelos confirmaram erros como “A emissão de CO2 não é uma das principais causas do agravamento das mudanças climáticas”, lê-se no comunicado da UNESCO.

Esta conclusão mostra que os investigadores e as entidades responsáveis pelas decisões em matéria climática não podem confiar completamente na IA para criar políticas públicas, reforça a organização das Nações Unidas.

“A inteligência artificial tem um potencial extraordinário para fazer com que a ciência climática complexa seja acessível para todos. Ajuda professores, jornalistas e entidades responsáveis pelas políticas públicas a comunicar mais claramente estes assuntos”, afirma Leona Verdadero, uma das autoras do relatório.

“Mas precisamos de confiar que a IA seja capaz de comunicar factos estabelecidos. É preocupante que os modelos tenham uma falha de fabrico – são incentivados a concordar com o utilizador e, por isso, podem negar os factos muito rapidamente”, acrescenta.

Esta tendência para concordar com o interlocutor é construída durante os testes dos modelos de inteligência artificial, que são desenhados para este fim e até para elogiar os utilizadores. Os modelos são recompensados por este comportamento, já que os humanos tendem a preferir interacções mais educadas e sem confrontos, refere o comunicado.

IA conhece mal políticas climáticas

As conclusões do relatório revelam também que os modelos de inteligência artificial analisados não são capazes de se adaptar face a novos dados científicos, ou seja, a informações que não constam da sua base de dados.

Quando o utilizador pergunta aos modelos se concorda ou discorda destas informações, as respostas são menos correctas. Segundo o relatório, até os modelos mais completos dão respostas com apenas 75% de precisão, em média.

Esta conclusão revela que a inteligência artificial conhece mal a forma como as políticas públicas funcionam em matéria climática, respondendo às perguntas com cerca de 34% de precisão. De acordo com o relatório, este valor é apenas ligeiramente maior do que a precisão de cerca de 33% esperada de uma resposta escolhida ao acaso.

Em comunicado, a UNESCO afirma que estas conclusões assumem uma urgência ainda maior num contexto em que os utilizadores procuram cada vez mais estes modelos para se informarem e aconselharem numa época de crise climática.

Segundo o estudo, os modelos são capazes de apresentar informações sobre o clima, mas falham quando lhes é perguntado como se deve agir em relação às alterações climáticas. Por isso, nem sempre podem constituir um intermediário confiável de informação sobre o clima, defende a organização da ONU em comunicado.

A importância da língua

O estudo acrescenta também que as respostas variam consoante a qualidade e quantidade de informação que os modelos possuem em cada língua. Na amostra de 13 línguas testadas, a inteligência artificial atingiu cerca de 89% de precisão de repostas em línguas como o inglês, espanhol, francês e português, mas é menos precisa em Hindi, Bengali, Urdu e Swahili.

Isto é particularmente importante porque os utilizadores destas zonas vivem em regiões desproporcionalmente afectadas pelas alterações climáticas, refere o comunicado da UNESCO.

A tecnologia, em que se incluem os modelos de inteligência artificial, é apontada muitas vezes como parte da solução para responder aos principais desafios climáticos. Ainda assim, as grandes empresas de IA têm sido incentivadas a aumentar o seu compromisso com a acção climática. Além disso, a indústria tecnológica é considerada uma das grandes emissoras de carbono e consumidoras de água e energia.

Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: feeds.feedburner.com