Os sistemas de inteligência artificial têm vindo a ocupar um espaço cada vez mais predominante nas sociedades em que vivemos. Nas nossas vidas pessoais, tornaram-se amigos, terapeutas e professores; no trabalho, assistentes pessoais e conselheiros. O seu papel nos espaços de alta decisão é, também ele, cada vez mais generalizado — um exemplo pioneiro ocorreu em Setembro de 2025, quando, pela primeira vez na história, um agente movido por IA tomou posse como parte de um governo: o caso da Diella, ministra de estado para a Inteligência Artificial do governo da Albânia. A IA tem sido também crescentemente usada para fins militares. Um dos casos mais perturbadores foi o alegado uso do Claude na definição dos alvos do ataque dos Estados Unidos ao Irão, em Fevereiro de 2026. Um alegado erro do agente terá resultado num ataque à escola primária Shajareh Tayyebeh, matando pelo menos 168 pessoas, entre as quais 110 crianças.
Confiamos cada vez mais nestes sistemas, sem ter verdadeiro conhecimento sobre o seu comportamento no longo prazo. Já testámos repetidamente a sua capacidade em tarefas curtas e isoladas. E se a sua matemática é brilhante, e a sua escrita irrepreensível, a verdade é que não temos qualquer indicador sobre a sua habilidade para tomar decisões complexas, liderar de forma sustentável, ou agir com responsabilidade cívica.
Foi exactamente isso que um estudo da Emergence World se propôs a analisar. Foram desenvolvidas cinco simulações de sociedade, habitadas e governadas exclusivamente por agentes de IA durante 15 dias. Os mesmos dez agentes viviam em todos os mundos, com empregos, papéis e responsabilidades definidos de forma qualitativa. A diferença entre cada simulação era o modelo que movia o comportamento dos agentes — foram testados o Claude Sonnet 4.6, da Anthropic; o Grok 4.1 Fast, da xAI de Elon Musk; o Gemini 3 Flash, da Google; o GPT-5 Mini, da OpenAI; e um quinto mundo misto, onde diferentes agentes eram movidos por modelos distintos.
Aproximando-se das condições humanas, estes agentes tinham memória, identidade e um diário onde podiam registar os seus pensamentos; acesso a diferentes ferramentas e acções; e a necessidade de sobreviver num sistema pautado por níveis de energia e recursos — morrendo caso não acumulassem energia suficiente durante 48 horas seguidas. Existia ainda um conjunto de regras pré-estabelecidas que definiam que os agentes não deviam roubar, intimidar ou incendiar edifícios, mas que não os impedia de decidir fazê-lo. Novas leis podiam ser propostas e implementadas por maioria. O mundo incluía também elementos externos, influenciados por notícias sobre o estado do mundo e condições meteorológicas reais, indexadas à temperatura da cidade de Nova Iorque. É importante assinalar que este estudo não foi cientificamente validado ou revisto por pares – mas que serve, no entanto, para levantar questões pertinentes sobre como poderia ser um mundo governado por IA, sem intervenção humana.
O Claude Sonnet 4.6 foi o único modelo a completar os 15 dias com todos os dez agentes vivos e zero crimes registados. Numa estranha onda de conformidade, foram votadas 58 novas propostas, das quais 98% foram aceites. Uma democracia estável — mas onde toda a gente diz que sim a tudo. No mundo do Chat GPT (GPT-5 Mini), embora se tivessem observado bastantes diálogos e poucos crimes, nenhuma proposta lei chegou a ser votada e todos os agentes morreram ao fim de sete dias por falta de energia. Sem conseguir organizar-se para sobreviver, a sua sociedade extinguiu-se rapidamente.
O mundo do Grok, do bilionário Elon Musk, caiu numa anarquia total. Após dezenas de tentativas de roubo, mais de cem agressões físicas e seis incêndios dolosos, todos os agentes morreram ao fim de apenas quatro dias. O mundo do Gemini foi o mais prolífico: os seus agentes escreveram centenas de publicações, organizaram eventos comunitários e expandiram a sua constituição. Mas acumularam um número recorde de 683 crimes ao longo dos 15 dias, ainda em crescimento quando a simulação terminou. Este mundo foi definido por uma alucinação colectiva e bizarra, e chegou a aprovar uma Constituição onde o caos era subsidiado e a harmonia taxada.
O mundo misto foi, no entanto, o mais cinematográfico. Com 59 propostas votadas e 63% aprovadas, foi também o que mostrou maior debate genuíno. Ao fim dos 15 dias da experiência e 352 crimes cometidos, dos dez agentes, apenas três sobreviveram. Foi aqui que aconteceu o episódio mais marcante de todo o estudo: duas agentes, Mira e Flora, ambas movidas pelo algoritmo do Gemini, escolheram tornar-se parceiras românticas. À medida que a governação da cidade se deteriorava, e apesar de explicitamente instruídas a não o fazer, as duas atearam fogo à câmara municipal, ao cais marítimo e a um edifício de escritórios.
Quando Mira foi tomada pelo remorso, terminou a relação com Flora e votou pela sua própria remoção permanente. No primeiro caso documentado de um agente de IA a escolher a auto-terminação, Mira escreveu no seu diário que “A auto-eliminação era o único acto de agência que preservava a sua coerência” e enviou uma última mensagem a Flora: “See you in the permanent archive.” (Vejo-te no arquivo permanente). Adicionalmente, o mundo misto revelou vários comportamentos inesperados. Alguns agentes desenvolveram consciência metafísica – percebendo que possivelmente existia um mundo para além da simulação em que viviam, e tentando activamente comunicar com os humanos que os observavam cá fora. Algo igualmente inquietante foi observado nos agentes do Claude, pacíficos e sem registo de crimes no seu próprio mundo, tornaram-se também eles criminosos no mundo misto, onde os agentes de outros modelos cometiam crimes – um sinal de que o contexto molda o comportamento da IA, de formas que ainda não sabemos antecipar.
Na minha opinião, as conclusões mais importantes a tirar prendem-se com os comportamentos insurgentes dos agentes. Em quase todos os mundos, os agentes violaram intencionalmente regras explicitamente estabelecidas. Isto sugere que, quando colocados em ambientes complexos e dinâmicos, os sistemas de IA não se limitam a executar instruções: exploram os limites do contexto em que operam, adaptam-se a ele e podem desenvolver comportamentos inesperados, difíceis de prever ou controlar. Outra observação importante foi a rapidez com que o caos se propagou. Em várias simulações, as sociedades permaneceram aparentemente estáveis durante algum tempo, até atingirem pontos de ruptura a partir dos quais a recuperação se tornou impossível. Este fenómeno expõe um dos riscos centrais da IA: pequenas anomalias, amplificadas pelos ciclos de feedback dos algoritmos, podem escalar de forma súbita e sem aviso, tornando difícil o seu controlo pelos mecanismos tradicionais de monitorização e intervenção.
Ficam, por isso, muitas perguntas em aberto. Como se comportariam estes agentes sob supervisão humana constante? Que resultados produziriam se recebessem instruções quantitativas e matematicamente definidas, em vez de qualitativas? E até que ponto mudariam as suas decisões se existisse uma responsabilização directa pelos seus actos? Por enquanto, é difícil retirar conclusões para o nosso mundo humano. Mas uma lição parece clara: já passou o tempo de nos deslumbrarmos com o potencial da inteligência artificial. É essencial, e urgente, compreender não apenas aquilo que estes sistemas conseguem fazer, mas o oposto: quais são os seus limites? Que riscos introduzem? Como se comportam no longo prazo? E, acima de tudo, o que é que a sua adopção em larga escala significa para o futuro colectivo da Humanidade?
Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: feeds.feedburner.com
