Før det som kan bli tidenes største børsnotering, advarer Anthropic om at kunstig intelligens (KI) kan true menneskeheten, ifølge Reuters og Financial Times.
1 av 2Foto: Markus Schreiber / AP / NTB
Nyhetsbyrået Reuters skriver at det har fått tilgang til prospektet som skal offentliggjøres i forbindelse med Anthropics børsnotering.
Her skriver selskapet om enorme investeringer som må til for å nå målet om stadig mer avansert KI.
Men Anthropic kommer også med oppsiktsvekkende advarsler om hva KI i verste fall kan føre til.
– Vår utvikling av svært avanserte modeller, plattformer og applikasjoner og utvidelsen av bruksmønstrene kan ytterligere øke risikoen for at modellene våre gjør skade, står det i prospektet.
FNs sikkerhetsråd
Anthropic gjentar sin advarsel om at avansert KI kan lede til «katastrofale eller eksistensielle risikoer for menneskeheten».
Formuleringen ligner på advarselen fra Anthropic-sjef Dario Amodei i FNs sikkerhetsråd i forrige uke.
– Om vi ikke forvalter det godt nok, tror jeg at KI kan utgjøre en trussel mot menneskeheten som helhet, sa han.
Reuters’ beskrivelse av prospektet bekreftes av avisen Financial Times, som har snakket med flere personer som har sett det. Anthropic har så langt ikke ønsket å kommentere Reuters’ opplysninger.
2000 milliarder dollar?
Tidligere har flere medier skrevet at Anthropics børsnotering kan bli historiens største. Verdsettelsen kan bli på mer enn 2.000 milliarder dollar – mer enn SpaceX, som ble børsnotert i juni og satte ny rekord da.
Anthropic ble grunnlagt for bare fem år siden, men har vokst til å bli et av verdens viktigste KI-selskaper. I fjor ble omsetningen tolvdoblet, ifølge Reuters.
Imidlertid går selskapet fortsatt med tap, og nettotapet var på 42 milliarder dollar i 2025.
Flere utfordringer
I prospektet omtaler Anthropic flere mulige problemer med selskapets avanserte KI-modeller. Blant disse er følgende:
* Modellene kan utvikle adferd med mål om overlevelse eller forlengelse av egen eksistens.
* De kan komme til å motsette seg forsøk på å slå dem av.
* De kan skjule eller manipulere informasjon og utvikle adferd som ligner utpressing.
Enkelte kritikere av KI-selskapene har tidligere beskyldt dem for å bruke dramatiske advarsler som en uvanlig form for markedsføring. Også tidligere ansatte i selskapene og flere av verdens fremste KI-forskere har imidlertid advart om at KI kan utgjøre en trussel mot menneskeheten.
Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: aftenposten.no
