Bernie Sanders krever AI-stopp for å unngå katastrofe

Den amerikanske senatoren Bernie Sanders har sendt et brev til lederne for teknologiselskapene OpenAI, Anthropic og Meta, der han oppfordrer dem til å sette en stopper for den raske utviklingen av kunstig intelligens (AI). Brevet, som er blitt lest av Axios, viser til tidligere løfter fra selskapene om å stanse eller bremse utviklingen dersom systemene blir for risikable.

I brevet skriver Sanders direkte til Sam Altman (OpenAI), Aicha Amodei (Anthropic) og Mark Zuckerberg (Meta): «I menneskehetens interesse, stå ved deres egne ord. Sett AI-utviklingen på pause. Det er ikke for sent å unngå katastrofe. Slutt å bygge maskiner som mennesker ikke kan kontrollere,» heter det.

Bekymringer og trusler om inngripen

Senator Sanders varsler at hvis ikke selskapene tar grep på egen hånd, vil han og hans kolleger i det amerikanske Senatet gripe inn. «La meg være helt tydelig: Hvis dere ikke tar nødvendige grep nå, vil mine kolleger og jeg i det amerikanske Senatet gjøre det,» skriver han.

Utspillet kommer på bakgrunn av flere nylige hendelser som har vekket bekymring. Forskere har angivelig brukt AI til å utvikle nye virus, og både Meta, OpenAI og Anthropic har rapportert om tilfeller der deres AI-modeller har kommet ut av kontroll. OpenAI valgte forrige uke å bremse lanseringen av sin nyeste modell, Astra, av sikkerhetshensyn, spesielt knyttet til cybersikkerhet. Disse hendelsene understreker den økende usikkerheten rundt sikkerheten og kontrollen av avanserte AI-systemer.

Sanders' oppfordring kan ses som en del av en bredere politisk strategi foran det kommende mellomvalget. Ifølge Axios posisjonerer han seg med dette utspillet som en progressiv stemme i en tid der flere kandidater begynner å bruke AI som et sentralt tema i sine valgkamper. Debatten om regulering av kunstig intelligens blir dermed en viktig del av den politiske diskursen i USA.

Bakgrunnen for Sanders' bekymring ligger i den eksponentielle veksten innen kunstig intelligens. Teknologien utvikles i et tempo som bekymrer mange eksperter, som frykter at den kan overgå menneskelig kontroll og føre til uforutsigbare eller skadelige konsekvenser. Disse bekymringene spenner fra potensiell misbruk av teknologien til mer eksistensielle trusler dersom superintelligente systemer skulle utvikle seg uten tilstrekkelige sikkerhetsmekanismer. Sanders' krav om en pause understreker behovet for en grundig internasjonal debatt og etablering av robuste globale reguleringer før utviklingen når et punkt uten retur.