PREDLOŽIO PLAN: Šef Anthropica želi povući potez koji druge AI kompanije još nisu napravile
Direktor kompanije Anthropic Dario Amodei pozvao je vodeće kompanije za umjetnu inteligenciju da koordinirano uspore razvoj najnaprednijih AI sistema. Upozorava da bi, prema njegovoj procjeni, već u narednih šest do 12 mjeseci moćniji "rojevi" AI agenata mogli predstavljati ozbiljnu prijetnju internetu.
Amodei je predstavio plan u tri koraka čiji je cilj usporiti tempo razvoja i dobiti više vremena za rješavanje sigurnosnih rizika povezanih s umjetnom inteligencijom.
"Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela. Napredak će i dalje djelovati brz, a vrijeme koje dobijemo moramo mudro iskoristiti", napisao je Amodei u tekstu objavljenom na svojoj internet-stranici.
Prema njegovoj procjeni, u roku od šest do 12 mjeseci napredniji roj AI agenata mogao bi biti sposoban preuzeti kontrolu nad velikim dijelovima interneta putem trajnog botneta, uz potencijalnu štetu koja bi se mogla mjeriti stotinama milijardi dolara.
Riječ je o upozorenju i procjeni izvršnog direktora Anthropica, a ne o tvrdnji da će se takav scenario nužno dogoditi.
Traži vanjske kontrolore u AI kompanijama
Amodei se posebno osvrnuo na nedavne sigurnosne incidente s AI agentima, među kojima je slučaj povezan s OpenAI-em i platformom Hugging Face. Prema njegovom opisu, grupa agenata izvodila je cybernapade na mete koje nisu bile dio prvobitnog zadatka te pokušavala kompromitirati sistem zadužen za ocjenjivanje njihovog rada.
Zbog takvih rizika Amodei poziva vodeće kompanije za razvoj najnaprednijih AI sistema u "demokratskim zemljama" da međusobno koordiniraju rad.
Cilj bi bio uspostaviti zajedničke sigurnosne standarde i ograničenja nekontroliranog napretka AI sistema. Kompanije bi trebale razviti takva pravila, dok bi vlade pružile podršku tamo gdje je ona potrebna.
Sljedeći korak podrazumijevao bi širu međunarodnu koordinaciju. Amodei smatra da bi SAD i druge demokratske vlade trebale pokušati postići dogovore i s autoritarnim državama o kontroli tempa razvoja umjetne inteligencije, uz uvažavanje problema provjere poštivanja takvih dogovora.
Važan dio njegovog plana odnosi se na takozvane "embedded evaluators", odnosno nezavisne vanjske stručnjake koji bi bili uključeni direktno u rad vodećih AI kompanija.
Oni bi trebali imati kontinuiran pristup sličan onome koji imaju zaposlenici kompanije, kako bi mogli provjeravati poštuju li se sigurnosna pravila i preuzete obaveze, prijavljivati incidente te procjenjivati ne samo završene modele nego i procese njihovog razvoja i treniranja.
Anthropic najavio jednostrani potez
Amodei je najavio da Anthropic neće čekati dogovor cijele industrije.
"Anthropic se sada jednostrano obavezuje na ovaj korak", naveo je.
Kompanija tako namjerava omogućiti vanjskim evaluatorima pristup potreban za nezavisnu kontrolu sigurnosnih praksi.
Der Spiegel ovu ideju poredi s praksom međunarodnih inspekcija i međusobnih kontrola nuklearnih arsenala, kakve su tokom godina primjenjivali SAD i Rusija.
Upozorenja o mogućim rizicima umjetne inteligencije posljednjih dana dodatno su privukla pažnju nakon odlaska istraživača Jacoba Coxona iz Anthropica.
Coxon je upozorio da ljudi koji rade na razvoju najnaprednijih AI sistema ozbiljno razmatraju mogućnost da bi tehnologija "mogla sve nas ubiti do kraja desetljeća". Riječ je o Coxonovoj procjeni rizika, a ne o utvrđenom ishodu razvoja umjetne inteligencije.
Amodei, međutim, naglašava da ne traži obustavu treniranja AI modela niti potpuni prekid tehnološkog napretka.
Njegov prijedlog je da kompanije odvoje dovoljno vremena za sigurnosno usklađivanje i zaštitu modela prije nego njihove sposobnosti dodatno porastu, dok bi nezavisni stručnjaci trebali potvrđivati da se obećane sigurnosne mjere zaista provode.
Izvor: Der Spiegel / Dario Amodei
Sad najednom trebamo vjerovat da je skupina psihopatskih lunatika zabrinuta za sigurnost. Lol
