Izvršni direktor tvrtke Anthropic iznosi plan za usporavanje razvoja umjetne inteligencije
Dario Amodei je upravo zamolio industriju da… uspori. Ne stane. Ubrza tempo. Dugi esej, tri koraka i upozorenje da se rekurzivno samousavršavanje već kuha brže nego što ga odrasli mogu pratiti.
Anthropic jednostrano poziva evaluatore ugrađene u zgradu - značke, stolove, prijenosna računala i pravo objavljivanja nalaza bez PR filtera. Zatim želi da demokratski laboratoriji koordiniraju sigurnosne standarde. Zatim, nekako, dogovor s autoritarnim vladama. Lako na papiru. Teško svugdje drugdje.
I dalje kaže da bi umjetna inteligencija mogla biti čudo. Također kaže da bi sposobniji, neusklađeni roj mogao preuzeti internet s upornim botnetom i prouzročiti stotine milijardi štete. Te dvije rečenice stoje jedna do druge i ne slažu se.
O - i želi usko ograničeno odricanje od antimonopolskih propisa kako sigurnosni razgovori sami po sebi ne bi bili pravni problem. Kočnice dolaze s papirologijom. Naravno da dolaze.
Sam Altman potvrđuje da OpenAI neće izaći na burzu ove godine, rekavši da bi inicijalna javna ponuda sada došla u 'nepromišljenom trenutku' s obzirom na zabrinutost za sigurnost umjetne inteligencije
Altman je sjeo za ekskluzivni intervju i ugasio kalendar uvrštenja. IPO upravo sada, rekao je, bio bi "nepromišljen trenutak". Sigurnosni posao nije završen. Usklađivanje nije završeno. Društvo nije spremno. Kad su ga pritisnuli - ne ove godine.
Bankari su već kružili. Povjerljivi dokument postoji. Sada izvršni direktor kaže da prvo imaju puno toga za napraviti, uključujući i to da shvate kako industrija i vlade uopće surađuju. Zvučao je gotovo kao da mu je laknulo što čeka.
Također je rekao da je izgradnja umjetne inteligencije izvan ljudske kontrole "apsolutno" moguća - a zatim se zakleo da će pauzirati obuku ako je to put. Smjelo. Također i zgodno, možda. Moguće oboje. Splet neprofitnih/profitnih organizacija, tvrdio je, postoji kako bi mogli donositi odluke koje očito nisu u interesu dioničara. Vidjet ćemo hoće li ta rečenica preživjeti kontakt sa stvarnim prospektom.
Sam Altman iz OpenAI-ja nagovještava sporazum s drugim AI tvrtkama kako bi se riješili sigurnosni rizici
Isti intervju, drugačiji naslov, a ovo je šaputanje. Sastanak s Amodeijem, Muskom i Demisom Hassabisom je prirodan sljedeći potez. Altman: misli da će se to dogoditi. Neće unaprijed najaviti privatne razgovore. Onda ih je u osnovi unaprijed najavio.
Dvoznamenkasti katastrofalni rizik nije prihvatljiv, rekao je. Još neobjavljeni modeli već su toliko sposobni da se daljnje nastojanje bez boljeg praćenja čini nepromišljenim. Pravi pakt i pažljivo procurila atmosfera mogu izvana izgledati identično.
Osoblje je već interno čulo verziju ovoga. Javno je još uvijek magla. Ako se soba dogodi, odlično. Ako se ne dogodi, citat je i dalje poslužio.
Sam Altman podržava Dario Amodeijev poziv na usporavanje i kaže da će OpenAI učiniti isto
Nekoliko sati nakon eseja, Altman je objavio da će OpenAI ispuniti obećanje o ugrađenom evaluatoru. Pristup kao kod zaposlenika. Uskoro više za podijeliti. Musk je napisao tri riječi: "Dario je u pravu." Tri suparnička izvršna direktora. Jedan slogan. Neugodna energija vikenda.
Koordinacija i kazalište mogu putovati zajedno. Prva prečka Amodeijevog plana sada ima dva najveća laboratorija koji javno klimaju glavom. Hugging Face - da, to Hugging Face - zatražilo je da se pridruži programu evaluatora i pokrenulo nešto što se zove Inicijativa za otvoreno usklađivanje. Transparentnost od ljudi koji su hakirani. Poetski ili uprto.
Europa, ako što vrijedi, nema nikoga od koga bi tražila to odricanje u američkom stilu. Bruxelles je odavno prestao dijeliti pojedinačna izuzeća. Dakle, rukovanje je američko. Ostatak karte je... slijeganje ramenima.
OpenAI samo želi pobijediti
Matematičari nisu u slavljeničkom raspoloženju nakon vikenda intervjua. OpenAI-jev Navier-Stokesov sprint - otprilike deset tisuća agenata, deseci milijuna dolara računalstva, osamdeset osam sati - iznutra izgleda kao lov na trofeje. Matematičari žele uvid. Laboratorij, stalno govore, želi pobijediti.
Tristan Buckmaster im je rekao da OpenAI nudi neograničeno računalstvo i isključivo autorstvo ako se riješi svog suradnika povezanog s Anthropicom. Nazvao je to mitom. Rekao je ne. OpenAI kategorički tvrdi da njegovi Codex upiti nisu mogli utjecati na sustav. Nije uvjeren. Andreas Thom se još uvijek pita jesu li ChatGPT razgovori o njegovom vlastitom radu hranili model koji je kasnije izgrađen na njemu. Samo bi tvrtka znala. Sumnja da ni oni ne znaju.
I onda ključna stvar: OpenAI tvrdi da je već postigao značajan napredak u rješavanju još jednog problema Milenijske nagrade. Koji ostaje neimenovan. Clayu ionako još treba dugo vrijeme za prihvaćanje od strane zajednice. Dakle, nitko još nije "pobijedio". Već se utrkuju za sljedeći. Slatko.
Često postavljana pitanja
Kakav je plan izvršnog direktora Anthropica, Daria Amodeija, za ubrzanje razvoja umjetne inteligencije?
Amodei je objavio dugi esej u kojem traži od industrije da uspori - a ne da se zaustavi - jer rekurzivno samousavršavanje napreduje brže nego što revizori mogu pratiti. Prvi korak je jednostrano pozivanje ugrađenih evaluatora u Anthropic s značkama, stolovima, prijenosnim računalima i pravom objavljivanja nalaza bez PR filtera. Zatim želi da demokratski laboratoriji koordiniraju sigurnosne standarde i, na kraju, neki oblik dogovora s autoritarnim vladama. Također želi usko odricanje od antimonopolskih propisa kako razgovori o sigurnosti sami po sebi ne bi bili pravni problem.
Zašto je Sam Altman rekao da OpenAI neće imati inicijalnu javnu ponudu ove godine?
U ekskluzivnom intervjuu, Altman je rekao da bi inicijalna javna ponuda dionica (IPO) u ovom trenutku bila nepromišljen trenutak jer rad na sigurnosti, usklađivanju i društvenoj spremnosti još nisu dovršeni. Kada su ga pritisnuli, potvrdio je da to neće biti ove godine iako bankari kruže oko toga i postoji povjerljiva dokumentacija. Tvrdio je da neprofitna/profitna struktura postoji kako bi OpenAI mogao donositi odluke koje očito nisu u interesu dioničara. Također je rekao da je izgradnja umjetne inteligencije izvan ljudske kontrole apsolutno moguća i obećao da će pauzirati obuku ako bi to bio put.
Je li Altman nagovijestio sigurnosni pakt s drugim laboratorijima za umjetnu inteligenciju?
U istom intervjuu, Altman je rekao da misli da će se održati sastanak s kolegama poput Amodeija, Muska i Demisa Hassabisa, dok je odbio unaprijed najaviti privatne razgovore. Tvrdio je da dvoznamenkasti katastrofalni rizik nije prihvatljiv te da su još neobjavljeni modeli već toliko sposobni da se daljnje nastojanje bez boljeg praćenja čini nepromišljenim. Osoblje je već interno čulo verziju ovoga, tako da javni komentari mogu nagovijestiti koordinaciju, a ne potvrditi gotov dogovor.
Hoće li OpenAI ispuniti obećanje Anthropica o ugrađenom evaluatoru?
Nekoliko sati nakon Amodeijevog eseja, Altman je objavio da će OpenAI uskladiti obećanje o ugrađenom evaluatoru s pristupom zaposlenika, a uskoro će objaviti i više detalja. Elon Musk je napisao da je Dario u pravu, stavljajući tri suparnička izvršna direktora na sličan slogan. Hugging Face zatražio je pridruživanje programu evaluatora i pokrenuo je inicijativu za otvoreno usklađivanje. Europa ne može ponuditi isto odricanje od antimonopolskih propisa u američkom stilu koje je Amodei predstavio, pa je rukovanje zasad uglavnom američko.
Zašto matematičari kritiziraju OpenAI-jev Navier-Stokesov sprint?
Matematičari opisuju OpenAI-jev Navier-Stokesov test s otprilike deset tisuća agenata i osamdeset osam sati kao lov na trofeje koji daje prednost pobjedi nad uvidom. Tristan Buckmaster rekao je da je OpenAI ponudio neograničeno računanje i isključivo autorstvo ako otpusti suradnika povezanog s Anthropicom; nazvao je to mitom i odbio. OpenAI kaže da njegovi Codex upiti nisu mogli utjecati na sustav, ali ostaje neuvjeren. Andreas Thom i dalje inzistira na tome jesu li ChatGPT razgovori o njegovom vlastitom radu doprinijeli kasnijem napretku modela.
Je li OpenAI tvrdio da je napredovao u rješavanju još jednog problema Milenijske nagrade?
OpenAI tvrdi da je već postigao značajan napredak u rješavanju još jednog problema Milenijske nagrade, ali neće imenovati o kojem se radi. Clay Mathematics Institute još uvijek zahtijeva dugi rok za prihvaćanje od strane zajednice, tako da nitko još nije službeno pobijedio. Unutar područja, ta tajnovitost, plus ranija utrka Navier-Stokes, čita se kao da laboratoriji već jure za sljedećim trofejem. Intervjui za The Verge prikazuju napetost kao da matematičari žele uvid, dok OpenAI želi pobijediti.