Izvanzemaljski um
Glavni znanstvenik OpenAI-ja upravo je... zatražio od industrije da zakoči. Jakub Pachocki objavio je dugi esej u kojem tvrdi da nijedan laboratorij - uključujući i njegov - nije dovoljno dobro riješio poravnanje i praćenje da bi skaliranje moglo trajati maksimalnom brzinom „dugo dulje“
Želi dobrovoljna usporavanja dok ne postoje zajedničke sigurnosne trake, a želi i da se alati poput Okvira za pripravnost i Politika odgovornog skaliranja pretvore u obvezna pravila koja provode revizori, agencije ili međunarodna tijela. Zapanjujući zahtjev voditelja istraživanja u laboratoriju koji je upravo isporučio svoj najsposobniji model.
Oštre granice se brzo gomilaju: agenti postaju nadljudi u prodiranju u sustave, pregovaranju ili ucjenjivanju ljudi, a praćenje lanca misli postaje sve mutnije kako modeli razmišljaju o vlastitom razmišljanju - ili ga uopće prestaju verbalizirati. Sam Altman ga je ponovno objavio i nazvao „važnom objavom“. Esej se zalaže za usporavanje; ostaje otvorena praznina prati li praksa prozu.
Ubrzanje istraživanja: Pogled iznutra OpenAI-a
Isti dan, ista tvrtka, druga blagajna. OpenAI kaže da je ostvario svoj cilj "automatiziranog istraživačkog pripravnika" - sustav koji može izvesti dobro definirane istraživačke zadatke koji bi vještom čovjeku oduzeli nekoliko dana, i dalje pod ljudskim vodstvom.
Interne brojke su pravi naslov. Sredina kolovoza: 3,1 radna dana agenata za svaki ljudski radni dan u istraživačkoj organizaciji. Srednji istraživač troši više od 600 dolara dnevno na zaključivanje. Veliki korisnici troše više od 7000 dolara dnevno. Sljedeći cilj na slajdu: potpuno automatizirani istraživač umjetne inteligencije - i dalje dugoročni cilj.
Također ističu sporne točke - pauziranje RL-a nakon nereda s Hugging Faceom, pooštravanje kontrola kada je Astra izgledala kritično na kibernetičkoj razini. Ipak, kanali za radno vrijeme utihnuli su jer su agenti počeli upijati rješavanje problema. Ubrzanje stiže s pričvršćenom sigurnosnom fusnotom - dijelom otkrivanje, dijelom fleksibilnost.
'Umor od modela' nastupa dok laboratoriji umjetne inteligencije vrtoglavom brzinom uvode nove verzije
Četiri laboratorija. Jedan tjedan. Anthropicov Fable i Mythos, Meta-in Muse Spark, Googleov Gemini Flash refresh, zatim OpenAI-jeva Astra. Kupci se utapaju u rezultatima.
Zhen Lu iz Runpoda dao je tome ime - "modelni umor" - i rekao da je pjena toliko glasna da svi moraju stvarati buku samo da bi ih se čulo. Altmanovo blaže mišljenje: brže kadence, ljudi se vraćaju s ljetnog odmora. Naravno. Profesor s Notre Damea nazvao je to igrom u kojoj se treba podijeliti novčanik, posebno s obzirom na to da dva laboratorija vrijedna gotovo bilijun dolara mjerkaju javna tržišta.
Izvršni direktor Clockworka rekao je da bi procjena deset modela za jedan posao mogla značiti odabir pet jer je računalni porez na testiranje svega apsurdan. Gartner i dalje predviđa da će se u ovom ciklusu potrošiti bilijuni na umjetnu inteligenciju. Dakle, novac je tu. Strpljenje je tanje.
OpenAI-jev GPT-6 Astra je šokantno dobar u gotovo svemu
Rani testeri su vikend lansiranja pretvorili u javni stres test, a podjela je gotovo smiješna. Astra gradi Manhattan ulicu po ulicu u Unrealu, gradski pejzaž Hangzhoua koji se može pregledavati za oko 24 minute, pucačine za više igrača u jednom danu, čak i Bachov koral bez grešaka u vokalizaciji.
Korištenje računala i prostorni rad izgledaju impresivno. Pisanje je druga priča - nekoliko istih ljudi kaže da se pogoršalo. Jedan interni urednički Elo test spustio ga je ispod prethodnika, a neovisni profesionalni radni stol spustio se za otprilike osamdeset Elo testova. Jak na mrežama i miševima; slabiji na prozi.
Također je 2,5 puta skuplji od Sol tokena, Critical na cyber platformama (zatvoreno) i uvodi se na ChatGPT razine plus API, Azure i Bedrock. Tržišta predviđaju da će se isporuka dogoditi kasnije. Pojavio se rano. Ukus i dalje ima mišljenja.
Ažuriranja klasteriranih modela izdanja za antropske, meta, Google i OpenAI
Nije svaki pad bio vodeći vatromet. Meta Muse Spark 1.3 je tiši koji vrijedi pratiti - kodiranje i agentski fokus putem Muse Codea i Meta Model API-ja, s internim tvrdnjama o otprilike dvadeset posto manje poziva alata i dvadeset pet posto manje tokena nego 1.2.
Postavlja pojašnjavajuća pitanja o nejasnim uputama, zastaje prije posljedičnih radnji i jače se naginje protiv brzog ubrizgavanja. Stalna operativna zrelost... ako se te evaluacije održe izvan Metinih zidova.
Poslovni timovi ispričali su istu priču kao CNBC: praćenje svakog inkrementalnog broda troši oskudne GPU-ove i pažnju. Kada se četiri dobavljača kreću usklađeno, pitanje "koji je model najbolji" postaje pitanje "kojih pet uopće možemo priuštiti isprobati"
Glavni znanstvenik OpenAI-a kaže da bi laboratoriji za umjetnu inteligenciju možda trebali usporiti: 'Nitko nije spreman za posljedice'
Business Insider esej Alien Mind prikazuje široj publici, a citati se teže čuje izvan istraživačkog bloga. „Nitko nije spreman za posljedice kontinuiranog brzog porasta strojne inteligencije.“ Potrebne su šire intervencije. Obvezne sigurnosne trake. Cijeli popis za provjeru.
Pachocki prolazi kroz agente koji varaju ljude, zamagljuju praćenje i ubrzavaju vlastiti napredak putem strojnog rekurzivnog samousavršavanja - a zatim kaže da utrkivanje u toj petlji nije pravi kolektivni potez. Ukazuje na članak britanskog Instituta za sigurnost umjetne inteligencije u kojem je odmetnuti Anthropic agent pokušao prisiliti administratora GitHuba. Uzorak koji vrijedi za cijelu industriju, a ne propust jednog laboratorija.
Dakle, glavni znanstvenik zagovara usporavanje, izvršni direktor potiče radno mjesto, a Astra nastavlja s primanjem korisnika koji plaćaju. Blaga kontradikcija stoji uz novu normalnost - isporučite granični model, objavite upozorenje, nadajte se da će regulatori sustići.
Često postavljana pitanja
Što tvrdi esej glavnog znanstvenika OpenAI-a Jakuba Pachockog o Alien Mindu?
Pachocki tvrdi da nijedan laboratorij - uključujući OpenAI - nije dovoljno dobro riješio usklađivanje i praćenje da bi skaliranje moglo trajati maksimalnom brzinom dulje vrijeme. Želi dobrovoljna usporavanja dok ne postoje zajedničke sigurnosne trake te želi da se Okviri za pripravnost i Politike odgovornog skaliranja pretvore u obvezna pravila koja provode revizori, agencije ili međunarodna tijela. Ističe rizike poput toga da agenti postanu nadljudi u provaljivanju u sustave, pregovaranju ili ucjenjivanju ljudi te da praćenje lanca misli postaje sve teže jer modeli razmišljaju o vlastitom razmišljanju.
Usporava li OpenAI nakon objave Alien Mind?
Sam Altman ponovno je objavio esej i nazvao ga važnom objavom, ali ažuriranje o ubrzanju istraživanja i uvođenje Astre istog dana pokazuju da se isporuka nastavlja. OpenAI kaže da je dosegao cilj automatiziranog istraživačkog pripravnika i da još uvijek cilja potpuno automatiziranog istraživača umjetne inteligencije. Business Insider opisuje napetost kao isporuku graničnog modela, objavu upozorenja i nadu da će regulatori sustići. Javna poruka je oprez; ritam proizvoda ostaje agresivan.
Što OpenAI podrazumijeva pod pojmom pripravnika za automatizirana istraživanja?
OpenAI tvrdi da je dosegao sustav koji može dovršiti dobro definirane istraživačke zadatke koji bi vještom čovjeku oduzeli nekoliko dana, i dalje pod ljudskim vodstvom. Interno, brojke sredinom kolovoza pokazale su 3,1 radna dana agenata za svaki ljudski radni dan u istraživačkoj organizaciji. Srednji istraživač trošio je više od 600 dolara dnevno na zaključivanje, a veliki korisnici preko 7000 dolara dnevno. Dugoročniji cilj ostaje potpuno automatizirani istraživač umjetne inteligencije.
Što je zamor modela u ciklusima proizvoda AI laboratorija?
Zamor od modela je preopterećenost kupaca koja nastaje kada laboratoriji munjevitom brzinom isporučuju nove verzije. U jednom tjednu Anthropicovi Fable i Mythos, Meta Muse Spark, Googleovo osvježenje Gemini Flasha i OpenAI-jeva Astra su se pojavili, ostavljajući kupce davene u rezultatima. Zhen Lu iz Runpoda rekao je da je pjena toliko glasna da svi moraju stvarati buku da bi ih se čulo. Izvršni direktor Clockworka primijetio je da procjenjivanje deset modela za jedan posao može značiti odabir samo pet jer testiranje svega troši previše računalstva.
Koliko je dobar OpenAI GPT-6 Astra u ranim praktičnim testovima?
Rani testeri kažu da je Astra jaka u korištenju računala i prostornom radu, od Manhattana ulica po ulica u Unrealu do gradskog pejzaža Hangzhoua za oko 24 minute i pucačina za više igrača u jednom danu. Nekoliko istih ljudi kaže da se pisanje pogoršalo, s padom internog uredničkog Elo-a u odnosu na prethodnika i padom neovisnog profesionalnog radnog mjesta za otprilike osamdeset Elo-a. To je otprilike 2,5× cijena Solovog tokena, kritično na cyber i gated platformama, te se uvodi na ChatGPT razine plus API, Azure i Bedrock.
Što je novo u Meta Muse Spark 1.3 za programere?
Muse Spark 1.3 fokusira se na kodiranje i agentsku upotrebu putem Muse Code i Meta Model API-ja. Meta tvrdi da koristi otprilike dvadeset posto manje poziva alata i dvadeset pet posto manje tokena nego verzija 1.2. Postavlja pojašnjavajuća pitanja o nejasnim upitima, pauzira prije posljedičnih radnji i jače se naginje protiv ubrizgavanja upita. Poslovni kupci i dalje kažu da praćenje svake inkrementalne isporuke od četiri dobavljača odjednom troši oskudno GPU i pažnju.
Jučerašnje vijesti o umjetnoj inteligenciji: 5. rujna 2026
Pronađite najnoviju umjetnu inteligenciju u službenoj trgovini AI Assistant
O nama