🛡️ Britanski regulatori žure s procjenom rizika najnovijeg modela antropske umjetne inteligencije, izvještava FT ↗
Britanska financijska nadzorna tijela navodno brzo napreduju s novim Anthropicovim modelom Mythos nakon zabrinutosti da bi mogao otkriti ozbiljne slabosti u ključnim sustavima. U razgovorima sudjeluju Banka Engleske, FCA, Ministarstvo financija i Nacionalni centar za kibernetičku sigurnost - što je impresivan popis za jedan pregled modela.
Zabrinjavajuće je da je Mythos neobično vješt u pronalaženju softverskih ranjivosti, iako Anthropic kaže da je uvođenje strogo ograničeno i usmjereno na obrambeni sigurnosni rad. Očekuje se da će banke, osiguravatelji i burze biti obaviješteni, tako da se ovo sada manje čini kao laboratorijski tračevi, a više kao infrastrukturna politika.
🤖 Na konferenciji HumanX svi su pričali o Claudeu ↗
Činilo se da je Anthropic zadao ton HumanX-u - to je bila priča. Kroz panele, razgovore s dobavljačima i čavrljanje u hodniku, Claude se stalno pojavljivao kao uzor ljudi koje su najviše tražili za poslovne i koderske tijekove rada.
Ono što se isticalo bila je relativna tišina oko ChatGPT-a. Članak sugerira da OpenAI još uvijek ima opseg i novac, ali raspoloženje na konferenciji naginjalo je prema Claudeu kao alatu s jačim poduzetničkim potencijalom u ovom trenutku - ili se barem tako čini.
📄 Anthropicov Claude za Word još je jedan izazov Microsoftovom softverskom carstvu ↗
Anthropic je pokrenuo beta verziju Claudea za Word, probijajući se dalje u svakodnevni uredski softver umjesto da ostane ograničen kao alat za razvojne programere. Može odgovoriti na pitanja o dokumentu s citatima odjeljaka na koje se može kliknuti, uređivati odabrani tekst bez oštećenja formatiranja i upravljati praćenim promjenama.
Ciljana publika je prilično jasna: timovi s puno dokumenata, posebno pravni i financijski. To ovo čini više od pukog dodavanja značajki - to je izravan poticaj Microsoftovom domaćem terenu i prilično drzak potez.
🌐 AI botovi rudare web, a Anthropic prednjači ↗
Novi pogled na podatke Cloudflarea tvrdi da tvrtke koje se bave umjetnom inteligencijom izvlače puno više s weba nego što vraćaju. Ključna statistika je omjer indeksiranja i preporuka - koliko često botovi skidaju stranice u odnosu na to koliko često vraćaju korisnike - a Anthropic posebno loše prolazi.
Omjer Anthropica je prijavljen kao 8800 prema 1, s OpenAI-jem također visokim, ali puno nižim. Šira poanta je teška: stara web pogodba bila je indeksirati nas, a zatim nam slati promet. AI tražilice za odgovore zadržavaju prvi dio, a drugi puštaju da nestane.
⚔️ Pogled na eskalirajuću globalnu utrku u naoružanju umjetnom inteligencijom, dok SAD, Kina, Rusija i drugi žure s izgradnjom autonomnog oružja i obrambenih sustava potpomognutih umjetnom inteligencijom ↗
Najnovije vojno-umjetne izvješćivanje manje se bavi blještavim demonstracijama, a više strateškim ubrzanjem. Velike sile istovremeno promoviraju autonomne i obrambene sustave potpomognute umjetnom inteligencijom, što cijelu stvar čini poput štafetne utrke u kojoj su svi zgrabili palicu i zaboravili kočnice.
To postavlja uobičajena pitanja - kontrolu, eskalaciju, odgovornost - ali sada s većom hitnošću. Nakon što se umjetna inteligencija dublje ugradi u ciljanje, nadzor i donošenje odluka na bojnom polju, „eksperimentalno“ počinje zvučati kao papirnata naljepnica na nečemu što je već u pokretu.
🏭 Japanski SoftBank pokreće odjel za razvoj domaće umjetne inteligencije ↗
SoftBank se udružio sa Sonyjem, Hondom i drugim japanskim tvrtkama kako bi osnovao novi AI pothvat usmjeren na „fizičku umjetnu inteligenciju“ - modele namijenjene upravljanju strojevima i robotima, a ne samo odgovaranju tekstualnim porukama. To je drugačija staza od uobičajenog natjecanja chatbotova, a možda i zanimljivija.
Ambicija je ogromna, a napor je navodno usmjeren na vrlo veliki model temelja i dugu pistu prema industrijskoj upotrebi. Dijelom je to nacionalna tehnološka strategija, dijelom skok na mjesec, dijelom anime o robotima sa sastancima odbora.
Često postavljana pitanja
Zašto regulatori u Velikoj Britaniji pomno prate Anthropicov Mythos model?
Izvješća sugeriraju da britanske vlasti Mythos smatraju potencijalnim rizikom jer bi mogao biti neobično vješt u pronalaženju softverskih ranjivosti. U raspravama navodno sudjeluju Banka Engleske, FCA, Ministarstvo financija i Nacionalni centar za kibernetičku sigurnost. Ta kombinacija institucija ukazuje na zabrinutost zbog mogućih učinaka na kritične sustave, posebno u financijama i infrastrukturi.
Po čemu se model Anthropic Mythos razlikuje od normalnog izdanja umjetne inteligencije?
Zabrinutost nije samo u tome što je riječ o novom modelu, već u tome što se čini posebno sposobnim u obrambenom sigurnosnom radu vezanom uz otkrivanje softverskih slabosti. Anthropic navodno tvrdi da je pristup strogo ograničen, što sugerira da se s uvođenjem postupa opreznije nego sa širokim lansiranjem za korisnike. U praksi, to ga čini bližim kontroliranoj sigurnosnoj mogućnosti nego standardnom ažuriranju chatbota.
Zašto je Claude dobivao toliko pažnje na konferenciji HumanX?
Prema članku, Claude se više puta pojavljivao u panelima, razgovorima s dobavljačima i neformalnim raspravama kao snažna opcija za poslovne i koderske tijekove rada. Članak predstavlja Anthropic kao platformu koja je imala značajan zamah među poslovnim korisnicima na tom događaju. Također sugerira da je raspoloženje oko HumanX-a na ChatGPT-u bilo prigušenije, iako OpenAI još uvijek ima veliki opseg i resurse.
Što Claude for Word zapravo radi za timove s puno dokumenata?
Beta verzija opisana ovdje osmišljena je za rad unutar dokumenata, a ne samo za generiranje samostalnog teksta. Može odgovoriti na pitanja o dokumentu s citatima odjeljaka, uređivati odabrane odlomke bez ometanja formatiranja i rukovati praćenim promjenama. To je čini posebno relevantnom za pravne, financijske i druge timove kojima je potreban pažljiv pregled, a ne grubo pisanje.
Što omjer indeksiranja i preporuka govori o AI botovima i webu?
Članak predstavlja ovaj omjer kao način usporedbe koliko tvrtke koje koriste umjetnu inteligenciju indeksiraju web stranice u odnosu na to koliko često vraćaju korisnike natrag. U tom okviru, vrlo visok omjer sugerira ekstrakciju s malo povratnog prometa. Anthropic se prema ovoj mjeri opisuje kao posebno loš, što zaoštrava širu kritiku da AI tražilice za odgovore mogu oslabiti stariju web razmjenu indeksiranja u zamjenu za preporuke.
Zašto ljudi povezuju napredak umjetne inteligencije s autonomnim oružjem i fizičkom umjetnom inteligencijom?
Članak ukazuje na dva povezana trenda: vlade koje ubrzavaju obrambene sustave podržane umjetnom inteligencijom i tvrtke poput SoftBanka koje podržavaju modele dizajnirane za upravljanje strojevima i robotima. Zajedno pokazuju da umjetna inteligencija prelazi okvire chata i pretraživanja te ulazi u fizičke sustave koji mogu osjećati, odlučivati i djelovati. To postavlja veća pitanja o kontroli, odgovornosti, industrijskoj upotrebi i koliko brzo ti sustavi prelaze iz eksperimentalnog u operativni status.