⚖️ Anthropic tuži kako bi blokirao stavljanje Pentagona na crnu listu zbog ograničenja korištenja umjetne inteligencije ↗
Anthropic je tužio Pentagon nakon što je označen kao rizik za lanac opskrbe. Tvrtka tvrdi da je taj potez bio nezakonita odmazda zbog odbijanja ublažavanja zaštitnih mjera oko autonomnog oružja i domaćeg nadzora - što ovaj spor svrstava među najzapaljivija žarišta u politici umjetne inteligencije trenutno. (Reuters)
Vlada želi fleksibilnost za "bilo koju zakonitu upotrebu", dok Anthropic tvrdi da bi privatnim laboratorijima i dalje trebalo dopustiti postavljanje čvrstih sigurnosnih granica. Ovo je postao jedan od najjasnijih testova do sada o tome može li tvrtka za umjetnu inteligenciju reći "ne" vojnim uvjetima, a da zbog toga ne bude kažnjena. (Reuters)
🧑💻 Zaposlenici OpenAI-a i Googlea podržavaju tužbu Anthropica protiv Pentagona ↗
Ta je tužba brzo dobila podršku i unutar konkurentskih laboratorija. Gotovo 40 zaposlenika iz OpenAI-a i Googlea podržalo je Anthropic u podnesku amicus curiae, tvrdeći da odmazda protiv tvrtki zbog sigurnosnih crvenih linija umjetne inteligencije krši javni interes. (The Verge)
Dakle, da, konkurenti su se iznenada našli na istoj strani - barem po ovom pitanju. Sažetak se fokusira na masovni nadzor i nepouzdano autonomno oružje, što cijelu stvar čini manje sličnom standardnom snajperskom napadu u Silicijskoj dolini, a više poput prave industrijske linije u pijesku... ili blatu, možda. (The Verge)
🛡️ OpenAI preuzima Promptfoo kako bi osigurao svoje AI agente ↗
OpenAI je izjavio da kupuje Promptfoo, startup usmjeren na zaštitu velikih jezičnih modela od napada neprijatelja. Plan je integrirati njihovu tehnologiju u OpenAI Frontier, platformu tvrtke za AI agente. (TechCrunch)
To je znakovit potez. Svi žele da agentska umjetna inteligencija radi više, brže, svugdje - ali sigurnosna strana zaostaje, bilo malo ili puno. Ovaj dogovor sugerira da OpenAI misli da sljedeća velika utrka nije samo za pametnije agente, već i za sigurnije. (TechCrunch)
🧪 Anthropic pokreće alat za pregled koda kako bi provjerio poplavu koda generiranog umjetnom inteligencijom ↗
Anthropic je predstavio Code Review unutar Claude Codea, namijenjen timovima koji se utapaju u zahtjevima za povlačenjem (pull requests) koje su kreirali alati za AI kodiranje. Koristi više agenata paralelno za skeniranje koda, označavanje logičkih problema, rangiranje ozbiljnosti i ostavljanje komentara izravno na GitHubu. (TechCrunch)
Ideja je dovoljno jednostavna - umjetna inteligencija generira kod brže nego što ga ljudi mogu razumno pregledati, pa sada umjetna inteligencija mora pregledati umjetnu inteligenciju. Pomalo nepredvidljiv aranžman, ali praktičan. Anthropic kaže da je usmjeren na poslovne korisnike koji već vide ogroman izlaz koda od Claude Codea. (TechCrunch)
💰 Nscale, kojeg podržava Nvidia, procijenjen na 14,6 milijardi dolara u novoj rundi financiranja ↗
Britanska tvrtka za umjetnu inteligenciju Nscale prikupila je 2 milijarde dolara u rundi financiranja serije C, dosegnuvši vrijednost od 14,6 milijardi dolara. Među podupirateljima bili su Aker, 8090 Industries, Nvidia, Citadel, Dell i Jane Street - što predstavlja prilično snažan glas povjerenja. (Reuters)
Ovo je važno jer nije riječ o još jednom lansiranju modela ili podešavanju chatbota. To je strana procvata puna nepredvidivih mjera - računalstvo, infrastruktura, kapaciteti, sva teška mehanizacija iza zavjese. Možda nije glamurozno, ali upravo tamo sada juri velik dio novca. (Reuters)
🧠 Yann LeCunov AMI Labs prikuplja 1,03 milijarde dolara za izgradnju modela svijeta ↗
Yann LeCunov novi pothvat, AMI Labs, prikupio je 1,03 milijarde dolara uz procjenu od 3,5 milijardi dolara prije ulaganja. Tvrtka juri za "svjetskim modelima" - AI sustavima namijenjenima učenju iz same stvarnosti, a ne prvenstveno iz jezika. (TechCrunch)
To je izravan filozofski udarac trenutnom konsenzusu koji se temelji na LLM-u, i to prilično oštar. LeCun godinama tvrdi da nas današnji jezični modeli neće dovesti do inteligencije ljudske razine, pa ovo podizanje tog argumenta pretvara u vrlo skup eksperiment. (TechCrunch)
🇨🇳 Kineski tehnološki centri promoviraju OpenClaw AI agenta unatoč sigurnosnim upozorenjima ↗
Nekoliko kineskih lokalnih vlasti podržava OpenClaw, AI agenta koji se brzo širi unatoč sigurnosnim problemima povezanim s njegovim pristupom osobnim podacima. Dakle, čini se da je službeno raspoloženje: da, postoje rizici - i da, skalirajmo ga svejedno. (Reuters)
Ta podjela je glavna priča. Lokalna središta žele ekonomski rast i zamah ekosustava, dok regulatori upozoravaju na izloženost podataka. To je već poznati obrazac umjetne inteligencije - prvo sprintaj, kasnije pospremi zaštitne ograde, ili se barem tako čini. (Reuters)
Često postavljana pitanja
Zašto Anthropic tuži Pentagon zbog ograničenja korištenja umjetne inteligencije?
Anthropic kaže da je Pentagon to označio kao rizik za lanac opskrbe nakon što je tvrtka odbila šire uvjete koji bi se mogli proširiti na autonomno oružje i domaći nadzor. To znači da se tužba ne odnosi samo na status dobavljača. Testira se može li laboratorij za umjetnu inteligenciju održavati čvrsta sigurnosna ograničenja i dalje se natjecati za vladine poslove bez kažnjavanja.
Zašto zaposlenici OpenAI-a i Googlea podržavaju Anthropic u ovom sporu oko sigurnosti umjetne inteligencije?
Izvještaj amicus curiaea signalizira da mnogi ljudi unutar konkurentskih laboratorija ovo vide kao presedan u sigurnosti umjetne inteligencije, a ne samo kao borbu između jedne tvrtke i jedne agencije. Njihova je zabrinutost da bi kažnjavanje dobavljača zbog održavanja crvenih linija moglo izvršiti pritisak na šire tržište da oslabi zaštitne mjere. U praksi bi to moglo oblikovati način na koji se pregovara o budućim ugovorima o umjetnoj inteligenciji u obrambenom i javnom sektoru.
Što bi slučaj Anthropic-Pentagon mogao promijeniti za politiku umjetne inteligencije i ugovore o obrani?
Ako Anthropic pobijedi, tvrtke koje se bave umjetnom inteligencijom mogle bi imati jači oslonac za definiranje neprihvatljivih upotreba čak i prilikom prodaje u osjetljivim vladinim okruženjima. Ako izgubi, agencije bi mogle dobiti prednost da od dobavljača zahtijevaju šire uvjete „zakonite upotrebe“. U svakom slučaju, ovaj spor vjerojatno će utjecati na jezik nabave, preglede rizika i način na koji se sigurnosne ograde upisuju u obrambene ugovore.
Zašto je OpenAI kupio Promptfoo za AI agente?
Promptfoo je poznat po testiranju velikih jezičnih modela protiv protivničkih upita i drugih sigurnosnih slabosti. Integriranje takve vrste alata u OpenAI-jevu platformu za poslovne agente sugerira da tvrtka sigurnije postavljanje vidi kao konkurentsku prednost, a ne kao sporedni zadatak. Kako AI agenti preuzimaju sve više značajnog posla, testiranje otpornosti i zloupotrebe postaje mnogo teže ignorirati.
Kako timovi mogu sigurnije upravljati poplavom koda generiranog umjetnom inteligencijom?
Anthropicova nova značajka pregleda koda unutar Claude Codea namijenjena je timovima preopterećenima zahtjevima za povlačenjem generiranim alatima za AI kodiranje. Koristi više agenata paralelno za uočavanje logičkih problema, rangiranje ozbiljnosti i ostavljanje komentara na GitHubu. Alati poput ovog obično pomažu u trijaži volumena, ali ljudski recenzenti i dalje su važni za arhitekturu, kontekst i konačno odobrenje.
Zašto se u infrastrukturu umjetne inteligencije trenutno ulaže toliko mnogo?
Najnovija runda financiranja tvrtke Nscale ističe da industrija umjetne inteligencije i dalje ulaže ogroman kapital u računalstvo, infrastrukturu i kapacitete. Ta ulaganja možda nisu toliko vidljiva kao blještavo lansiranje modela, ali podupiru sve ostalo. Kada potražnja za obukom i implementacijom nastavi rasti, tvrtke koje prodaju krampe i lopate često postaju jedni od najvećih dobitnika.
Što su svjetski uzori i zašto se Yann LeCun kladi na njih?
Svjetski modeli su AI sustavi osmišljeni za učenje iz načina na koji se svijet ponaša, umjesto da se prvenstveno oslanjaju na jezične podatke. To je važno jer Yann LeCun već dugo tvrdi da jezični modeli sami po sebi vjerojatno neće dosegnuti inteligenciju ljudske razine. AMI Labs pretvara taj stav u veliku komercijalnu okladu na drugačiji put za napredna istraživanja umjetne inteligencije.
Zašto kineski tehnološki centri podržavaju OpenClaw unatoč sigurnosnim upozorenjima?
Priča o OpenClawu pokazuje poznatu podjelu unutar brzorastućih tehnoloških tržišta: lokalne vlasti žele rast, subvencije i zamah ekosustava, dok su regulatori zabrinuti zbog izloženosti podataka i sigurnosti. Podržavanje agenta unatoč upozorenjima sugerira da na nekim mjestima prevladavaju ekonomski poticaji. Za promatrače, to je još jedan podsjetnik da usvajanje često ide brže od nadzora.