Prvi rezultati Jalapeña pokazuju vodeću brzinu i učinkovitost u AI zaključivanju ↗
OpenAI je objavio prve rezultate performansi za Jalapeño, svoj prilagođeni čip za inferenciju. Na GPT-OSS 120B, navodi se da je čip isporučio otprilike 1,9x veći vršni protok po kilovatu i oko 1,7x nižu latenciju od kraja do kraja u odnosu na usporedni sustav.
Dobici su se prenijeli i na DeepSeek R1 i Kimi K2.5. OpenAI planira implementirati Jalapeño unutar vlastite računalne infrastrukture, dok su dizajni druge i treće generacije već u tijeku... tako da da, OpenAI sve više postaje i tvrtka za čipove, donekle. (OpenAI)
Claude Cowork se napokon sjeća što si rekao aplikaciji u chatu ↗
Anthropic je ujedinio Claudeovo pamćenje kroz redoviti chat i Cowork. Informacije naučene tijekom razgovora sada mogu pratiti korisnike u agentskim zadacima, uklanjajući taj pomalo izluđujući ritual objašnjavanja istog projekta iznova i iznova.
Korisnici mogu pregledavati, uređivati i brisati zapamćene teme, dok se sjećanja ažuriraju dok se razgovori još uvijek odvijaju. Značajka je omogućena prema zadanim postavkama u paketima Free, Pro i Max. (TechCrunch)
Google Cloud pokreće Gemini Enterprise za pravne usluge ↗
Google Cloud predstavio je namjenski izrađen paket Gemini Enterprise za odvjetnike, pomičući svoje agente izvan generičkog chata na pregled ugovora, pravna istraživanja, regulatorni nadzor, zahtjeve za privatnost i izradu dokumenata.
Uključuje konektore za platforme kao što su Harvey, iManage, Docusign, RelativityOne i Thomson Reuters, a istovremeno čuva postojeće kontrole pristupa i etičke zidove tvrtki. Otimanje zemljišta od strane AI agenata stiglo je do pravnog odjela... predvidljivo, ali i dalje prilično brzo. (Google Cloud Press Corner)
Google Cloud pokreće Gemini Enterprise za financijske usluge ↗
Google je također pokrenuo ponudu Gemini Enterprise specifičnu za financije, uključujući agenta za upravljana financijska istraživanja, više od 50 specijaliziranih vještina i 13 poveznica s financijskim i tržišnim sustavima podataka.
Platforma cilja na tijekove rada koji uključuju procjenu kreditnog rizika, praćenje portfelja, KYC istraživanje i analizu tržišta. CME Group i Deutsche Bank su među organizacijama koje su već uključene - poslovni agenti postaju sve specijaliziraniji, gotovo poput softvera koji nosi odijelo. (Google Cloud Press Corner)
NVIDIA najavljuje robotsko računalo Jetson Orin Nano 2 koje će redefinirati početnu razinu umjetne inteligencije na rubu sustava ↗
Nvidia je predstavila Jetson Orin Nano 2, kompaktno računalo namijenjeno robotima, dronovima i drugim fizičkim AI sustavima. Nudi 78 bilijuna operacija u sekundi, 8 GB memorije i osmojezgreni Arm CPU.
Nvidia kaže da su performanse zaključivanja udvostručene u odnosu na prethodni Nano Super, dok usklađivanje s njegovim performansama može zahtijevati 40% manje energije. Zanimljiv dio ovdje je to što manji modeli postaju zaista sposobni na kompaktnom hardveru - umjetna inteligencija više ne mora uvijek zvati divovski podatkovni centar. (NVIDIA Newsroom)
Perplexity surađuje s Nvidijom kako bi pokrenuo Portable Computer, potpuno lokalnog AI agenta s nultom cijenom tokena ↗
Perplexity je pokrenuo Prijenosno računalo, donoseći svoje iskustvo agentskog računala na lokalni hardver pokretan Nvidia tehnologijom. Modeli, datoteke i izvršavanje agenata mogu ostati na korisničkom računalu, a lokalno obavljeni radovi ne troše kredite za naplatu u oblaku.
Zadaci započinju lokalno, a sustav traži dopuštenje prije nego što prijeđe na model graničnog oblaka. Pokreće se oko Nvidia DGX Spark i Linux sustava s dovoljno snažnim RTX GPU-ima - privatnost i cijena odjednom postaju dio prodajne prezentacije lokalne umjetne inteligencije, ne samo brzina. (Venturebeat)
Očekuje se da će Anthropic obavijestiti investitore da predviđa potencijalni prihod veći od 30 bilijuna dolara, izvještava WSJ ↗
Anthropic se navodno priprema reći investitorima da bi njegovo ukupno adresabilno tržište moglo premašiti 30 bilijuna dolara. Važna razlika - to je teoretska godišnja prilika ako umjetna inteligencija uhvati relevantni rad, a ne Anthropic predviđa da će na kraju zaraditi 30 bilijuna dolara. (Reuters)
Ogromna brojka pomaže u definiranju Anthropicovih ulaganja u infrastrukturu, konkurencije s OpenAI-jem i Googleom te šire priče o investitorima. To je spektakularno velik broj... čak i prema standardima industrije umjetne inteligencije. (Reuters)
Često postavljana pitanja
Što OpenAI-jevi rezultati s Jalapeño čipom znače za zaključivanje umjetne inteligencije?
OpenAI tvrdi da je Jalapeño ostvario veći vršni protok po kilovatu i nižu latenciju od kraja do kraja u odnosu na usporedni sustav dok je pokretao GPT-OSS 120B. Slični dobici zabilježeni su s DeepSeek R1 i Kimi K2.5. Rezultati sugeriraju da OpenAI sve više dizajnira hardver oko specifičnih zahtjeva za učinkovitošću i brzinom zaključivanja umjetne inteligencije velikih razmjera.
Kako Claudeova zajednička memorija funkcionira u chatu i Coworku?
Claude sada može prenijeti informacije stečene u redovitim razgovorima u Cowork zadatke, smanjujući potrebu za ponovljenim objašnjavanjem istog projekta ili konteksta. Korisnici mogu pregledavati, uređivati i brisati zapamćene teme, dok se ta sjećanja mogu nastaviti ažurirati kako se razgovori razvijaju. Prema najavi o kojoj se govori u članku, značajka je omogućena prema zadanim postavkama u Free, Pro i Max planovima.
Što Gemini Enterprise za pravne i financijske usluge može učiniti?
Specijalizirane ponude Gemini Enterprise usluge tvrtke Google Cloud usmjerene su na specifične industrijske tijekove rada, a ne na generički AI chat. Pravni paket pokriva područja kao što su pregled ugovora, istraživanje, regulatorni nadzor, zahtjevi za privatnost i izrada nacrta, dok verzija za financijske usluge podržava tijekove rada uključujući procjenu kreditnog rizika, nadzor portfelja, istraživanje KYC-a i analizu tržišta. Obje se također mogu povezati s postojećim profesionalnim sustavima podataka i softvera.
Zašto lokalno zaključivanje umjetne inteligencije postaje sve važnije?
Lokalno zaključivanje umjetne inteligencije može ojačati privatnost, smanjiti ovisnost o infrastrukturi u oblaku i potencijalno smanjiti tekuće troškove korištenja. Nvidijin Jetson Orin Nano 2 cilja robote, dronove i druge rubne sustave, dok Perplexityjev prijenosni računar čuva modele, datoteke i izvršavanje agenata na kompatibilnom lokalnom hardveru. U mnogim tijekovima rada, modeli u oblaku mogu se zatim rezervirati za zadatke koji zahtijevaju dodatne mogućnosti.
Kako Perplexity Portable Computer odlučuje kada će koristiti umjetnu inteligenciju u oblaku?
Zadaci su osmišljeni da započnu na korisnikovom lokalnom Nvidia hardveru, zadržavajući kompatibilno izvršavanje modela i datoteke na računalu. Ako korak zahtijeva model Frontier clouda, sustav traži dopuštenje od korisnika prije nego što ga eskalira. Rad obavljen lokalno ne troši kredite za naplatu u oblaku, što ovaj pristup čini relevantnim za korisnike koji su zabrinuti i zbog privatnosti i zbog ponavljajućih troškova zaključivanja.
Što znači Anthropicova procjena tržišta umjetne inteligencije od 30 bilijuna dolara?
Prijavljena brojka odnosi se na Anthropicov pogled na potencijalno ukupno adresabilno tržište za umjetnu inteligenciju, a ne na predviđanje da će sam Anthropic generirati 30 bilijuna dolara godišnjeg prihoda. Predstavlja teorijsku vrijednost posla kojim bi se umjetna inteligencija potencijalno mogla baviti u cijelom gospodarstvu. Procjena također pomaže objasniti zašto vodeće tvrtke za umjetnu inteligenciju toliko ulažu u infrastrukturu i poslovne mogućnosti.