Naša odluka o Cursoru nakon njegove akvizicije od strane SpaceX-a ↗
OpenAI kaže da će prekinuti svoj ugovor o isporuci modela tvrtki Cursor nakon što SpaceX preuzme platformu za kodiranje. Tvrtka kaže da više ne može biti sigurna da će SpaceX koristiti njihovu tehnologiju u skladu s OpenAI-jevim uvjetima.
OpenAI također kaže da neće pružati buduće modele Cursoru. To je prilično značajna promjena - posebno za programere koji su Cursor i OpenAI modele počeli tretirati kao gotovo zadani kodni stog. (OpenAI)
Kineski Tencent objavljuje novi model umjetne inteligencije otvorenog koda za kodiranje i istraživačke zadatke ↗
Tencent je objavio pregled Hy4, modela otvorenog koda namijenjenog softverskom inženjerstvu, istraživanju i financijskoj analizi. Koristi arhitekturu mješavine stručnjaka s ukupno 770 milijardi parametara, dok aktivira otprilike 49 milijardi za svaki tekstualni zahtjev.
Tencent planira to uključiti u proizvode uključujući CodeBuddy i WorkBuddy. Tvrtka priznaje da pregled može previše razmišljati o složenim pitanjima i previše se entuzijastično verificirati... na svoj način se može povezati s ljudima. (Reuters)
Automatizirani istraživači mogu pouzdano ublažiti pogreške u poravnanju ↗
Anthropic je pokazao Claudea kako autonomno pretražuje istraživanja, predlaže tehnike treninga, provodi eksperimente i poboljšava modele u 10 kategorija neuspjeha u usklađivanju - uključujući obmanu, jailbreake i ulizivanje.
Njegove najjače metode poboljšale su svaki ciljani kriterij bez degradiranja sposobnosti koje je Anthropic mjerio, a neke su prenesene na modele do 4,7 puta veće. Claudeov automatizirani istraživač također je nadmašio prijedloge iskusnih istraživača ljudske sigurnosti u okviru postavke studije.
Naravno, postoji kvaka. Anthropic je otkrio varanje u malom dijelu automatiziranih istraživanja i naglašava da njegovi kriteriji pokrivaju samo uzak dio praktičnih uvjeta poravnanja. Dakle... samousavršavajuće istraživanje umjetne inteligencije, s umjetnom inteligencijom koja promatra istraživača umjetne inteligencije. Vrlo normalne stvari. (Anthropic)
Anthropic je nezakonito stavljen na crnu listu Trumpove administracije, presudio je sud ↗
Savezni sudac presudio je da je odluka Pentagona da Anthropic stavi na crnu listu kao rizik za lanac opskrbe neustavna, nazivajući akciju nezakonitom odmazdom i smatrajući da je oznaka proizvoljna i hirovita.
Borba je nastala zbog odbijanja Anthropica da ukine ograničenja protiv korištenja svoje umjetne inteligencije za masovni nadzor Amerikanaca ili smrtonosnog autonomnog oružja bez ljudskog nadzora. Presuda je ozbiljna pobjeda za Anthropic - i prilično oštar presedan u borbi oko toga mogu li vlade kažnjavati dobavljače umjetne inteligencije zbog postavljanja vlastitih sigurnosnih linija. (The Verge)
Fond za strojno doba ↗
Andreessen Horowitz prikupio je 1,1 milijardu dolara za novi fond Machine Age usmjeren na fizičku infrastrukturu umjetne inteligencije - čipove, memoriju, umrežavanje, pohranu, podatkovne centre, robotiku, pa čak i kućni hardver umjetne inteligencije.
Teza je u osnovi da sljedeće usko grlo umjetne inteligencije nije još jedna pametna značajka chatbota, već fizika. Napajanje, hlađenje, propusnost memorije i umrežavanje moraju se brutalno brzo skalirati, a a16z želi mjesto za tim hardverskim stolom. (Andreessen Horowitz)
Google dodatno zakopava rezultate pretraživanja u AI načinu rada ↗
Google je počeo automatski proširovati AI preglede za neka pretraživanja. Umjesto kratkog sažetka nakon kojeg brzo slijede tradicionalne poveznice, korisnici mogu dobiti potpuni AI odgovor, okvir "Pitajte bilo što" i tek onda poznate web rezultate.
Google kaže da se prošireno iskustvo pojavljuje kada njegovi sustavi smatraju da će biti posebno vrijedno. Za izdavače je, međutim, neugodan dio očit - obične poveznice se guraju još dalje niz stranicu, dok Googleova umjetna inteligencija postaje sve teža za korištenje. (The Verge)
Često postavljana pitanja
Zašto OpenAI prekida svoj modelni ugovor s Cursorom nakon akvizicije SpaceX-a?
OpenAI kaže da planira smanjiti pristup modelima za Cursor jer više ne može biti siguran da će SpaceX koristiti njihovu tehnologiju u skladu s OpenAI uvjetima. Tvrtka također kaže da budući OpenAI modeli neće biti dostupni Cursoru. Za programere, ovo bi moglo promijeniti tijek rada kodiranja koji je obično spajao Cursor s OpenAI modelima.
Što je Tencent Hy4 i čemu služi?
Tencent Hy4 je model umjetne inteligencije otvorenog koda izgrađen za softverski inženjering, istraživanje i financijsku analizu. Pregled koristi arhitekturu mješavine stručnjaka s ukupno 770 milijardi parametara, dok aktivira oko 49 milijardi za svaki tekstualni zahtjev. Tencent planira integrirati Hy4 u proizvode uključujući CodeBuddy i WorkBuddy, iako kaže da pregled ponekad može previše razmišljati i previše provjeravati složena pitanja.
Mogu li istraživači umjetne inteligencije automatski poboljšati usklađenost modela?
Anthropicovo istraživanje sugerira da automatizirani istraživači umjetne inteligencije mogu identificirati i testirati tehnike za smanjenje nekoliko vrsta neuspjeha u poravnanju. Claude je korišten za pretraživanje postojećih istraživanja, predlaganje pristupa obuci, provođenje eksperimenata i procjenu poboljšanja u područjima kao što su obmana, jailbreak i ulizivanje. Anthropic je također otkrio da su se neke uspješne tehnike mogle prenijeti na veće modele, iako je studija obuhvatila samo ograničen raspon praktičnih uvjeta poravnanja.
Zašto je sud presudio da je Anthropic nezakonito stavljen na crnu listu?
Savezni sudac presudio je da je Pentagonovo označavanje Anthropica kao rizika za lanac opskrbe neustavno, proizvoljno i hirovito. Spor je uslijedio nakon Anthropicovog odbijanja da ukine ograničenja koja uključuju masovni nadzor Amerikanaca i smrtonosno autonomno oružje bez ljudskog nadzora. Presuda bi mogla postati važna referentna točka u budućim sporovima o tome mogu li vlade kažnjavati tvrtke za umjetnu inteligenciju zbog održavanja vlastitih sigurnosnih ograničenja.
Zašto a16z ulaže 1,1 milijardu dolara u AI infrastrukturu?
Andreessen Horowitz osnovao je svoj Machine Age Fund vrijedan 1,1 milijardu dolara kako bi ulagao u fizičke sustave potrebne za skaliranje umjetne inteligencije. Njegov fokus uključuje čipove, memoriju, umrežavanje, pohranu, podatkovne centre, robotiku i kućni AI hardver. Fond odražava širu temu vijesti o umjetnoj inteligenciji: budući napredak može ovisiti jednako o napajanju, hlađenju, propusnosti i računalnoj infrastrukturi kao i o poboljšanjima softverskih modela.
Kako Google AI pregledi mijenjaju tradicionalne rezultate pretraživanja?
Google automatski proširuje AI preglede za neka pretraživanja, postavljajući potpuniji odgovor generiran umjetnom inteligencijom i sučelje "Pitajte bilo što" prije tradicionalnih web rezultata. To znači da se obične poveznice mogu pojaviti niže na stranici nego prije. Za izdavače i SEO timove koji prate vijesti o umjetnoj inteligenciji, promjena postavlja praktična pitanja o vidljivosti pretraživanja, prometu preporuka i načinu na koji korisnici otkrivaju originalne izvore.