💰 Sequoia tiho uskače u Anthropicovu mega-rundu ↗
Sequoia - već povezana s nekoliko velikih laboratorija za umjetnu inteligenciju - navodno se pridružuje velikom povećanju broja zaposlenika u Anthropicu. To je potez koji cijelu priču o "sukobima, bez sukoba" podiže na višu razinu, priznao to netko ili ne.
Navodno će runda uključivati i druge teške provjere, gurajući Anthropic dalje u tu vrhunsku, mega-procjenu traku. Vibracije mjehurića se zadržavaju. Ovo bi također moglo biti novo normalno, iritantno.
📢 ChatGPT počinje koketirati s oglasima - ovaj put stvarno ↗
Navodno OpenAI testira oglase za neke američke korisnike na nižim razinama, dok će one na skupljim razinama ostati bez oglasa. Obećanje je da oglasi neće utjecati na odgovore - što je u teoriji ohrabrujuće, čak i ako refleks povjerenja malo podrhtava.
Širi podtekst je jednostavan: zaključivanje je skupo, a same pretplate možda neće zauvijek pokriti sve... ili se barem tako čini. Ipak, prvi put kada vidite "sponzorirano" bilo gdje u blizini chatbota, nešto se promijeni u vašoj glavi. Atmosfera se mijenja.
📚 Izdavači pokušavaju iskoristiti Googleovu tužbu za obuku umjetne inteligencije ↗
Grupa izdavača pokušava se pridružiti tužbi koja optužuje Google za korištenje autorskih djela za obuku svojih sustava umjetne inteligencije. Ova pravna bitka se nastavlja širiti, poput pukotine u ledu koju stalno čujete, ali ne možete je točno locirati.
Ako im sud dopusti ulazak, slučaj bi se mogao zaoštriti oko toga što bi "dozvola" i "plaćanje" trebali značiti za podatke o obuci. Svi žele presedan - po mogućnosti onaj koji im ide u prilog, očito.
🕳️ Navodno trik "brze injekcije" kvari Gemini putem podataka o sastancima ↗
Istraživači su opisali napad u stilu "neizravnog prompta ubrizgavanja" gdje se zlonamjerne upute skrivaju unutar normalnog sadržaja, a zatim ih asistent slijedi kasnije kada korisnik pita nešto nevino. Nema zlonamjernog softvera, nema čarobnjaštva - samo tekst pretvoren u oružje, neobično elegantan i pomalo odvratan.
To je podsjetnik da "LLM čita nepouzdani tekst" nije slatka značajka - to je čitava površina prijetnje. Kao da dopuštate strancima da vam cijeli dan guraju bilješke u džepove, a zatim se pretvarate da ste iznenađeni kada je jedna od njih zamka.
🎮 Izvršni direktor Razera kaže da igrači "već vole umjetnu inteligenciju" - samo mrze tu etiketu ↗
Razerovo predavanje na CES-u fokusiralo se na umjetnu inteligenciju kao praktičan alat za tijek rada u razvoju igara - QA, iteracije, takve stvari - plus neke koncepte nalik pomoćnicima koji se čine dijelom korisnima, a dijelom znanstvenofantastičnima.
Također u osnovi priznaju problem s brendiranjem: igrači ne žele „AI otpad“, ali žele pametnije alate i glatkija iskustva. Nazovite to „pomoć“ i ljudi će klimati glavom. Nazovite to „AI“ i ljudi će ponekad posegnuti za vilama.
⚖️ Sud propisuje pravila za odvjetnike koji koriste generativnu umjetnu inteligenciju ↗
Sud je objavio smjernice koje se u osnovi svode na: naravno, koristite genAI - ali posao je i dalje vaš. Ne možete prepustiti svoju profesionalnu prosudbu generatoru teksta, a zatim se šokirati kada on samouvjereno nešto izmisli.
Zanimljivo je da otkrivanje nije potrebno osim ako sudac ne zatraži - ali poruka o odgovornosti je prava kičma toga. Umjetna inteligencija može pisati i sređivati... a također i halucinirati poput previše samouvjerenog pripravnika sa smislom za fikciju.
Često postavljana pitanja
Što Sequoia-ino pridruživanje Anthropicovoj mega rundi financiranja znači za ulaganja u umjetnu inteligenciju i sukobe?
To sugerira da bi veliki investitori mogli nastaviti podupirati više vrhunskih laboratorija za umjetnu inteligenciju odjednom, što predvidljivo oživljava raspravu o „sukobima, bez sukoba“. Kada je isti fond uključen u nekoliko laboratorija, ljudi počinju ispitivati poticaje, pristup i konkurentske prednosti. Prijavljena mega runda također naglašava kretanje prema ogromnim čekovima i visokim procjenama, čak i dok „vibracije mjehurića“ još uvijek vise u zraku.
Dobiva li ChatGPT oglase na besplatnim ili jeftinijim razinama i hoće li oni utjecati na odgovore?
U izvješću se navodi da OpenAI testira oglase za neke američke korisnike na nižim razinama, dok one na skupljim razinama ostaju bez oglasa. Također se tvrdi da oglasi neće utjecati na odgovore, što na papiru zvuči umirujuće, ali ipak može promijeniti način na koji ljudi doživljavaju povjerenje. Podtekst je ekonomski: zaključivanje je skupo, a pretplate možda neće zauvijek pokrivati sve.
Zašto se izdavači pokušavaju pridružiti Googleovoj tužbi za obuku umjetne inteligencije?
Grupa izdavača želi se pridružiti tužbi u kojoj se tvrdi da je Google koristio djela zaštićena autorskim pravima za obuku sustava umjetne inteligencije. Ako im sud dopusti, slučaj bi se mogao zaoštriti oko toga kako bi "dozvola" i "plaćanje" trebali izgledati za podatke o obuci. Više stranaka često znači veći pritisak za jasan presedan - posebno oko toga tko će biti kompenziran i pod kojim uvjetima.
Što je napad "neizravnim promptnim ubrizgavanjem" i zašto je to velika stvar u vijestima o AI tehnologiji?
To je napad u kojem su zlonamjerne upute skrivene unutar sadržaja koji izgleda normalno, a asistent ih kasnije slijedi kada korisnik uputi nevin zahtjev. Ključni problem je što model čita nepouzdan tekst, pretvarajući svakodnevne dokumente i poruke u potencijalnu površinu prijetnje. Uvjerljiv je jer može funkcionirati bez tradicionalnog zlonamjernog softvera - samo s jezikom koji je oružje ugrađenim u sadržaj.
Zašto igrači ne vole oznaku "AI", ali i dalje žele AI alate?
Izvršni direktor Razera tvrdi da igrači već vole praktične prednosti - brže osiguranje kvalitete, glatkiju iteraciju i pomoćnike u tijeku rada - ali negativno reagiraju na brendiranje. Problem je često "AI nered" ili sadržaj koji se čini neautentičnim i ne zahtijeva puno truda. Preoblikovanje u "pomoć" ili korisnu značajku može stvoriti dojam da je alat koji poboljšava iskustvo, a ne zamjenjuje kreativnost.
Što sudska pravila znače za odvjetnike koji koriste generativnu umjetnu inteligenciju i moraju li ih otkriti?
Opisane smjernice su jednostavne: odvjetnici mogu koristiti generativnu umjetnu inteligenciju, ali ostaju odgovorni za rad i ne mogu prepustiti profesionalnu prosudbu generatoru teksta. Rizik je halucinacija - samouvjereno izmišljene činjenice ili citati - stoga provjera i odgovornost ostaju središnji. Navodno otkrivanje nije potrebno osim ako sudac ne zatraži, ali poruka je i dalje: vi ste odgovorni za ishod.