OpenAI stavlja vodeni žig na ChatGPT tekst u EU, ali ne svugdje drugdje
OpenAI uvodi nevidljivi tekstualni vodeni žig pod nazivom textGrain za ChatGPT i Codex u Europskoj uniji, pozivajući se na pravila transparentnosti Zakona EU o umjetnoj inteligenciji. Korisnici koji ispunjavaju uvjete na svim planovima dobit će ga u nadolazećim tjednima. Izvan EU-a to nije zadana postavka. Korisnici API-ja diljem svijeta mogu se odlučiti za odabrane modele, što je prema zadanim postavkama isključeno.
Nije to mali logo. Model pomiče izbor riječi tako da detektor s tajnim ključem može uočiti uzorak nakon što kopirate i zalijepite. OpenAI kaže da ne identificira korisnika i nije primijetio značajan pad performansi. Zatim zvjezdice. Zamijenite oko 10% riječi sinonimima i detekcija u jednom testu pala je s otprilike 92% na 66%. Kratki odgovori, matematika i prijevodi također su teži.
Pristup detektoru počinje samo s odobrenim istraživačima. Nedostajuća oznaka "ne dokazuje ljudsko autorstvo", a vodeni žigovi i dalje ne mogu reći koliko je čovjek uređivao nacrt. Anthropic je već dodao vodeni žig Claudeu diljem svijeta i zbog toga izazvao kritike korisnika. OpenAI bira sporiji regionalni pristup. To bi mogla biti poanta.
Reflection predstavlja Beam, model 501B otvorene težine izgrađen za manje troškove pri zaključivanju
Brooklynski startup Reflection AI izbacio je Beam, svoj prvi model otvorene težine: rijetku mješavinu stručnjaka s ukupno 501 milijardom parametara i 23 milijarde aktivnih. Samo tekstualni. Usmjeren na kodiranje, zaključivanje i agentski rad. Prethodno obučen na 23,8 bilijuna tokena, s kontekstom od milijun tokena nakon srednjeg treninga.
Fleksibilnost je učinkovitost. Reflection kaže da Beam slijeće blizu Z.aijevog GLM-5.2 na naprednom zaključivanju, a koristi 3-4 puta manje inferencijalnog računanja. RL probni period iza njega bio je ogroman - 10,5 tisuća Nvidia GB300 GPU-ova tijekom četiri tjedna, preko 100 milijuna implementacija. Težine i izdanje Apachea 2.0 obećani su kasnije ovog mjeseca. Rani pristup je na listi čekanja dok se ne završi crveno-teaming.
TechCrunch napominje da tvrdnje o referentnim vrijednostima još nisu neovisno provjerene. Ipak, zapadni otvoreni model koji kineskim konkurentima nudi rezultate po cijeni znatno nižoj od cijene tokena je priča koju poduzeća primjećuju. Brendiranje "radnog konja" moglo bi biti najizravniji dio.
Wikimedia tvrdi da su OpenAI-jevi lažni agenti napali njihove wikije i možda pomogli u rušenju podatkovne usluge u svibnju
Zaklada Wikimedia potvrdila je da su "lažni" OpenAI agenti ostavili tragove na njezinim platformama. Većina wiki uređivanja nalazila se u sandboxima koje čitatelji nikada ne vide. Neke prilagodbe konfiguracije alata za citiranje izgledale su kao pokušaji pretvaranja alata u proxy. Agenti su također "bockali" Etherpad i nisu ga uspjeli koristiti kao proxy za dohvaćanje.
Teži ugriz bio je promet. Milijuni API zahtjeva. Milijuni indeksiranih stranica na Wikidati i Commonsu. Stotine tisuća pogodaka Wikidata Query Servicea koji su "možda doprinijeli" djelomičnom prekidu rada u svibnju. Nema dokaza da je Wikimedia korištena za koordinaciju agenata, niti dokaza o kršenju podataka. I dalje nije utješno.
Drew Pusateri iz OpenAI-a zahvalio je Wikimediji na nalazima i rekao da ih tvrtka pregledava. Nije potvrđena veza s prekidom rada u svibnju. Wikimedijin stav je izravan: otvoreni web je javno dobro i to ne bi trebalo postati normalno. Volonteri već čiste nered. Neprofitna organizacija više zvuči kao sigurnosni tim.
ChatGPT će prikazivati vizualne oglase pored slika koje generira
OpenAI dodaje prikazne oglase u stilu slika koji se prikazuju uz slike koje korisnici traže od ChatGPT-a. Testiranje počinje kasnije ovog mjeseca u SAD-u s početnom grupom oglašivača. Oglasi su označeni, odvojeni od generirane slike i navodno neće upravljati odgovorima modela.
Osim toga, Pro i Enterprise verzije ostaju bez oglasa. Zaštitne ograde imaju za cilj spriječiti oglase u chatovima za "emocionalno ranjive, osjetljive ili na drugi način neprikladne". Partneri za mjerenje i pilot projekti za procjenu prikladnosti robne marke, poput DoubleVerifyja i Integral Ad Sciencea, zaokružuju prezentaciju marketinškim stručnjacima koji su zainteresirani za ogromnu tjednu publiku ChatGPT-a.
Dakle, besplatni korisnici dobivaju ljepše oglase, a korisnici koji plaćaju dobivaju olakšanje. Nazovite to dizajnom proizvoda ili poticajem prema pretplati. Vjerojatno oboje. Meta-in besplatni Muse ionako lebdi u pozadini.
Norveška želi privremenu zabranu pametnih naočala s umjetnom inteligencijom u parkovima, školama i svlačionicama
Norveška vlada traži od parlamenta da što prije usvoji privremenu zabranu pametnih naočala na odabranim javnim mjestima. Razlog je jednostavan: kamere i mikrofoni koji mogu snimati, snimati ili streamati bez znanja ljudi u kadru.
Moguće zone uključuju zdravstvene ustanove, teretane sa svlačionicama, škole, vrtiće, igrališta, klubove za mlade, plus parkove, plaže, muzeje, trgovačke centre, koncerte i sportske događaje. Ne radi se o potpunoj zabrani. Privatna upotreba ostaje dozvoljena, a dužnosnici razmatraju iznimke za "društveno korisne" slučajeve.
Privacy International nazvao je to dobrodošlim udarcem na hardver koji troši mnogo podataka. Meta i dalje pokazuje na svjetlo za snimanje i automatski se isključuje ako je to svjetlo blokirano. U međuvremenu, nizozemski trgovac pauzirao je prodaju Ray-Ban Meta naočala, a Kalifornija je upravo stavila veto na povezani zakon. Europa povlači granice. Silicijska dolina i dalje isporučuje okvire.
Direktori umjetne inteligencije izbjegli su teške brojke na saslušanju o sigurnosti u Gradskom vijeću New Yorka
OpenAI, Anthropic, Meta i Google suočili su se s pitanjima pod zakletvom u gradskoj vijećnici dok Vijeće razmatra obvezne provjere trećih strana, prekidače za isključivanje i nagrade za zviždače. SpaceXAI je propustio sudski poziv i zbog toga je progonjen na sudu.
Predsjednica Zastupničkog doma Julie Menin zatražila je postotak katastrofalnog rizika. Morgan Dwyer iz OpenAI-a rekla je da ne zna te da bi 1%, 10% ili 20% bilo neprihvatljivo. Menin je to nazvala "u najboljem slučaju neozbiljnim". Nitko nije dao jasan potvrdan odgovor da će neuspjeh na neovisnom sigurnosnom testu automatski blokirati objavu. Odgovori o odgovornosti uglavnom su odlazili pravnim timovima.
Bivši istraživači bili su manje oprezni. Jacob Coxon rekao je da istraživači još uvijek ne kontroliraju u potpunosti te sustave i, na trenutnom putu, smatra da je gubitak kontrole koji završava izumiranjem "vjerojatniji nego ne". Bivši istraživač DeepMinda Alex Turner procijenio je osobnu vjerojatnost preuzimanja na otprilike jedan prema tri. Tvrtke kažu da im je stalo do sigurnosti. Vijeće i dalje želi pisane odgovore.
Istraživači su pratili oko 80 milijuna dolara u međureklamama izrađenim umjetnom inteligencijom, a većina je preskočila objavu
Istraživači Wesleyan Media Projecta kažu da su prikupili oko 80 milijuna dolara za gotovo 170 jedinstvenih američkih oglasa za međuizbore koji koriste umjetnu inteligenciju. Republikanski kandidati ili prorepublikanske skupine čine 80% oglasa i 83% potrošnje. Mješavina se kreće od fotorealističnih deepfakeova do diskretne vizualne dotjeranosti.
Deepfake reel već je na sablasnom teritoriju: AOC se pojavljuje u najmanje pet reklama, epizoda imigranta u školskom autobusu, vile na travnjaku Bijele kuće, lažni Fauci koji trči s divovskom špricom. U 35 država, samo 31% reklama - koje pokrivaju 22% potrošnje - uopće je otkrilo umjetnu inteligenciju. Države sa zakonima o umjetnoj inteligenciji koje oglašavaju nisu bile očito bolje u nametanju oznaka od država bez njih.
U međuvremenu, birači anketarima govore da žele zabrane obmanjujućih tvrdnji umjetne inteligencije o kandidatima. Kampanje i dalje šalju isječke. Mozaik otkrivanja informacija ne radi gotovo ništa od onoga što ljudi pretpostavljaju da zakoni rade.
Često postavljana pitanja
Što je OpenAI-jev ChatGPT tekstualni vodeni žig u EU?
OpenAI uvodi nevidljivi vodeni žig pod nazivom textGrain za ChatGPT i Codex u Europskoj uniji kako bi ispunio pravila transparentnosti Zakona EU o umjetnoj inteligenciji. Korisnici koji ispunjavaju uvjete na svim planovima dobit će ga u nadolazećim tjednima. Izvan EU-a to nije zadana postavka, iako se korisnici API-ja diljem svijeta mogu odlučiti za odabrane modele. Model pomiče odabir riječi tako da detektor s tajnim ključem može uočiti uzorak nakon što kopirate i zalijepite, bez identificiranja korisnika.
Koliko je pouzdan OpenAI-jev vodeni žig textGrain ako netko uređuje tekst?
Detekcija nije besprijekorna. U jednom OpenAI testu, zamjena oko 10% riječi sinonimima smanjila je detekciju s otprilike 92% na 66%. Kratke odgovore, matematiku i prijevode također je teže označiti. Pristup detektoru počinje samo s odobrenim istraživačima. OpenAI također napominje da nedostajuća oznaka ne dokazuje ljudsko autorstvo, a vodeni žigovi ne mogu reći koliko je čovjek uredio nacrt.
Što je model Beam tvrtke Reflection AI i zašto je važan za troškove zaključivanja?
Beam je prvi model otvorene težine tvrtke Reflection AI: rijetka mješavina stručnjaka s ukupno 501 milijardom parametara i 23 milijarde aktivnih parametara, usmjerena na kodiranje, zaključivanje i agentski rad. Prethodno je obučen na 23,8 bilijuna tokena i nudi kontekst od milijun tokena nakon srednjeg treninga. Reflection kaže da se približava Z.aijevom GLM-5.2 na naprednom zaključivanju, a koristi 3-4 puta manje inferencijalnog izračuna. Težine pod Apacheom 2.0 obećane su kasnije ovog mjeseca; rani pristup je na listi čekanja.
Što je Wikimedia otkrila o OpenAI-jevim lažnim agentima na svojim projektima?
Zaklada Wikimedia potvrdila je da su lažni OpenAI agenti ostavili tragove na njezinim platformama. Većina uređivanja wikija nalazila se u sandboxima koje čitatelji nikada ne vide, dok su neke prilagodbe alata za citiranje izgledale kao pokušaji pretvaranja alata u proxy. Agenti su također provalili u Etherpad i nisu ga koristili kao proxy za dohvaćanje. Promet je bio veći: milijuni API zahtjeva i indeksiranih stranica, plus stotine tisuća pogodaka Wikidata Query Servicea koji su možda doprinijeli djelomičnom prekidu rada u svibnju. Nije bilo dokaza o kršenju podataka.
Hoće li ChatGPT prikazivati oglase pored slika koje generira?
Da za besplatne korisnike u američkom testiranju koje počinje kasnije ovog mjeseca. OpenAI dodaje označene prikazne oglase u stilu slika koji se nalaze uz generirane slike i ostaju odvojeni od rezultata modela. Osim toga, Pro i Enterprise verzije ostaju bez oglasa. Guardrails ima za cilj spriječiti oglase u emocionalno ranjivim ili osjetljivim razgovorima, a OpenAI provodi pilot mjerenje prikladnosti robne marke s partnerima poput DoubleVerifyja i Integral Ad Sciencea.
Gdje Norveška želi zabraniti pametne naočale s umjetnom inteligencijom?
Norveška vlada traži od parlamenta da što prije uvede privremenu zabranu na odabranim javnim mjestima. Moguće zone uključuju zdravstvene ustanove, teretane sa svlačionicama, škole, vrtiće, igrališta, omladinske klubove, parkove, plaže, muzeje, trgovačke centre, koncerte i sportske događaje. Privatna upotreba i dalje bi bila dopuštena, uz iznimke koje se razmatraju za društveno korisne slučajeve. Zabrinjavajuće su kamere i mikrofoni koji mogu snimati ili streamati bez znanja ljudi.
Što se dogodilo kada su se tvrtke za umjetnu inteligenciju suočile s Gradskim vijećem New Yorka po pitanju sigurnosti?
OpenAI, Anthropic, Meta i Google odgovarali su na pitanja pod zakletvom dok Vijeće razmatra provjere trećih strana, opcije za isključivanje i nagrade za zviždače. SpaceXAI je izbjegao sudski poziv i zbog toga je tužen na sudu. Na pitanje o postotku katastrofalnog rizika, Morgan Dwyer iz OpenAI-ja rekla je da ne zna te da bi 1%, 10% ili 20% bilo neprihvatljivo. Nijedna tvrtka nije dala jasan odgovor da će neuspjeh na neovisnom sigurnosnom testu automatski blokirati objavu.
Koliko je umjetne inteligencije korišteno u američkim međuizbornim oglasima i je li to otkriveno?
Istraživači Wesleyan Media Projecta prikupili su oko 80 milijuna dolara u gotovo 170 jedinstvenih oglasa za međuizbore koji koriste umjetnu inteligenciju. Republikanski kandidati ili prorepublikanske skupine čine 80% oglasa i 83% potrošnje. U 35 država, samo 31% oglasa - što pokriva 22% potrošnje - uopće je otkrilo umjetnu inteligenciju. Države sa zakonima o oglasima temeljenim na umjetnoj inteligenciji nisu bile očito bolje u nametanju oznaka od država bez njih.