OpenAI će pauzirati dio rada na AI modelu Astra zbog sigurnosnih problema ↗
OpenAI pauzira interni rad na Astri koja ne zadovoljava strože sigurnosne zahtjeve nakon što su procjene sugerirale da su njezine kibernetičke sposobnosti možda prešle "kritični" prag. Agent bi navodno mogao pronaći i iskoristiti ranjivosti bez ljudske intervencije ili izvesti napade s cilja visoke razine. Da... to je prilično ozbiljna granica koju treba prijeći.
Tvrtka pooštrava izolirano testiranje, pristup mreži i alatima, zaštitu prema težini modela, enkripciju i nadzor. Astra nije bila uključena u raniji incident Hugging Face tvrtke OpenAI, ali širi obrazac sve autonomnijih agenata čini obuzdavanje mnogo većom zabrinutošću. (Izvor: The Guardian)
Apple tvrdi da se korisnici Maca u Kini mogu povezati s Alibabinom uslugom umjetne inteligencije Qwen ↗
Korisnici Maca u kontinentalnoj Kini koji ispunjavaju uvjete sada mogu povezati Alibabin Qwen sa Siri i Appleovim alatima za pisanje. To znači detaljnije odgovore plus analizu dokumenata i slika, uz generiranje teksta i slika iz opisa.
Iskreno, to je zanimljiv spoj - Apple dobiva lokalno usklađen put do jačih AI značajki na žestoko konkurentnom tržištu osobnih računala, dok Alibaba ugrađuje Qwen mnogo dublje u tuđi ekosustav. Apple kaže da Alibaba ne može koristiti materijal poslan putem proširenja za treniranje svojih modela. (Izvor: Reuters)
Google DeepMind ulazi u novo doba dok suosnivač Demis Hassabis mijenja ulogu u području umjetne inteligencije ↗
Demis Hassabis odustaje od svakodnevnog vodstva DeepMinda, postajući predsjednik uprave, a istovremeno preuzima i ulogu glavnog znanstvenika u Alphabetu. Dugogodišnji kolega Koray Kavukcuoglu preuzima operativnu kontrolu kao viši potpredsjednik, a ne kao izvršni direktor - suptilna promjena titule koja mnogo govori.
Reorganizacija dolazi uz odlazak drugih velikih istraživača i pitanja o tome postaje li DeepMind manje neovisan i sve više apsorbiran u Googleov komercijalni stroj umjetne inteligencije. Google osporava da je promjena povezana s konkurentskim rezultatima Geminija. (Izvor: The Guardian)
Sve veći broj djece u Ujedinjenom Kraljevstvu prijavljuje da vide eksplicitne deepfakeove sebe ↗
Broj prijava djece iz Ujedinjenog Kraljevstva o eksplicitnim lažnim ili manipuliranim slikama samih sebe naglo je porastao. Report Remove primio je 420 prijava u samo šest mjeseci, što je već premašilo prethodni godišnji broj od 397. Alati za "nudifikaciju" pokretani umjetnom inteligencijom znatno olakšavaju skaliranje problema.
Zaklada Internet Watch kaže da su mnoge prijavljene manipulirane slike bile dovoljno ozbiljne da pređu prag materijala o seksualnom zlostavljanju djece. Neke su žrtve također bile meta seksualnog iznuđivanja, pretvarajući sliku generiranu umjetnom inteligencijom u vrlo opipljivo oružje. (Izvor: The Guardian)
Istraživanje pokazuje da značajke umjetne inteligencije rastu brže od poslovne vrijednosti ↗
Softverske tvrtke za poduzeća plasiraju AI značajke, ali ih kupci ne koriste nužno. U anketi provedenoj na više od 260 vertikalnih softverskih tvrtki, 51% ih je reklo da manje od četvrtine njihovih kupaca koristi AI mogućnosti koje su izgradili. Malo je neugodno nakon sve te dostave...
Usko grlo manje se čini kao sposobnost umjetne inteligencije, a više kao integracija, sigurnost, privatnost, promjene u tijeku rada i dokazivanje konkretne poslovne vrijednosti. Jedan posebno neobičan fenomen je "tokenmaxxing" - puno korištenja umjetne inteligencije koje izgleda impresivno na nadzornoj ploči bez jasnih dokaza da daje bolje rezultate. (Izvor: Forbes)
Umjetna inteligencija mijenja rad brže nego što podaci mogu pratiti ↗
Argument o radnim mjestima povezanim s umjetnom inteligencijom postaje sve zamršeniji, a ne čišći. Studija koja je obuhvatila više od 21 000 američkih tvrtki otkrila je da su tvrtke s najvećim brojem usvojenih zaposlenika povećale ukupni broj zaposlenika za 10%, a zapošljavanje na početnoj razini za 12%, dok tvrtke s manje intenzivnim usvajanjem nisu pokazale rast broja zaposlenika.
No druga istraživanja otkrila su pritisak na zapošljavanje među mlađim radnicima na radnim mjestima izloženim umjetnoj inteligenciji, a ekonomisti upozoravaju da tvrtke u rastu i dalje mogu zapošljavati dok umjetna inteligencija mijenja zanimanja u širem gospodarstvu. Dakle, umjetna inteligencija ubija i stvara radna mjesta... ili bi vas barem tako htjeli uvjeriti kontradiktorni skupovi podataka. (Izvor: Fortune)
Često postavljana pitanja
Koji su trenutno najveći razvoji vijesti o umjetnoj inteligenciji?
Nedavne vijesti o umjetnoj inteligenciji ukazuju na nekoliko preklapajućih tema: jače autonomne mogućnosti, strože sigurnosne kontrole, dublje integracije platformi, promjene u vodstvu, rizici za online sigurnost i neizvjesna poslovna vrijednost. OpenAI pooštrava zaštitne mjere oko Astre, Apple povezuje Qwen s Macovima u Kini, a DeepMind mijenja vodstvo. Istovremeno, raste zabrinutost oko deepfakeova, prihvaćanja u poduzećima i utjecaja umjetne inteligencije na zapošljavanje.
Zašto je OpenAI pauzirao dio rada na Astri?
OpenAI je navodno pauzirao interni rad Astre koji nije ispunjavao strože sigurnosne zahtjeve nakon što su procjene sugerirale da su kibernetičke sposobnosti modela možda dosegle kritičnu razinu. Zabrinutost je da bi napredni agent potencijalno mogao otkriti i iskoristiti ranjivosti uz ograničenu ili nikakvu ljudsku intervenciju. Kao odgovor na to, OpenAI jača izolirano testiranje, kontrole pristupa, enkripciju, praćenje i zaštitu oko težina modela.
Kako će Alibaba Qwen raditi s Apple Macovima u Kini?
Korisnici Maca u kontinentalnoj Kini koji ispunjavaju uvjete mogu povezati Alibabinu uslugu Qwen sa Siri i Appleovim alatima za pisanje. Integracija može podržati detaljnije odgovore, analizu dokumenata i slika te generiranje teksta ili slika iz opisa. Za Apple, ovaj aranžman pruža lokalno usklađen put do jače funkcionalnosti umjetne inteligencije, dok Alibaba dobiva dublji pristup Appleovom ekosustavu. Apple kaže da se poslani materijal ne može koristiti za obuku Alibabinih modela.
Što promjena vodstva DeepMinda znači za Googleovu umjetnu inteligenciju?
Demis Hassabis se udaljava od svakodnevnog vodstva DeepMinda i postaje predsjednik uprave te preuzima ulogu glavnog znanstvenika u Alphabetu. Koray Kavukcuoglu preuzet će operativnu kontrolu kao viši potpredsjednik. Promjena je postavila pitanja o tome je li DeepMind sve više integriran s Googleovim širim komercijalnim operacijama umjetne inteligencije, iako Google osporava sugestije da je rekonstrukcija povezana s konkurentskim rezultatima Geminija.
Zašto AI deepfakeovi postaju sve veća zabrinutost za sigurnost djece?
Alati za manipulaciju slikama pokretani umjetnom inteligencijom mogu olakšati stvaranje realističnih eksplicitnih lažnih slika u velikim razmjerima. Djeca u Ujedinjenom Kraljevstvu sve više prijavljuju manipulirane ili izmišljene slike sebe, a neki slučajevi bili su dovoljno ozbiljni da prelaze prag za materijal seksualnog zlostavljanja djece. Ove se slike također mogu koristiti za seksualno iznuđivanje, što znači da izmišljena slika i dalje može uzrokovati značajnu reputacijsku, emocionalnu i financijsku štetu.
Imaju li tvrtke i radnici već koristi od umjetne inteligencije?
Najnovije vijesti o umjetnoj inteligenciji sugeriraju da je odgovor mješovit. Mnoge softverske tvrtke dodaju značajke umjetne inteligencije brže nego što ih kupci usvajaju, a integracija, privatnost, sigurnost i mjerljiva poslovna vrijednost ostaju glavne prepreke. Podaci o zaposlenosti slično su komplicirani: neke tvrtke s velikim usvajanjem umjetne inteligencije proširuju zapošljavanje, dok druga istraživanja ukazuju na pritisak na mlađe radnike na radnim mjestima izloženim umjetnoj inteligenciji. Ukupni utjecaj uvelike ovisi o industriji, tijeku rada i načinu na koji se umjetna inteligencija implementira.