Izvori kažu da Trumpovi savjetnici kažu tvrtkama za umjetnu inteligenciju da neće testirati sigurnost modela otvorene težine ↗
Trumpova administracija rekla je vodećim tvrtkama za umjetnu inteligenciju da neće testirati sigurnosne modele s otvorenim težinama, prema ljudima upoznatim s raspravama. To ostavlja prilično značajan dio procjene rizika izvan vladinog okvira.
U praksi, programeri i korisnici možda će morati preuzeti veću odgovornost za procjenu modela prije objavljivanja ili implementacije. Možda je to povoljno za inovacije... ali vrijeme je nezgodno, jer otvoreni modeli postaju sve sposobniji brzim tempom. (Reuters)
Modeli umjetne inteligencije otvorene težine sustižu granice. Sigurnosni jaz i dalje postoji. ↗
Z.aijev GLM-5.2 navodno zaostaje samo nekoliko mjeseci za vodećim zatvorenim modelima u kibernetičkim i biološkim sposobnostima. SaferAI-jevi testovi pokazali su da nije odbio nijedan od ofenzivnih kibernetičkih ili bioloških zadataka dvojne namjene koji su mu predstavljeni.
Zatvoreni modeli mogu se oslanjati na obuku odbijanja, klasifikatore i API kontrole. Težine koje se mogu preuzeti su drugačija stvar - nakon što se objave, zaštitne mjere mogu se mijenjati ili uklanjati, zbog čega se sigurnosni jaz čini izrazito u obliku kanjona. (TechCrunch)
Samsung Electronics predstavlja sljedeću generaciju tehnologije umjetne inteligencije za pamćenje ↗
Samsung je predstavio prototip BV-NAND-a s više od 400 slojeva i novim dizajnom spajanja pločica. Tvrtka tvrdi da pruža otprilike 58% veću gustoću memorije od prethodne generacije, uz brže performanse čitanja, pisanja i ulazno-izlaznih procesa.
Samsung je također istaknuo vertikalno složenu zHBM memoriju postavljenu iznad AI akceleratora. Tvrdi da bi arhitektura mogla ponuditi više od deset puta veću gustoću od konvencionalne HBM5, utrostručiti energetsku učinkovitost i znatno niži toplinski otpor - značajna obećanja, blago rečeno. (Reuters)
Utrka za podatkovne centre umjetne inteligencije stvara teret najma od 1 bilijun dolara za velike tehnološke tvrtke ↗
Microsoft, Meta, Oracle, Amazon i Alphabet su se obvezali na oko 1,09 bilijuna dolara za najmove koji još nisu započeli, uglavnom za podatkovne centre umjetne inteligencije. Te obveze su gotovo četiri puta veće od njihovih priznatih obveza najma.
Kapacitet bi mogao potaknuti sljedeći procvat clouda. Ili, manje veselo, natjerati tvrtke da plaćaju ogromne objekte ako potražnja za umjetnom inteligencijom razočara - kaput od bilijun dolara kupljen prije nego što je itko provjerio vremensku prognozu. (Reuters)
Anthropic potpisuje ugovor vrijedan 10 milijardi dolara s Voltom, startupom za umjetnu inteligenciju u oblaku ↗
Anthropic je navodno pristao kupiti računalne kapacitete vrijedne 10 milijardi dolara od startupa za umjetnu inteligenciju Volta tijekom šest godina. Sporazum bi podržao norveški podatkovni centar koji nudi kapacitet od 133 megavata.
Očekuje se da će tvrtka za rudarenje kriptovaluta Bitdeer pomoći u razvoju postrojenja koje će koristiti Nvidijine Vera Rubin sustave. Anthropic prikuplja računalna partnerstva poput magneta za hladnjak - osim što ti magneti koštaju milijarde. (TechCrunch)
Svjetska banka kaže da umjetna inteligencija nudi 'spas' za zemlje u razvoju ↗
Svjetska banka kaže da bi umjetna inteligencija mogla omogućiti zemljama u razvoju da sažeti stoljeće napretka u desetljeće, pod uvjetom da poboljšaju električnu energiju, povezivost i digitalne vještine. Manji, lokalno prilagođeni alati mogli bi podržati zdravstvo, obrazovanje, poljoprivredu i javne usluge bez potrebe za ogromnim nacionalnim modelima.
U izvješću se procjenjuje da je 4,5% radnih mjesta u zemljama s niskim i srednjim dohotkom izloženo generativnoj umjetnoj inteligenciji, u usporedbi s 14,2% u bogatijim gospodarstvima. Unatoč tome, obećanje dolazi s jasnim upozorenjima o nejednakosti, dezinformacijama i političkoj represiji - slamka spasa s nekoliko čvorova uvezanih u nju. (Reuters)
Često postavljana pitanja
Zašto američka vlada ne testira sigurnost otvorenih modela umjetne inteligencije?
Prema članku, Trumpova administracija rekla je vodećim tvrtkama za umjetnu inteligenciju da modeli otvorene težine neće biti uključeni u njihov vladin okvir za sigurnosno testiranje. To stavlja veću odgovornost na programere modela, distributere i korisnike, koji će možda morati samostalno procijeniti kibernetičke, biološke rizike, rizike zlouporabe i implementacije prije objavljivanja ili usvajanja ovih sustava.
Zašto je otvorene modele umjetne inteligencije teže osigurati od zatvorenih modela?
Modeli umjetne inteligencije otvorene težine mogu se preuzeti, mijenjati i njima se upravljati izvan izvorne infrastrukture razvojnog programera. Kao rezultat toga, zaštitne mjere poput obuke odbijanja, klasifikatora i kontrola pristupa mogu biti oslabljene ili uklonjene. Zatvoreni modeli obično se isporučuju putem kontroliranih API-ja, što pružateljima usluga daje veći prostor za praćenje korištenja, ograničavanje pristupa i ažuriranje zaštita nakon implementacije.
Kako bi organizacije trebale procijeniti modele umjetne inteligencije otvorene težine prije implementacije?
Uobičajeni pristup je testiranje modela u odnosu na realne scenarije zlouporabe, uključujući ofenzivne kibernetičke zadatke, biološke zahtjeve dvojne namjene i pokušaje zaobilaženja zaštitnih mjera. Organizacije bi također trebale ispitati kako će se model hostirati, tko će ga moći mijenjati i koji su sustavi praćenja dostupni. Implementacije s većim rizikom obično zahtijevaju strože kontrole pristupa i stalan ljudski nadzor.
Što je Samsungova nova tehnologija umjetne inteligencije za poboljšanje?
Samsungov prototip BV-NAND koristi više od 400 slojeva i dizajn spajanja pločica namijenjen povećanju gustoće memorije uz istovremeno poboljšanje performansi čitanja, pisanja i ulazno-izlaznih procesa. Tvrtka je također opisala vertikalno složenu zHBM memoriju postavljenu iznad AI akceleratora. Ovi dizajni namijenjeni su rješavanju potreba za kapacitetom, energijom i toplinom koje stvaraju sve intenzivnija AI opterećenja.
Zašto se najmovi podatkovnih centara za umjetnu inteligenciju velikih tehnoloških tvrtki smatraju financijskim rizikom?
Microsoft, Meta, Oracle, Amazon i Alphabet navodno su se obvezali na oko 1,09 bilijuna dolara za najmove koji još nisu započeli, a veći dio toga povezan je s podatkovnim centrima umjetne inteligencije. Dodatni kapacitet mogao bi podržati brzi rast potražnje za cloudom i umjetnom inteligencijom. Međutim, tvrtke bi i dalje mogle dugovati značajne uplate ako se potražnja razvija sporije od očekivanog ili ako infrastruktura ostane nedovoljno iskorištena.
Kako bi umjetna inteligencija mogla koristiti zemljama u razvoju?
Svjetska banka tvrdi da bi umjetna inteligencija mogla pomoći zemljama u razvoju u jačanju zdravstva, obrazovanja, poljoprivrede i javnih usluga, posebno putem manjih alata prilagođenih lokalnim potrebama. Te koristi ovise o pouzdanoj električnoj energiji, pristupu internetu i digitalnim vještinama. Vlade također moraju upravljati rizicima poput nejednakosti, dezinformacija i političke represije kako se prihvaćanje širi.