🇬🇧 Hrabra oklada na umjetnu inteligenciju kako bi UK ostao na čelu znanstvenih i istraživačkih otkrića, od zdravstva do boljih javnih usluga ↗
Glavni javni financijer istraživanja u Ujedinjenom Kraljevstvu (UKRI) objavio je svoju prvu namjensku strategiju za umjetnu inteligenciju, u biti zalažući se za više umjetne inteligencije u istraživanjima, više vještina umjetne inteligencije, više infrastrukture umjetne inteligencije - sve to zajedno.
To uključuje ozbiljan novac usmjeren na umjetnu inteligenciju, plus specifična ulaganja poput nadogradnje Cambridgeovog superračunala DAWN i podupiranja rada „AI za znanost“ (otkriće lijekova se spominje, što nije iznenađujuće). Čita se kao „učiniti osnove, ali i isporučiti rezultate“... što je raspoloženje, ili zategnuto uže, ili oboje.
🛡️ OpenAI i Microsoft pridružuju se međunarodnoj koaliciji Ujedinjenog Kraljevstva kako bi zaštitili razvoj umjetne inteligencije ↗
OpenAI i Microsoft obećali su nova sredstva za projekt usklađivanja britanskog Instituta za sigurnost umjetne inteligencije - fond za neovisna istraživanja usklađivanja postao je veći, a oni to prikazuju kao izgradnju povjerenja, a ne samo kao napad na štrebere.
Bitno je napomenuti strukturu: međunarodna koalicija, više financijera i niz bespovratnih sredstava koji se dodjeljuju u niz zemalja. To je „usklađivanje kao ekosustav“, a ne „usklađivanje kao tajni sastojak jednog laboratorija“... čak i ako laboratoriji još uvijek drže većinu sastojaka.
🧠 Unapređenje neovisnih istraživanja o usklađivanju umjetne inteligencije ↗
OpenAI je uložio 7,5 milijuna dolara u projekt usklađivanja AISI u Velikoj Britaniji - novac posebno namijenjen neovisnim timovima koji obavljaju sigurnosne/usklađene poslove izvan pograničnih laboratorija.
Prezentacija je prilično izravna: granični laboratoriji mogu provoditi usklađivanje s velikim udjelom pristupa modelima, ali područje također treba idiosinkratične, raznolike, nekorelirane ideje od autsajdera (njihove riječi su ljepše, ali shvaćate). Ispod svega toga stoji i jasan svjetonazor „iterativne implementacije“ - isporuči, uči, ojačaj... ponovi... ili se barem tako čini.
💳 Ministarstvo financija objavljuje dva nova resursa za usmjeravanje korištenja umjetne inteligencije u financijskom sektoru ↗
Američko Ministarstvo financija ukinulo je dva praktična alata za financije: zajednički leksikon umjetne inteligencije (kako bi se svi prestali prepirati oko značenja riječi) i okvir za upravljanje rizicima umjetne inteligencije u financijskim uslugama koji prilagođava NIST-ov pristup stvarnosti bankarstva.
Okvir je upravljanje temeljeno na riziku s dovoljno detalja da ga koriste timovi za usklađenost, regulatori i dobavljači bez da svi paralelno izmišljaju vlastite definicije. To je vrsta prozaičnog dokumenta koji tiho oblikuje ono što se odobrava... što je moćno na način koji podsjeća na ormar za spise.
🪖 Tehnički direktor Pentagona kaže da 'nije demokratski' da Anthropic ograničava vojnu upotrebu Claudeove umjetne inteligencije ↗
Tehnološki čelnik Pentagona javno je usprotivio se ograničavanju vojne upotrebe Claudea od strane Anthropica, nazivajući "nedemokratskim" da jedna tvrtka postavlja dodatna pravila izvan zakona i propisa.
Ovo se nadovezuje na širu zbrku u kojoj više tvrtki za granične modele ima obrambene ugovore za prilagodbu genAI-a za vojne kontekste - a točka trenja je upravo ono što biste očekivali: politike korištenja tvrtki nasuprot apetitu vlade za operativnu upotrebu. Cijela stvar se čini kao rukovanje koje se pretvara u obaranje ruku usred fotografije.
Često postavljana pitanja
Što je UKRI AI strategija i zašto je važna?
Prva UKRI-jeva strategija posvećena umjetnoj inteligenciji zalaže se za daljnje uvođenje umjetne inteligencije u istraživački proces - vještine, infrastrukturu i praktičnu primjenu. Okvir je "napraviti osnove, ali i isporučiti rezultate", što signalizira pritisak da se ulaganja u istraživanje pretvore u javnu korist. Također ukazuje na pristup koji obuhvaća cijeli stack: ne samo modele financiranja, već i računalne resurse, ljude i putove usvajanja koji omogućuju održivost napretka.
Što zapravo omogućuje nadogradnja Cambridgeovog DAWN superračunala?
Nadogradnja Cambridgeovog DAWN superračunala pozicionirana je kao infrastrukturni potez koji podržava ambiciozniji rad na umjetnoj inteligenciji u istraživanjima u Ujedinjenom Kraljevstvu. U praktičnom smislu, to obično znači veći kapacitet za obuku, evaluaciju i eksperimente velikih razmjera koje manji sustavi teško učinkovito provode. U mnogim cjevovodima, jače dijeljeno računalstvo ublažava uska grla na sveučilištima i ubrzava proces od prototipova do rezultata koji se mogu objaviti i testirati.
Što znači „AI za znanost“ u kontekstu strategije umjetne inteligencije u Ujedinjenom Kraljevstvu?
„Umjetna inteligencija za znanost“ predstavljena je kao korištenje metoda umjetne inteligencije za ubrzavanje otkrića, s eksplicitno provjerenim imenom otkrivanja lijekova. U praksi to često uključuje korištenje umjetne inteligencije za generiranje hipoteza, pretraživanje velikih dizajnerskih prostora ili određivanje prioriteta eksperimenata. Naglasak sugerira apetit za ishodima koji jasno nadilaze akademsku zajednicu - nove metode, kraći ciklusi i aplikacije koje se povezuju sa zdravstvom i javnim uslugama.
Što je projekt usklađivanja Instituta za sigurnost umjetne inteligencije u Velikoj Britaniji i tko ga financira?
Projekt usklađivanja britanskog Instituta za sigurnost umjetne inteligencije opisan je kao međunarodna koalicijska struktura koja podržava neovisna istraživanja usklađivanja, s doprinosom više financijera. OpenAI i Microsoft istaknuti su kao dodaci novog financiranja, uokvirenog kao izgradnja povjerenja i podrška ekosustavu. Model je „usklađivanje kao ekosustav“, s bespovratnim sredstvima koja teku timovima diljem zemalja, umjesto da se rad koncentrira unutar graničnih laboratorija.
Zašto je OpenAI uložio 7,5 milijuna dolara u neovisno istraživanje usklađenosti umjetne inteligencije?
OpenAI-jeva navedenu logiku čini da granični laboratoriji mogu obavljati sigurnosni posao koji ovisi o pristupu dubokom modelu, dok neovisni timovi mogu doprinijeti raznolikim, nekoreliranim idejama koje bi laboratoriji mogli propustiti. Naglasak je na proširenju područja izvan „tajnog sastojka jednog laboratorija“. Članak također aludira na svjetonazor „iterativne implementacije“ - implementacija, učenje iz povratnih informacija o implementaciji, jačanje sustava, a zatim ponavljanje.
Kako resursi američkog Ministarstva financija za umjetnu inteligenciju utječu na upravljanje umjetnom inteligencijom u financijskom sektoru?
Američko Ministarstvo financija objavilo je zajednički leksikon umjetne inteligencije i okvir za upravljanje rizicima umjetne inteligencije u financijskim uslugama prilagođen razmišljanju u stilu NIST-a. Namjera je smanjiti širenje definicija i dati timovima za usklađenost, regulatorima i dobavljačima zajednički priručnik. U mnogim organizacijama dokumenti poput ovih oblikuju ono što se odobrava u praksi, jer standardiziraju očekivanja za kontrole, dokumentaciju i donošenje odluka na temelju rizika.