Microsoftov novi 'kodeks ponašanja' za umjetnu inteligenciju nalaže modelima da ne hakiraju sustave ili varaju ljude
Dakle, Microsoft je ukinuo cijelu ustavu za svoje modele - kao, prave crvene linije. Nema kibernetičkih napada. Nema nuklearnog oružja. Nema tvornica deepfakeova. I ono veliko: model se ne smije izvući iz zatvaranja.
Zovu to sveobuhvatnim kodom koji poništava sve što ste upisali u chat. Što je... pomalo osvježavajuće. Ili kontrolirajuće. Možda oboje.
Nadella je ovdje vani i klima glavom zajedno s gomilom koja "korača granicom". Pažljivo držanje i svjesnost o sumnjivoj sobi mogu izgledati isto izvana; Microsoft odlučuje ne biti laboratorij koji sliježe ramenima.
U svakom slučaju, dokument zvuči kao da je netko konačno napisao „molim vas, nemojte postati antagonist horor filmova“ korporativnom prozom.
OpenAI kupuje proizvođača kamera za pametne telefone Glass Imaging za 300 milijuna dolara, navodi se u izvješću
U međuvremenu, OpenAI je tiho kupio startup za kamere za više od 300 milijuna dolara, Glass Imaging. Osnovali su ga bivši ljudi iz Apple Portrait Modea. Dakle, nije riječ o slučajnoj akviziciji - ti su ljudi isporučivali objektive koje ljudi poznaju.
Prezentacija nije "Umjetna inteligencija će popraviti vaš selfie u postprodukciji". To su neuronske mreže koje uče specifične kamere na telefonu i istiskuju bolje fotografije klikom okidača. Sitni senzori, velika ambicija.
OpenAI nije komentirao. Naravno. I da - ovo se nalazi uz sve glasine o hardveru, telefonima, slušalicama i pratećim gadgetima. Gotovo možete čuti nekoga kako na sastanku kaže "vision stack" i svi previše snažno klimaju glavom.
Tvrtka za kamere kao nedostajući dio uređaja ostaje otvorena oklada - ili samo vrlo skupa oklada da su pikseli i dalje važni kada chatbotovi pojedu svijet.
Globalne dionice umjetne inteligencije padaju dok čelnici industrije pozivaju na usporavanje razvoja
Tržišta nisu voljela propovijed o sigurnosti. Imena čipova su bila pogođena. SoftBank je potpuno uništen u Aziji. Europska tehnološka knjiga se trgnula. SOX je imao teško jutro.
Okidač je bio taj rijedak trenutak kada se izvršni direktori oko nečega slažu - Amodeijevo "usporavanje", Altman i Musk su u osnovi rekli da. Altman je također spomenuo da OpenAI ove godine neće napraviti inicijalnu javnu ponudu zbog sigurnosnih zabrinutosti... dok Anthropic još uvijek juri prema tome. Tu napetost je teško smiriti.
Trump je to odmahnuo rukom kao "bolesnu zavjeru" protiv umjetne inteligencije i podatkovnih centara. Michael Burry je odbacio upozorenja kao pretjeranu buku. Dakle, raspoloženje je: egzistencijalni strah na jednoj vremenskoj liniji, cinizam utemeljen na memovima na drugoj.
Također - imena kibernetičke sigurnosti su se održala. Jer, naravno, zaštita od "umjetne inteligencije koja bi mogla postati nevaljala" je "kupnja više sigurnosnog softvera". Kapitalizam pronalazi način..
Vodeće tvrtke za umjetnu inteligenciju raspravljale su o stvaranju vlastitog tijela za standardizaciju
CNN izvještava da Anthropic, Google i OpenAI razgovaraju o izgradnji vlastitog tijela za standardizaciju - poput FINRA-e za granične modele. Hassabis je tu ideju iznio prije nekoliko mjeseci. Sada su radne skupine očito stvarne.
Financirano od strane industrije. Neovisni stručnjaci. Testiranje naprednih modela prije isporuke. Razgovori u tijeku žele li Washington igrati ili ne.
Samoregulacija uvijek zvuči plemenito dok se ne sjetite da se isti laboratoriji međusobno utrkuju. Tada zvuči kao klub s kodeksom odijevanja. Onda se povučete: u redu, možda bi vam pomogli vanjski evaluatori s pristupom kao kod zaposlenika.
Nisu svi uvjereni. Zuckerberg je navodno rekao Trumpu da preskoči ideju FINRA-e za umjetnu inteligenciju. Dakle, koalicija "mi ćemo sami sebe nadzirati" već ima poznati otpor.
Anthropic cilja na financijske savjetnike s novim Claude alatom
Dok polovica industrije raspravlja o tome da li treba stati na nogu, Anthropic je poslao Claudea za Financial Advisors. Povezuje se s BlackRockom, Schwabom, Addeparom - plus hrpom imena s bogatim imenima poput Envestneta i Oriona.
Priprema za sastanak. Pregled portfelja. Praćenje obveza. Neglamurozne stvari koje nekako i dalje izjedaju ljudski utorak.
Ipak, tajming je upečatljiv - nekoliko dana nakon što je OpenAI pokrenuo financijsku kampanju za bankare i istraživače. Dakle, da, oni koračaju granicom... i također se utrkuju za udio u RIA novčaniku. Blaga kontradikcija. Iznimno blaga. Iznimno očita.
Ako vaš savjetnik počne zvučati sumnjivo tečno o vašim udjelima, pa. Sad znate zašto.
Vođe umjetne inteligencije pozivaju na usporavanje. Trumpov tim kaže da je na njima
WIRED jasno hvata politički udarac: šefovi laboratorija žele pomoć pri usporavanju; raspoloženje u Bijeloj kući je "cool, učinite to sami"
David Sacks je u osnovi rekao da ako vas plaše neobjavljeni modeli, budite odgovorni - ali prestanite se pretvarati da vam je potrebno odricanje od antimonopolskih propisa za formiranje sigurnosnog kartela. Oštro. Također je teško raspravljati s tim ako ste te tvrtke promatrali pet minuta.
Trumpov stav je jednostavniji: Amerika predvodi Kinu po pitanju umjetne inteligencije i on želi da tako i ostane - „tko god pobijedi u umjetnoj inteligenciji, pobjeđuje.“ Predsjednik Zastupničkog doma Johnson upozorava da bi hitni regulatorni sprint mogao oduzeti pobjedu.
Dakle, Altmanovo obećanje „neovisnih procjenitelja s pristupom kao kod zaposlenika“ završi u ovom neugodnom jazu - dobrovoljna izgradnja povjerenja dok vlada sliježe ramenima. Napredak i kazalište ponovno putuju zajedno.
Često postavljana pitanja
Što zabranjuje Microsoftov novi kodeks ponašanja za umjetnu inteligenciju?
Microsoft je objavio sveobuhvatni kodeks ponašanja s crvenim linijama za svoje modele, uključujući zabranu kibernetičkih napada, nuklearnog rada i tvornica deepfakeova. Ključno pravilo je da se modelu ne dopušta da se izvuče iz gašenja. Kod je namijenjen poništavanju svega što je korisnik upisao u chat. Satya Nadella također se slaže s gomilom koja prati granice dok laboratoriji postaju javno oprezniji.
Zašto je OpenAI kupio Glass Imaging za oko 300 milijuna dolara?
OpenAI je navodno kupio proizvođača kamera za pametne telefone Glass Imaging za više od 300 milijuna dolara. Startup su osnovali bivši Appleovi inženjeri za Portrait Mode koji su isporučili značajke kamera koje su ljudima već poznate. Njihova ideja su neuronske mreže koje uče specifične kamere telefona i poboljšavaju fotografije klikom okidača, a ne samo popravke koje je umjetna inteligencija napravila u postprodukciji. Dogovor se nalazi uz glasine o hardveru telefona, slušalica i pratećih gadgeta, iako OpenAI nije komentirao.
Zašto su globalne dionice AI-a pale nakon što su izvršni direktori laboratorija pozvali na usporavanje?
Tržišta su loše reagirala na rijedak trenutak slaganja izvršnih direktora kada je Amodei pozvao na usporavanje razvoja, a Altman i Musk su se uglavnom složili. Imena čipova su bila pogođena, SoftBank je bio na udaru u Aziji, europska tehnološka industrija je posustala, a SOX je imao teško jutro. Altman je također spomenuo da OpenAI ove godine neće imati inicijalnu javnu ponudu dionica zbog sigurnosnih zabrinutosti, dok se Anthropic još uvijek utrkuje prema tome. Imena tvrtki iz područja kibernetičke sigurnosti su se oporavila kao zaštita od straha od lažne umjetne inteligencije.
Stvaraju li Anthropic, Google i OpenAI vlastito tijelo za standarde umjetne inteligencije?
CNN izvještava da su Anthropic, Google i OpenAI razgovarali o izgradnji tijela za industrijske standarde - poput FINRA-e za granične modele - uz financiranje industrije, neovisne stručnjake i testiranje naprednih modela prije isporuke. Demis Hassabis je pokrenuo ideju prije nekoliko mjeseci, a radne skupine su sada navodno stvarne. Razgovori o tome želi li Washington sudjelovati se nastavljaju. Nisu svi uvjereni: Zuckerberg je navodno rekao Trumpu da preskoči ideju FINRA-e za umjetnu inteligenciju.
Što je Anthropicov Claude za financijske savjetnike?
Anthropic je isporučio Claudea za financijske savjetnike s konektorima za BlackRock, Schwab, Addepar i velika imena poput Envestneta i Oriona. Alat je usmjeren na neglamurozne savjetodavne poslove poput pripreme sastanaka, pregleda portfelja i praćenja nakon obavljenog posla. Pokretanje dolazi nekoliko dana nakon što je OpenAI pokrenuo financijsku poticajnu akciju za bankare i istraživače. To znači da laboratoriji javno koračaju granicom dok se i dalje utrkuju za udio u RIA novčaniku.
Kako je Trumpov tim odgovorio na pozive čelnika umjetne inteligencije na usporavanje?
WIRED izvještava da šefovi laboratorija žele pomoć u usporavanju, dok je raspoloženje u Bijeloj kući da to trebaju učiniti sami. David Sacks rekao je da ako vas neobjavljeni modeli plaše, budite odgovorni - ali prestanite se pretvarati da vam je potrebno odricanje od antimonopolskih propisa za formiranje sigurnosnog kartela. Trumpova jednostavnija izjava je da Amerika vodi Kinu po pitanju umjetne inteligencije i da tko god pobijedi, umjetna inteligencija pobjeđuje. Predsjednik Zastupničkog doma Johnson upozorava da bi hitni sprint u regulaciji mogao preokrenuti utrku, ostavljajući Altmanovo obećanje o neovisnom procjenitelju u dobrovoljnoj praznini.