Koliko vode koristi umjetna inteligencija?

Kladim se da ste čuli sve, od "AI popije bocu vode svakih nekoliko pitanja" do "to je u osnovi nekoliko kapi". Istina je nijansiranija. Vodeni otisak AI-a uvelike varira ovisno o tome gdje se izvodi, koliko je dugačak vaš upit i kako podatkovni centar hladi svoje servere. Dakle, da, glavni broj postoji, ali krije se u mnoštvu upozorenja.

U nastavku analiziram jasne brojke spremne za donošenje odluka, objašnjavam zašto se procjene ne slažu i pokazujem kako graditelji i svakodnevni korisnici mogu smanjiti potrošnju vode bez da se postanu redovnici održivosti.

Članci koje biste možda željeli pročitati nakon ovog:

🔗 Što je skup podataka umjetne inteligencije
Objašnjava kako skupovi podataka omogućuju strojno učenje i razvoj modela.

🔗 Kako umjetna inteligencija predviđa trendove
Pokazuje kako umjetna inteligencija analizira obrasce kako bi predvidjela promjene i buduće ishode.

🔗 Kako mjeriti performanse umjetne inteligencije
Raščlanjuje bitne metrike za procjenu točnosti, brzine i pouzdanosti.

🔗 Kako razgovarati s umjetnom inteligencijom
Vodi učinkovite strategije poticanja za poboljšanje jasnoće, rezultata i dosljednosti.

Koliko vode koristi umjetna inteligencija? Brze brojke koje zapravo možete koristiti 📏

• Tipičan raspon po upitu danas: od manjih vrijednosti za medijan tekstualni upit na jednom mainstream sustavu, do desetaka mililitara za dulji odgovor s većim računalnim kapacitetom na drugom. Na primjer, Googleovo računovodstvo za produkciju izvještava da je medijan tekstualni upit ~0,26 mL (uključujući i pune troškove posluživanja) [1]. Mistralova procjena životnog ciklusa određuje da odgovor pomoćnika od 400 tokena iznosi ~45 mL (marginalna inferencija) [2]. Kontekst i model su jako važni.

• Treniranje modela na graničnoj razini: može se mjeriti u milijunima litara , uglavnom od hlađenja i vode ugrađene u proizvodnju električne energije. Široko citirana akademska analiza procijenila je ~5,4 milijuna litara za treniranje modela GPT klase, uključujući ~700 000 litara potrošenih na licu mjesta za hlađenje - i zalagala se za pametno raspoređivanje kako bi se smanjio intenzitet vode [3].

• Podatkovni centri općenito: veliki centri kod glavnih operatera u prosjeku stotine tisuća galona dnevno

Budimo iskreni: te brojke na prvi pogled djeluju nedosljedno. Jesu. I postoje dobri razlozi za to.

Metrike potrošnje vode pomoću umjetne inteligencije ✅

Dobar odgovor na pitanje Koliko vode koristi umjetna inteligencija? trebao bi označiti nekoliko okvira:

1. Jasnoća granica
   Uključuje li samo za hlađenje na licu mjesta ili i izvan lokacije elektrane koriste za proizvodnju električne energije? Najbolja praksa razlikuje crpljenje vode od potrošnje vode i obuhvaća 1-2-3, slično računovodstvu ugljika [3].

2. Osjetljivost lokacije Trošak
   vode po kWh varira ovisno o regiji i sastavu mreže, tako da isti uput može imati različite utjecaje na vodu ovisno o tome gdje se poslužuje - ključni razlog zašto literatura preporučuje planiranje koje uzima u obzir vrijeme i mjesto [3].

3. Realnost radnog opterećenja
   Odražava li broj medijan proizvodnih uputa , uključujući neaktivni kapacitet i opterećenje podatkovnog centra, ili samo akcelerator na vrhuncu? Google naglašava obračun cijelog sustava (neaktivnost, CPU/DRAM i opterećenje podatkovnog centra) za zaključivanje, a ne samo matematiku TPU-a [1].

4. Tehnologija hlađenja
   Isparavajuće hlađenje, hlađenje tekućinom u zatvorenoj petlji, hlađenje zrakom i novi izravnom hlađenju čipa dramatično mijenjaju intenzitet korištenja vode. Microsoft uvodi dizajne namijenjene uklanjanju upotrebe rashladne vode za određena mjesta sljedeće generacije [4].

5. Doba dana i godišnje doba
   Toplina, vlažnost i uvjeti u mreži mijenjaju učinkovitost korištenja vode u stvarnom životu; jedna utjecajna studija predlaže planiranje većih poslova kada i gdje je intenzitet opskrbe vodom niži [3].

Objašnjenje povlačenja vode u odnosu na potrošnju vode 💡

• Povlačenje = voda uzeta iz rijeka, jezera ili vodonosnika (neka vraćena).

• Potrošnja = voda koja se ne vraća jer isparava ili se ugrađuje u procese/proizvode.

Rashladni tornjevi prvenstveno troše vodu isparavanjem. Proizvodnja električne energije može povući velike količine (ponekad potrošivši i dio vode), ovisno o postrojenju i metodi hlađenja. Vjerodostojne oznake umjetne inteligencije - broj vode koje se prijavljuje [3].

Kamo odlazi voda u umjetnoj inteligenciji: tri kante 🪣

1. Opseg 1 - hlađenje na licu mjesta
   Vidljivi dio: voda isparava u samom podatkovnom centru. Izbori dizajna poput isparavanja u odnosu na zrak ili tekućine zatvorenog kruga postavljaju osnovu [5].

2. Područje 2 - proizvodnja električne energije
   Svaki kWh može nositi skrivenu oznaku vode; mješavina i lokacija određuju signal litara po kWh koji vaše radno opterećenje nasljeđuje [3].

3. Opseg 3 - lanac opskrbe
   Proizvodnja čipova oslanja se na ultra čistu vodu u izradi. Nećete to vidjeti u metrici "po promptu" osim ako granica izričito ne uključuje utjelovljene utjecaje (npr. potpuna LCA) [2][3].

Pružatelji usluga u brojkama, s nijansama 🧮

• Google Gemini upiti
  Metoda posluživanja s punim stackom (uključujući neaktivnost i opterećenje objekta). Srednji tekstualni upit ~0,26 mL vode uz ~0,24 Wh energije; brojke odražavaju proizvodni promet i sveobuhvatna ograničenja [1].

• Životni ciklus Mistral Large 2
  Rijetka neovisna LCA (s ADEME/Carbone 4) otkriva ~281 000 m³ za obuku + ranu upotrebu i graničnu vrijednost inferencije od ~45 mL za od 400 tokena [2].

• Microsoftova ambicija hlađenja bez upotrebe vode
  Podatkovni centri sljedeće generacije dizajnirani su tako da ne troše vodu za hlađenje , oslanjajući se na pristupe izravnog hlađenja čipom; administrativna upotreba i dalje zahtijeva određenu količinu vode [4].

• Opća skala podatkovnih centara
  Veliki operateri javno prijavljuju prosječne stotine tisuća galona dnevno na pojedinačnim lokacijama; klima i dizajn povećavaju ili smanjuju brojke [5].

• Ranija akademska osnova
  U temeljnoj analizi „žedne umjetne inteligencije“ procijenjeno je da su milijuni litara potrebni za treniranje modela GPT klase te da bi 10–50 srednjih odgovora moglo otprilike odgovarati od 500 mL - što uvelike ovisi o tome kada/gdje se pokreću [3].

Zašto se procjene toliko razlikuju 🤷

• Različite granice
  Neke brojke uključuju samo hlađenje na licu mjesta ; druge dodaju električnu energiju i vodu ; LCA mogu uključivati ​​proizvodnju čipsa . Jabuke, naranče i voćna salata [2][3].

• Različita opterećenja
  Kratki tekstualni upit nije dugo multimodalno/kodno izvođenje; grupiranje, istodobnost i ciljevi latencije mijenjaju iskorištenost [1][2].

• Različite klime i mreže
  Isparavajuće hlađenje u vrućem, sušnom području ≠ hlađenje zrakom/tekućinom u hladnom, vlažnom. Intenzitet vode u mreži uvelike varira [3].

• Metodologije dobavljača
  Google je objavio metodu posluživanja na razini cijelog sustava; Mistral je objavio formalnu procjenu životnog ciklusa (LCA). Drugi nude točkaste procjene s rijetkim metodama. Poznata "petnaestoj čajnoj žličici" po upitu dospjela je na naslovnice - ali bez graničnih detalja, nije usporediva [1][3].

• Pokretna meta
  Hlađenje se brzo razvija. Microsoft provodi pilot-projekt hlađenja bez vode na određenim lokacijama; uvođenje ovih sustava smanjit će potrošnju vode na licu mjesta čak i ako uzvodna električna energija još uvijek nosi signal vode [4].

Što možete učiniti danas kako biste smanjili vodni otisak umjetne inteligencije 🌱

1. Pravilno dimenzioniranje modela
   Manji, prilagođeni zadacima modeli često odgovaraju točnosti uz manje računalnih resursa. Mistralova procjena naglašava snažne korelacije između veličine i zauzete površine - i objavljuje granične brojke inferencije kako biste mogli razmišljati o kompromisima [2].

2. Odaberite regije s nižom potrošnjom vode.
   Preferirajte regije s hladnijom klimom, učinkovitim hlađenjem i mrežama s nižim intenzitetom vode po kWh; rad na „žednoj umjetnoj inteligenciji“ pokazuje da koji je svjestan vremena i mjesta pomaže [3].

3. Vremenski
   rasporedite obuku/zaključivanje velikih serija za sate učinkovite potrošnje vode (hladnije noći, povoljni uvjeti u mreži) [3].

4. Zatražite od svog dobavljača transparentne metrike
   o potrošnji vode po upitu , definicijama granica i uključuju li brojke neaktivne kapacitete i opće troškove postrojenja. Političke skupine zalažu se za obvezno objavljivanje kako bi se omogućila usporedba rezultata [3].

5. Tehnologija hlađenja je važna.
   Ako koristite hardver, razmislite o zatvorenoj petlji/direct-to-chip hlađenju ; ako koristite oblak, preferirajte regije/pružatelje usluga koji ulažu u dizajne s vodenim osvjetljenjem [4][5].

6. Korištenje sive vode i mogućnosti ponovne upotrebe
   Mnogi kampusi mogu zamijeniti izvore nepitke vode ili reciklirati unutar krugova; veliki operateri opisuju uravnoteženje izvora vode i izbora hlađenja kako bi se smanjio neto utjecaj [5].

Kratak primjer da se shvati stvarno (nije univerzalno pravilo): premještanje noćnog treninga iz vrućeg, suhog područja usred ljeta u hladnije, vlažnije područje u proljeće - i njegovo provođenje izvan vršnih sati, u hladnijim satima - može promijeniti i potrošnju vode na licu mjesta izvan lokacije (mreže). To je vrsta praktičnog, niskodramatičnog rasporeda pobjeda koju možemo ostvariti [3].

Tablica usporedbe: brzi odabiri za smanjenje potrošnje vode koju uzrokuje umjetna inteligencija 🧰

(„Cijena“ je sama po sebi niska - implementacije se razlikuju.)

Dubinska analiza: bubnjevi politike sve su glasniji 🥁

Inženjerska tijela pozivaju na obvezno objavljivanje podataka o energiji i vodi u podatkovnim centrima kako bi kupci i zajednice mogli procijeniti troškove i koristi. Preporuke uključuju definicije opsega, izvještavanje na razini lokacije i smjernice za odabir lokacije - jer bez usporedivih metrika koje su svjesne lokacije, raspravljamo u mraku [3].

Detaljna analiza: ne koriste podatkovne centre na isti način 🚰

Postoji uporni mit da „hlađenje zrakom ne koristi vodu“. Ne baš. Sustavi s puno zraka često zahtijevaju više električne energije , koja u mnogim regijama nosi skrivenu vodu iz mreže; s druge strane, hlađenje vodom može smanjiti potrošnju energije i emisije nauštrb vode na licu mjesta. Veliki operateri eksplicitno uravnotežuju ove kompromise od lokacije do lokacije [1][5].

Dubinska analiza: brza provjera stvarnosti o viralnim tvrdnjama 🧪

Možda ste vidjeli smjele tvrdnje da jedan upitnik znači „boca vode“ ili, s druge strane, „samo nekoliko kapi“. Bolje držanje: poniznost s matematikom . Današnji vjerodostojni uputni okviri su ~0,26 mL za medijan produkcijskog upitnika s punim režijskim troškovima posluživanja [1] i ~45 mL za odgovor pomoćnika od 400 tokena (marginalna inferencija) [2]. Često dijeljena „petnaestini čajne žličice“ nema javnu granicu/metodu; tretirajte je kao vremensku prognozu bez grada [1][3].

Mini-FAQ: Koliko vode koristi umjetna inteligencija? opet, na jednostavnom engleskom 🗣️

• Dakle, što bih trebao reći na sastanku?
  „Po upitu, kreće se od kapi do nekoliko gutljaja , ovisno o modelu, duljini i mjestu održavanja. Trening traje u bazenima , a ne u lokvama.“ Zatim navedite jedan ili dva primjera iznad.

• Je li umjetna inteligencija jedinstveno loša?
  Jedinstveno je koncentrirana : čipovi velike snage pakirani zajedno stvaraju velika opterećenja hlađenja. Ali podatkovni centri su također mjesto gdje se najučinkovitija tehnologija obično prva pojavljuje [1][4].

• Što ako jednostavno sve prebacimo na hlađenje zrakom?
  Možda bismo smanjili potrošnju na licu mjesta , ali povećali potrošnju izvan lokacije putem električne energije. Sofisticirani operateri vagaju oboje [1][5].

• Što je s budućom tehnologijom?
  Dizajni koji izbjegavaju hlađenje vode u velikim razmjerima bili bi prekretnica za Scope 1. Neki operateri kreću se u tom smjeru; uzvodna električna energija i dalje nosi signal vode dok se mreže ne promijene [4].

Završne napomene - Predugo, nisam pročitao/la 🌊

• Po upitu: zamislite količine od manjih do desetaka mililitara , ovisno o modelu, duljini upita i mjestu izvođenja. Srednji upit ~0,26 mL na jednom glavnom stogu; ~45 mL za odgovor od 400 tokena na drugom [1][2].

• Obuka: milijuni litara za granične modele, što čini raspoređivanje, lociranje i tehnologiju hlađenja kritičnima [3].

• Što učiniti: modeli prave veličine, odabrati regije s dovoljno vode, premjestiti teške poslove na hladnije sate, preferirati dobavljače koji dokazuju dizajn s dovoljno vode i zahtijevati transparentne granice [1][3][4][5].

Pomalo pogrešna metafora za kraj: UI je žedan orkestar - melodija je računalna, ali bubnjevi se hlade i natapaju vodu. Uštimajte bend i publika će i dalje čuti glazbu bez paljenja prskalica. 🎻💦

Reference

1. Google Cloud Blog - Koliko energije Googleova umjetna inteligencija troši? Izračunali smo (metodologija + ~0,26 mL medijana upita, puni režijski troškovi posluživanja). Veza
   (Tehnički rad u PDF formatu: Mjerenje utjecaja na okoliš isporuke umjetne inteligencije u Googleovoj mjerilu .) Veza

2. Mistral AI - Naš doprinos globalnom ekološkom standardu za AI (LCA s ADEME/Carbone 4; ~281 000 m³ obuke + rana upotreba; ~45 mL po odgovoru od 400 tokena Veza

3. Li i dr. - Kako učiniti umjetnu inteligenciju manje „žednom“: Otkrivanje i rješavanje tajnog vodnog otiska modela umjetne inteligencije (obuka milijuna litara , prema vremenu i mjestu , povlačenje u odnosu na potrošnju). Veza

4. Microsoft - Podatkovni centri sljedeće generacije ne troše vodu za hlađenje (dizajni s izravnim hlađenjem čipa usmjereni na hlađenje bez vode na određenim lokacijama). Veza

5. Google podatkovni centri - Održivo poslovanje (kompromisi u hlađenju od lokacije do lokacije; izvještavanje i ponovna upotreba, uključujući obnovljenu/sivu vodu; tipična dnevna upotreba na razini lokacije). Veza

Pronađite najnoviju umjetnu inteligenciju u službenoj trgovini AI Assistant

O nama