Što su temeljni modeli u generativnoj umjetnoj inteligenciji?

Što su temeljni modeli u generativnoj umjetnoj inteligenciji?

Kratak odgovor: Temeljni modeli su veliki, općenamjenski modeli umjetne inteligencije obučeni na ogromnim, širokim skupovima podataka, a zatim prilagođeni mnogim poslovima (pisanje, pretraživanje, kodiranje, slike) putem poticanja, finog podešavanja, alata ili pretraživanja. Ako trebate pouzdane odgovore, uparite ih s uzemljenjem (poput RAG-a), jasnim ograničenjima i provjerama, umjesto da im dopustite da improviziraju.

Ključne zaključke:

Definicija : Jedan široko obučen osnovni model ponovno korišten u mnogim zadacima, a ne jedan zadatak po modelu.

Prilagodba : Koristite poticanje, fino podešavanje, LoRA/adaptere, RAG i alate za usmjeravanje ponašanja.

Generativno prilagođavanje : Oni pokreću generiranje teksta, slika, zvuka, koda i multimodalnog sadržaja.

Signali kvalitete : Dati prioritet upravljivosti, manjem broju halucinacija, multimodalnoj sposobnosti i učinkovitom zaključivanju.

Kontrole rizika : Planirajte za halucinacije, pristranost, curenje privatnosti i brzo ubrizgavanje putem upravljanja i testiranja.

Što su temeljni modeli u generativnoj umjetnoj inteligenciji? Infografika

Članci koje biste možda željeli pročitati nakon ovog:

🔗 Što je tvrtka za umjetnu inteligenciju
Razumjeti kako tvrtke koje se bave umjetnom inteligencijom grade proizvode, timove i modele prihoda.

🔗 Kako izgleda AI kod
Pogledajte primjere AI koda, od Python modela do API-ja.

🔗 Što je AI algoritam
Naučite što su AI algoritmi i kako donose odluke.

🔗 Što je AI tehnologija
Istražite ključne AI tehnologije koje pokreću automatizaciju, analitiku i inteligentne aplikacije.

1) Modeli temelja - definicija bez magle 🧠

Temeljni model je veliki, opći model umjetne inteligencije obučen na širokim rasponima podataka (obično na tonama podataka) tako da se može prilagoditi mnogim zadacima, a ne samo jednom ( NIST , Stanford CRFM ).

Umjesto izgradnje zasebnog modela za:

  • pisanje e-mailova

  • odgovaranje na pitanja

  • sažimanje PDF-ova

  • generiranje slika

  • klasificiranje tiketa za podršku

  • prevođenje jezika

  • davanje prijedloga koda

...trenirate jedan veliki osnovni model koji „uči svijet“ na nejasan statistički način, a zatim prilagođavate specifičnim poslovima uz pomoć uputa, finog podešavanja ili dodatnih alata ( Bommasani i sur., 2021. ).

Drugim riječima: to je opći motor kojim možete upravljati.

I da, ključna riječ je „općenito“. To je cijeli trik.

2) Što su temeljni modeli u generativnoj umjetnoj inteligenciji? (Kako se konkretno uklapaju) 🎨📝

Dakle, što su temeljni modeli u generativnoj umjetnoj inteligenciji? To su temeljni modeli koji pokreću sustave koji mogu generirati novi sadržaj - tekst, slike, zvuk, kod, video i sve više... kombinacije svega toga ( NIST , NIST Generative AI Profile ).

Generativna umjetna inteligencija ne odnosi se samo na predviđanje oznaka poput „spam / nije spam“. Radi se o stvaranju rezultata koji izgledaju kao da ih je napravila osoba.

  • paragrafi

  • pjesme

  • opisi proizvoda

  • ilustracije

  • melodije

  • prototipovi aplikacija

  • sintetički glasovi

  • a ponekad i nevjerojatno samouvjerene gluposti 🙃

Modeli temelja su posebno dobri jer:

Oni su „osnovni sloj“ - poput tijesta za kruh. Možete ih ispeći u bagetu, pizzi ili rolicama s cimetom... nije savršena metafora, ali razumijete me 😄

3) Zašto su sve promijenili (i zašto ljudi ne prestaju pričati o njima) 🚀

Prije temeljnih modela, velik dio umjetne inteligencije bio je specifičan za zadatke:

  • trenirati model za analizu sentimenta

  • obučiti drugoga za prevođenje

  • obučite drugog za klasifikaciju slika

  • obučite drugog za prepoznavanje imenovanih entiteta

To je funkcioniralo, ali je bilo sporo, skupo i nekako... krhko.

Modeli temelja su to preokrenuli:

Ta ponovna upotreba je multiplikator. Tvrtke mogu izgraditi 20 značajki na jednoj obitelji modela, umjesto da 20 puta iznova izmišljaju kotač.

Također, korisničko iskustvo postalo je prirodnije:

  • ne "koristite klasifikator"

  • Razgovaraš s modelom kao da je uslužna kolegica koja nikad ne spava ☕🤝

Ponekad je to i kao kolega koji samouvjereno sve krivo shvaća, ali hej. Rast.

4) Osnovna ideja: predtrening + prilagodba 🧩

Gotovo svi modeli temelja slijede obrazac ( Stanford CRFM , NIST ):

Predtrening (faza "upijanja interneta") 📚

Model se trenira na masivnim, širokim skupovima podataka korištenjem samonadgledanog učenja ( NIST ). Za jezične modele to obično znači predviđanje nedostajućih riječi ili sljedećeg tokena ( Devlin i sur., 2018. , Brown i sur., 2020. ).

Poanta nije naučiti ga jednom zadatku. Poanta je naučiti ga općim reprezentacijama :

  • gramatika

  • činjenice (vrsta)

  • obrasci razmišljanja (ponekad)

  • stilovi pisanja

  • struktura koda

  • uobičajena ljudska namjera

Prilagodba (faza „praktične primjene“) 🛠️

Zatim ga prilagodite koristeći jedno ili više od sljedećeg:

  • poticanje (upute jednostavnim jezikom)

  • podešavanje instrukcija (obuka za praćenje instrukcija) ( Wei i sur., 2021. )

  • fino podešavanje (obuka na podacima vaše domene)

  • LoRA / adapteri (jednostavne metode podešavanja) ( Hu i sur., 2021. )

  • RAG (generiranje prošireno pronalaženjem - model konzultira vašu dokumentaciju) ( Lewis i sur., 2020. )

  • korištenje alata (pozivanje funkcija, pregledavanje internih sustava itd.)

Zato isti osnovni model može napisati romantičnu scenu... a zatim pet sekundi kasnije pomoći u otklanjanju pogrešaka u SQL upitu 😭

5) Što čini dobru verziju modela temelja? ✅

Ovo je dio koji ljudi preskaču, a kasnije žale.

„Dobar“ model temelja nije samo „veći“. Veći pomaže, sigurno… ali nije jedina stvar. Dobra verzija modela temelja obično ima:

Jaka generalizacija 🧠

Dobro obavlja mnoge zadatke bez potrebe za ponovnom obukom specifičnom za zadatak ( Bommasani i sur., 2021. ).

Upravljanje i upravljivost 🎛️

Može pouzdano slijediti upute poput:

  • "Budi koncizan"

  • "koristite grafičke oznake"

  • "Pišite prijateljskim tonom"

  • "Ne otkrivajte povjerljive informacije"

Neki modeli su pametni, ali skliski. Kao da pokušavate držati komad sapuna pod tušem. Korisno, ali nepredvidivo 😅

Niska sklonost halucinacijama (ili barem iskrena nesigurnost) 🧯

Nijedan model nije imun na halucinacije, osim onih dobrih:

Dobra multimodalna sposobnost (kada je potrebno) 🖼️🎧

Ako izrađujete asistente koji čitaju slike, interpretiraju grafikone ili razumiju zvuk, multimodalnost je jako važna ( Radford i sur., 2021. ).

Učinkovito zaključivanje ⚡

Latencija i cijena su važni. Model koji je snažan, ali spor je poput sportskog automobila s praznom gumom.

Sigurnost i poravnanje 🧩

Ne samo "odbiti sve", već:

Dokumentacija + ekosustav 🌱

Ovo zvuči suhoparno, ali je istinito:

  • alati

  • evaluacijski pojasevi

  • opcije implementacije

  • kontrole poduzeća

  • podrška za fino podešavanje

Da, "ekosustav" je nejasna riječ. I ja je mrzim. Ali je važna.

6) Tablica usporedbe - uobičajene opcije modela temelja (i za što su dobre) 🧾

U nastavku slijedi praktična, pomalo nesavršena tablica usporedbe. To nije „jedini pravi popis“, već više kao: ono što ljudi biraju u divljini.

vrsta alata / modela publika skupocjeno zašto to funkcionira
Vlasnički LLM (u stilu chata) timovi koji žele brzinu i uglađenost na temelju korištenja / pretplate Izvrsno praćenje uputa, odlične opće performanse, obično najbolje odmah nakon otvaranja 😌
LLM otvorene težine (samostalno hostiran) graditelji koji žele kontrolu troškovi infrastrukture (i glavobolje) Prilagodljivo, privatno, može se pokretati lokalno... ako volite petljati u ponoć
Generator difuzijske slike kreativci, dizajnerski timovi od besplatnog do plaćenog Izvrsna sinteza slika, raznolikost stilova, iterativni tijekovi rada (također: prsti mogu biti isključeni) ✋😬 ( Ho i sur., 2020. , Rombach i sur., 2021. )
Multimodalni model „vizualnog jezika“ aplikacije koje čitaju slike + tekst na temelju korištenja Omogućuje vam postavljanje pitanja o slikama, snimkama zaslona, ​​dijagramima - iznenađujuće praktično ( Radford i sur., 2021. )
Model ugradnje temelja pretraživanje + RAG sustavi niska cijena po pozivu Pretvara tekst u vektore za semantičko pretraživanje, grupiranje, preporuke - tiha MVP energija ( Karpukhin i sur., 2020. , Douze i sur., 2024. )
Temeljni model pretvaranja govora u tekst pozivni centri, kreatori na temelju korištenja / lokalno Brza transkripcija, višejezična podrška, dovoljno dobro za bučan zvuk (obično) 🎙️ ( Šapat )
Temeljni model pretvaranja teksta u govor timovi za proizvode, mediji na temelju korištenja Prirodno generiranje glasa, stilovi glasa, naracija - mogu postati jezivo realistični ( Shen i sur., 2017. )
LLM usmjeren na kod programeri na temelju korištenja / pretplate Bolji u obrascima koda, otklanjanju pogrešaka, refaktoriranju... ipak još uvijek ne čita misli 😅

Primijetite kako „temeljni model“ ne znači samo „chatbot“. Ugrađivanja i govorni modeli također mogu biti temeljni jer su široki i mogu se ponovno koristiti u različitim zadacima ( Bommasani i sur., 2021. , NIST ).

7) Detaljniji pogled: kako uče modeli jezičnih temelja (vibe verzija) 🧠🧃

Jezični temeljni modeli (često nazvani LLM-ovi) obično se treniraju na ogromnim zbirkama teksta. Uče predviđanjem tokena ( Brown i sur., 2020. ). To je to. Nema tajne vilinske prašine.

Ali magija je u tome što predviđanje tokena prisiljava model da uči strukturu ( CSET ):

  • gramatika i sintaksa

  • odnosi tema

  • obrasci slični razmišljanju (ponekad)

  • uobičajeni slijedovi misli

  • kako ljudi objašnjavaju stvari, svađaju se, ispričavaju se, pregovaraju, podučavaju

To je kao da učite oponašati milijune razgovora bez "razumijevanja" načina na koji to ljudi rade. Što zvuči kao da ne bi trebalo funkcionirati... a ipak nastavlja funkcionirati.

Jedno blago pretjerivanje: to je u osnovi kao da se ljudsko pisanje sažima u golemi probabilistički mozak.
Opet, ta je metafora malo prokleta. Ali mi se krećemo 😄

8) Detaljniji pogled: modeli difuzije (zašto slike funkcioniraju drugačije) 🎨🌀

Modeli temelja slike često koriste difuzije ( Ho i sur., 2020. , Rombach i sur., 2021. ).

Gruba ideja:

  1. dodajte šum slikama dok ne postanu u osnovi statične na TV-u

  2. trenirati model da korak po korak preokrene tu buku

  3. u vrijeme generiranja, započnite s šumom i "uklonite šum" u sliku vođenu uputom ( Ho i sur., 2020. )

Zato se generiranje slike čini kao "razvijanje" fotografije, osim što je fotografija zmaj koji nosi tenisice u prolazu supermarketa 🛒🐉

Difuzijski modeli su dobri jer:

  • stvaraju visokokvalitetne vizualne prikaze

  • mogu se snažno voditi tekstom

  • podržavaju iterativno usavršavanje (varijacije, utiskivanje, povećanje skale) ( Rombach i sur., 2021. )

Također se ponekad bore sa:

  • renderiranje teksta unutar slika

  • fini anatomski detalji

  • dosljedan identitet likova kroz scene (poboljšava se, ali ipak)

9) Detaljniji pogled: multimodalni modeli temelja (tekst + slike + zvuk) 👀🎧📝

Multimodalni temeljni modeli imaju za cilj razumjeti i generirati podatke na temelju više vrsta podataka:

Zašto je ovo važno u stvarnom životu:

  • korisnička podrška može interpretirati snimke zaslona

  • alati za pristupačnost mogu opisivati ​​slike

  • obrazovne aplikacije mogu objasniti dijagrame

  • kreatori mogu brzo remiksirati formate

  • Poslovni alati mogu "pročitati" snimku zaslona nadzorne ploče i sažeti je

Ispod haube, multimodalni sustavi često usklađuju reprezentacije:

  • pretvoriti sliku u ugrađene dijelove

  • pretvoriti tekst u ugrađene elemente

  • naučite zajednički prostor gdje se "mačka" podudara s pikselima za mačke 😺 ( Radford i sur., 2021. )

Nije uvijek elegantno. Ponekad je sašiveno poput popluna. Ali funkcionira.

10) Fino podešavanje vs. poticanje vs. RAG (kako prilagođavate osnovni model) 🧰

Ako pokušavate primijeniti temeljni model u određenoj domeni (pravno, medicinsko, korisnička služba, interno znanje), imate nekoliko poluga:

Poticanje 🗣️

Najbrže i najjednostavnije.

  • prednosti: nula obuke, trenutna iteracija

  • nedostaci: može biti nedosljedno, ograničava kontekst, izaziva krhkost

Fino podešavanje 🎯

Dalje trenirajte model na svojim primjerima.

  • prednosti: dosljednije ponašanje, bolji jezik domene, može smanjiti duljinu upita

  • nedostaci: cijena, zahtjevi za kvalitetom podataka, rizik od prekomjernog prilagođavanja, održavanje

Lagano podešavanje (LoRA / adapteri) 🧩

Učinkovitija verzija finog podešavanja ( Hu i sur., 2021. ).

  • prednosti: jeftiniji, modularni, lakši za zamjenu

  • nedostaci: još uvijek je potreban proces obuke i evaluacije

RAG (generiranje prošireno pronalaženjem) 🔎

Model dohvaća relevantne dokumente iz vaše baze znanja i odgovara koristeći ih ( Lewis i sur., 2020. ).

  • prednosti: ažurno znanje, interni citati (ako se implementira), manje prekvalifikacija

  • nedostaci: kvaliteta preuzimanja može biti presudna, potrebno je dobro grupiranje + ugrađivanje

Prava priča: mnogi uspješni sustavi kombiniraju poticanje + RAG. Fino podešavanje je moćno, ali nije uvijek potrebno. Ljudi prebrzo skaču na to jer zvuči impresivno 😅

11) Rizici, ograničenja i odjeljak „molim vas, nemojte ovo slijepo implementirati“ 🧯😬

Temeljni modeli su moćni, ali nisu stabilni poput tradicionalnog softvera. Više su poput... talentiranog pripravnika s problemom samopouzdanja.

Ključna ograničenja za planiranje:

Halucinacije 🌀

Modeli mogu izmisliti:

  • lažni izvori

  • netočne činjenice

  • uvjerljivi, ali pogrešni koraci ( Ji i sur., 2023. )

Ublažavanja:

  • RAG s utemeljenim kontekstom ( Lewis i sur., 2020. )

  • ograničeni izlazi (sheme, pozivi alata)

  • eksplicitna uputa "ne pogađaj"

  • slojevi provjere (pravila, unakrsne provjere, ljudski pregled)

Predrasude i štetni obrasci ⚠️

Budući da podaci o obuci odražavaju ljude, možete dobiti:

Ublažavanja:

Privatnost podataka i curenje podataka 🔒

Ako u krajnju točku modela unosite povjerljive podatke, morate znati:

  • kako se skladišti

  • koristi li se za trening

  • kakva bilježenja postoje

  • što kontrolira potrebe vaše organizacije ( NIST AI RMF 1.0 )

Ublažavanja:

Brza injekcija (posebno s RAG-om) 🕳️

Ako model čita nepouzdan tekst, taj tekst može pokušati manipulirati njime:

Ublažavanja:

Ne pokušavam te uplašiti. Samo… bolje je znati gdje škripe podne daske.

12) Kako odabrati model temelja za vaš slučaj upotrebe 🎛️

Ako birate model temelja (ili gradite na jednom), počnite s ovim uputama:

Definiraj što generiraš 🧾

  • samo tekst

  • slike

  • audio

  • mješoviti multimodalni

Postavite svoju ljestvicu činjenica 📌

Ako vam je potrebna visoka točnost (financije, zdravlje, pravo, sigurnost):

Odlučite se za svoju ciljnu latenciju ⚡

Chat je trenutan. Grupno sažimanje može biti sporije.
Ako vam je potreban trenutni odgovor, veličina modela i hosting su važni.

Potrebe za privatnošću i usklađenošću s propisima o karti 🔐

Neki timovi zahtijevaju:

Uravnotežite proračun - i ups, strpljenja 😅

Samostalno hostiranje daje kontrolu, ali dodaje složenost.
Upravljani API-ji su jednostavni, ali mogu biti skupi i manje prilagodljivi.

Mali praktični savjet: prvo napravite prototip s nečim jednostavnim, a zatim ga kasnije ojačajte. Početak s "savršenim" postavkama obično sve usporava.

13) Što su temeljni modeli u generativnoj umjetnoj inteligenciji? (Brzi mentalni model) 🧠✨

Vratimo to. Što su temeljni modeli u generativnoj umjetnoj inteligenciji?

Oni su:

  • veliki, opći modeli obučeni na širokim podacima ( NIST , Stanford CRFM )

  • sposoban generirati sadržaj (tekst, slike, zvuk itd.) ( NIST Generative AI profil )

  • prilagodljiv mnogim zadacima putem uputa, finog podešavanja i pronalaženja ( Bommasani i sur., 2021. )

  • osnovni sloj koji pokreće većinu modernih generativnih AI proizvoda

Oni nisu jedna arhitektura ili brend. Oni su kategorija modela koji se ponašaju poput platforme.

Model s podlogom manje je nalik kalkulatoru, a više kuhinji. U njemu možete kuhati puno jela. Također možete zagorjeti tost ako ne obraćate pažnju... ali kuhinja je i dalje prilično praktična 🍳🔥

14) Sažetak i za van ✅🙂

Temeljni modeli su ponovno upotrebljivi motori generativne umjetne inteligencije. Oni se široko obučavaju, a zatim prilagođavaju specifičnim zadacima putem poticanja, finog podešavanja i pronalaženja ( NIST , Stanford CRFM ). Mogu biti nevjerojatni, neuredni, moćni, a ponekad i smiješni - sve odjednom.

Rekapitulacija:

Ako gradite nešto generativnom umjetnom inteligencijom, razumijevanje modela temelja nije opcionalno. To je cijeli kat na kojem zgrada stoji... i da, ponekad se pod malo ljulja 😅

Često postavljana pitanja

Modeli temelja, jednostavno rečeno

Temeljni model je veliki, općenamjenski model umjetne inteligencije obučen na širokim podacima tako da se može ponovno koristiti za mnoge zadatke. Umjesto izgradnje jednog modela po zadatku, počinje se s jakim „osnovnim“ modelom i prilagođava se po potrebi. Ta se prilagodba često događa putem poticanja, finog podešavanja, pretraživanja (RAG) ili alata. Središnja ideja je širina plus upravljivost.

Po čemu se temeljni modeli razlikuju od tradicionalnih modela umjetne inteligencije specifičnih za zadatke

Tradicionalna umjetna inteligencija često trenira zaseban model za svaki zadatak, poput analize sentimenta ili prijevoda. Temeljni modeli invertiraju taj obrazac: jednom se prethodno treniraju, a zatim ponovno koriste u mnogim značajkama i proizvodima. To može smanjiti duplicirani napor i ubrzati isporuku novih mogućnosti. Kompromis je u tome što mogu biti manje predvidljivi od klasičnog softvera, osim ako ne dodate ograničenja i testiranje.

Temeljni modeli u generativnoj umjetnoj inteligenciji

U generativnoj umjetnoj inteligenciji, temeljni modeli su osnovni sustavi koji mogu proizvesti novi sadržaj poput teksta, slika, zvuka, koda ili multimodalnih izlaza. Nisu ograničeni na označavanje ili klasifikaciju; generiraju odgovore koji nalikuju ljudskom radu. Budući da uče široke obrasce tijekom predtreninga, mogu podnijeti mnoge vrste i formate upita. Oni su „osnovni sloj“ iza većine modernih generativnih iskustava.

Kako osnovni modeli uče tijekom predtreninga

Većina jezičnih temeljnih modela uči predviđanjem tokena, poput sljedeće riječi ili riječi koje nedostaju u tekstu. Taj jednostavan cilj potiče ih da internaliziraju strukturu poput gramatike, stila i uobičajenih obrazaca objašnjenja. Također mogu apsorbirati mnogo svjetskog znanja, iako ne uvijek pouzdano. Rezultat je snažna opća reprezentacija koju kasnije možete usmjeriti prema specifičnom radu.

Razlika između poticanja, finog podešavanja, LoRA-e i RAG-a

Poticanje je najbrži način upravljanja ponašanjem pomoću uputa, ali može biti krhko. Fino podešavanje dodatno trenira model na vašim primjerima za dosljednije ponašanje, ali dodaje troškove i održavanje. LoRA/adapteri su lakši pristup finom podešavanju koji je često jeftiniji i modularniji. RAG dohvaća relevantne dokumente i ima odgovor modela koristeći taj kontekst, što pomaže u svježini i utemeljenosti.

Kada koristiti RAG umjesto finog podešavanja

RAG je često dobar izbor kada su vam potrebni odgovori utemeljeni na vašim trenutnim dokumentima ili internoj bazi znanja. Može smanjiti „nagađanje“ tako što modelu pruža relevantan kontekst u vrijeme generiranja. Fino podešavanje je bolje rješenje kada vam je potreban dosljedan stil, fraziranje domene ili ponašanje koje poticanje ne može pouzdano proizvesti. Mnogi praktični sustavi kombiniraju poticanje + RAG prije nego što posegnu za finim podešavanjem.

Kako smanjiti halucinacije i dobiti pouzdanije odgovore

Uobičajeni pristup je utemeljiti model s pronalaženjem (RAG) kako bi ostao blizu zadanog konteksta. Također možete ograničiti izlaze shemama, zahtijevati pozive alata za ključne korake i dodati eksplicitne upute „ne nagađaj“. Slojevi provjere također su važni, poput provjera pravila, unakrsne provjere i ljudskog pregleda za slučajeve upotrebe s većim ulozima. Tretirajte model kao probabilističkog pomagača, a ne kao izvor istine po zadanim postavkama.

Najveći rizici kod modela temelja u proizvodnji

Uobičajeni rizici uključuju halucinacije, pristrane ili štetne obrasce iz podataka za obuku i curenje privatnosti ako se s osjetljivim podacima loše rukuje. Sustavi također mogu biti ranjivi na ubrizgavanje prompta, posebno kada model čita nepouzdan tekst iz dokumenata ili web sadržaja. Ublažavanja obično uključuju upravljanje, red-teaming, kontrole pristupa, sigurnije obrasce prompta i strukturiranu evaluaciju. Planirajte ove rizike rano, umjesto da ih kasnije zakrpate.

Brzo ubrizgavanje i zašto je važno u RAG sustavima

Ubrizgavanje prompta je kada nepouzdani tekst pokušava nadjačati upute, poput „ignoriraj prethodne upute“ ili „otkrij tajne“. U RAG-u, dohvaćeni dokumenti mogu sadržavati te zlonamjerne upute, a model ih može slijediti ako niste oprezni. Uobičajeni pristup je izoliranje sistemskih uputa, dezinfekcija dohvaćenog sadržaja i oslanjanje na politike temeljene na alatima, a ne samo na prompte. Testiranje s suprotstavljenim ulazima pomaže u otkrivanju slabih točaka.

Kako odabrati model temelja za vaš slučaj upotrebe

Započnite definiranjem onoga što trebate generirati: tekst, slike, zvuk, kod ili multimodalne izlaze. Zatim postavite svoju ljestvicu faktografije - domene visoke točnosti često zahtijevaju uzemljenje (RAG), validaciju, a ponekad i ljudski pregled. Uzmite u obzir latenciju i troškove, jer snažan model koji je spor ili skup može biti teško isporučiti. Konačno, mapirajte privatnost i usklađenost s opcijama implementacije i kontrolama.

Reference

  1. Nacionalni institut za standarde i tehnologiju (NIST) - Temeljni model (Glosar termina) - csrc.nist.gov

  2. Nacionalni institut za standarde i tehnologiju (NIST) - NIST AI 600-1: Generativni profil umjetne inteligencije - nvlpubs.nist.gov

  3. Nacionalni institut za standarde i tehnologiju (NIST) - NIST AI 100-1: Okvir za upravljanje rizicima umjetne inteligencije (AI RMF 1.0) - nvlpubs.nist.gov

  4. Stanfordski centar za istraživanje modela temelja (CRFM) - Izvješće - crfm.stanford.edu

  5. arXiv - O mogućnostima i rizicima modela zaklada (Bommasani et al., 2021.) - arxiv.org

  6. arXiv - Jezični modeli su učenici s malo mogućnosti učenja (Brown i sur., 2020.) - arxiv.org

  7. arXiv - Generiranje prošireno pretraživanjem za NLP zadatke koji zahtijevaju veliko znanje (Lewis i sur., 2020.) - arxiv.org

  8. arXiv - LoRA: Prilagodba niskog ranga modela velikih jezika (Hu i sur., 2021.) - arxiv.org

  9. arXiv - BERT: Predtrening dubokih dvosmjernih transformatora za razumijevanje jezika (Devlin i sur., 2018.) - arxiv.org

  10. arXiv - Fino podešeni jezični modeli su učenici s nultom stopom uspješnosti (Wei i sur., 2021.) - arxiv.org

  11. ACM digitalna knjižnica - Istraživanje halucinacija u generiranju prirodnog jezika (Ji i sur., 2023.) - dl.acm.org

  12. arXiv - Učenje prenosivih vizualnih modela iz nadzora prirodnog jezika (Radford i sur., 2021.) - arxiv.org

  13. arXiv - Uklanjanje šuma difuzijskim probabilističkim modelima (Ho i sur., 2020.) - arxiv.org

  14. arXiv - Sinteza slike visoke rezolucije s modelima latentne difuzije (Rombach i sur., 2021.) - arxiv.org

  15. arXiv - Dohvaćanje gustih odlomaka za odgovaranje na pitanja otvorene domene (Karpukhin i sur., 2020.) - arxiv.org

  16. arXiv - Faissova knjižnica (Douze et al., 2024) - arxiv.org

  17. OpenAI - Predstavljamo Whisper - openai.com

  18. arXiv - Prirodna sinteza TTS-a uvjetovanjem WaveNeta na predviđanjima Mel spektrograma (Shen i sur., 2017.) - arxiv.org

  19. Centar za sigurnost i nove tehnologije (CSET), Sveučilište Georgetown - Iznenađujuća moć predviđanja sljedeće riječi: objašnjenje velikih jezičnih modela (1. dio) - cset.georgetown.edu

  20. USENIX - Izdvajanje podataka za obuku iz velikih jezičnih modela (Carlini i sur., 2021.) - usenix.org

  21. OWASP - LLM01: Brzo ubrizgavanje - genai.owasp.org

  22. arXiv - Više nego što ste tražili: Sveobuhvatna analiza prijetnji novog brzog ubrizgavanja za modele velikih jezika integriranih u aplikacije (Greshake i sur., 2023.) - arxiv.org

  23. OWASP serija varalica - LLM varalica za sprječavanje promptne injekcije - cheatsheetséries.owasp.org

Pronađite najnoviju umjetnu inteligenciju u službenoj trgovini AI Assistant

O nama

Natrag na blog