Sam Altman: Grozno je što svi držimo toliko RAM-a u računalima, a jedva ga koristimo
DIREKTOR OpenAI-ja Sam Altman smatra da je korištenje velikih količina radne memorije u osobnim računalima za pokretanje umjetne inteligencije loša raspodjela ograničenih resursa. U intervjuu za YouTube kanal Cheeky Pint rekao je da bi, s obzirom na nestašicu memorijskih čipova, njihovo korištenje u podatkovnim centrima bilo učinkovitije.
Altmanova izjava dolazi u vrijeme velike potražnje za radnom memorijom (RAM), koju sve više troše sustavi umjetne inteligencije. Dok OpenAI i druge tehnološke tvrtke grade velike podatkovne centre, Altman smatra da lokalno pokretanje AI modela nije najbolje rješenje za ograničenu svjetsku ponudu memorije.
"Prilično je grozno da svi imaju toliko memorije u svojim računalima"
Tijekom razgovora Altman se osvrnuo na sve veću popularnost lokalnog pokretanja umjetne inteligencije. Riječ je o mogućnosti da korisnici pokreću AI modele izravno na vlastitim računalima, bez potrebe za povezivanjem s udaljenim poslužiteljima.
Takav pristup privlači ljude koji žele veću kontrolu nad svojim podacima i softverom te ne žele ovisiti o internetskim uslugama. No Altman smatra da se time ne rješava problem velike potražnje za računalnim resursima.
"S gledišta globalne raspodjele resursa, zapravo je prilično grozno što svatko u svom računalu drži dio ionako ograničenih svjetskih zaliha DRAM-a, a koristi ga možda pet posto vremena", rekao je Altman.
"Kada pokušavate upravljati resursima u uvjetima tako ograničene ponude, cilj je postići maksimalnu iskoristivost u oblaku. Ipak, intuicija mnoge ljude navodi na suprotan zaključak", dodao je.
Zašto Altman smatra da su podatkovni centri učinkovitiji?
Altmanov argument temelji se na pretpostavci da se radna memorija u osobnim računalima velik dio vremena ne koristi za pokretanje umjetne inteligencije. Nasuprot tome, podatkovni centri mogu istu vrstu resursa iskorištavati tijekom cijelog dana, posluživajući velik broj korisnika.
DRAM je vrsta radne memorije koju koriste osobna računala, poslužitelji i drugi elektronički uređaji. Potražnja za takvim čipovima porasla je usporedno s razvojem umjetne inteligencije, a veliki kupci rezerviraju značajne proizvodne kapacitete.
Proizvođači memorije Samsung i SK Hynix već imaju dugoročne ugovore s velikim pružateljima računalnih usluga i projektima podatkovnih centara. Takvi dogovori dodatno opterećuju ponudu memorijskih čipova za osobna računala i druge potrošačke uređaje.
Takav pristup odgovara i poslovanju OpenAI-ja
OpenAI nudi i modele otvorenih težina koje korisnici mogu pokretati na vlastitoj opremi. Međutim, najveći dio njegova poslovanja temelji se na modelima koji se izvršavaju u podatkovnim centrima i kojima korisnici pristupaju putem interneta.
Zato Altmanov argument ide u prilog i poslovnom modelu njegove tvrtke. Što se više AI zadataka obavlja na udaljenim poslužiteljima, to su korisnici ovisniji o pružateljima takvih usluga, uključujući OpenAI.
S druge strane, sve snažnija osobna računala mogla bi omogućiti pokretanje sve naprednijih modela bez stalnog plaćanja pretplate. To bi korisnicima pružilo veću kontrolu nad načinom korištenja umjetne inteligencije i pohranom vlastitih podataka.
Što to znači za vlasnike osobnih računala?
Altmanova izjava otvara i pitanje budućnosti osobnih računala. Korisnici koji pokreću AI modele lokalno ne moraju slati svoje podatke u oblak, a mogu raditi i bez internetske veze. Istodobno moraju sami osigurati dovoljno snažan hardver.
Za razliku od njih, korisnici usluga u oblaku ne trebaju kupovati skupu opremu za pokretanje velikih modela. No pritom ovise o cijeni, dostupnosti i pravilima pružatelja usluga te o načinu na koji se obrađuju njihovi podaci.
Altmanove izjave ne znače da OpenAI planira zabraniti lokalno korištenje umjetne inteligencije ili da korisnici ne bi trebali imati RAM u računalima za svakodnevne zadatke. Njegova se kritika odnosila na učinkovitost raspodjele ograničene količine memorije u kontekstu pokretanja AI modela.
Govorio i o sigurnosti i razvoju umjetne inteligencije
U ostatku razgovora na kanalu Cheeky Pint Altman se osvrnuo na sigurnosne propuste u PHP-u, izolaciju AI modela u kontroliranim okruženjima tijekom njihova razvoja te na istraživanja OpenAI-ja povezana s matematikom.
Intervju je objavljen pod naslovom "Why Sam Altman is against a single superintelligence", a rasprava o lokalnom pokretanju AI modela i korištenju radne memorije nalazi se približno na 29. minuti razgovora.