Grafikos apdorojimo įrenginiai (GPU), lustai, kuriuose veikia dauguma AI modelių, yra energijos ištroškę žvėrys. „Goldman Sachs“ apskaičiavo, kad spartėjant GPU integravimui į duomenų centrus, dirbtinis intelektas iki 2030 m. elektros energijos paklausą padidins 160 proc.
Ši tendencija nėra tvari, teigia Vishal Sarin, analoginių ir atminties grandinių dizaineris. Daugiau nei dešimtmetį dirbęs lustų pramonėje, Sarinas pradėjo Sagence AI (anksčiau vadinosi Analog Inference), kad sukurtų energiją taupančias GPU alternatyvas.
„Programos, kurios gali padaryti praktinį AI skaičiavimą tikrai plačiai paplitusią, yra ribotos, nes duomenis apdorojantys įrenginiai ir sistemos negali pasiekti reikiamo našumo“, – sakė Sarinas. „Mūsų misija yra pažeisti našumo ir ekonominius apribojimus ekologiškai atsakingai.
Sagence kuria lustus ir sistemas dirbtinio intelekto modeliams paleisti, taip pat programinę įrangą šiems lustams programuoti. Nors netrūksta kompanijų, kuriančių pasirinktinę AI aparatinę įrangą, „Sagence“ yra šiek tiek unikali tuo, kad jos lustai yra analoginiai, o ne skaitmeniniai.
Dauguma lustų, įskaitant GPU, informaciją saugo skaitmeniniu būdu, kaip dvejetaines vienetų ir nulių eilutes. Priešingai, analoginiai lustai gali pateikti duomenis naudojant įvairias vertes.
Analoginiai lustai nėra nauja koncepcija. Jų klestėjimas buvo maždaug nuo 1935 iki 1980 m., be kitų inžinerinių žygdarbių, padėjo modeliuoti Šiaurės Amerikos elektros tinklą. Tačiau skaitmeninių lustų trūkumai vėl daro analoginį patrauklumą.
Pirma, skaitmeniniams lustams reikia šimtų komponentų, kad būtų galima atlikti tam tikrus skaičiavimus, kuriuos analoginiai lustai gali atlikti naudojant tik kelis modulius. Skaitmeniniai lustai taip pat paprastai turi perkelti duomenis pirmyn ir atgal iš atminties į procesorius, todėl atsiranda kliūčių.
„Visi pirmaujantys senieji dirbtinio intelekto silicio tiekėjai naudoja šį seną architektūrinį metodą, ir tai blokuoja dirbtinio intelekto diegimo pažangą“, – sakė Sarinas.
Analoginiai lustai, tokie kaip Sagence's, kurie yra „atminties“ lustai, neperkelia duomenų iš atminties į procesorius, todėl gali greičiau atlikti užduotis. Ir dėl savo gebėjimo naudoti įvairias reikšmes duomenims saugoti, analoginiai lustai gali turėti didesnį duomenų tankį nei jų skaitmeniniai analogai.
Tačiau analoginė technologija turi ir minusų. Pavyzdžiui, gali būti sunkiau pasiekti aukštą tikslumą naudojant analoginius lustus, nes jiems reikia tikslesnės gamybos. Juos taip pat sunkiau programuoti.
Tačiau Sarinas mano, kad „Sagence“ lustai papildo, o ne pakeičia, skaitmeninius lustus, pavyzdžiui, kad paspartintų specializuotas programas serveriuose ir mobiliuosiuose įrenginiuose.
„Sagence produktai sukurti taip, kad pašalintų galios, sąnaudų ir delsos problemas, būdingas GPU aparatūrai, tuo pačiu užtikrinant aukštą dirbtinio intelekto programų našumą“, – sakė jis.
„Sagence“, kuri planuoja pateikti savo lustus į rinką 2025 m., bendradarbiauja su „keliais“ klientais, nes atrodo, kad konkuruoja su kitomis dirbtinio intelekto analoginių lustų įmonėmis, tokiomis kaip „EnCharge“ ir „Mythic“, sakė Sarinas. „Šiuo metu savo pagrindines technologijas pakuojame į sistemos lygio produktus ir užtikriname, kad atitiktume esamą infrastruktūrą ir diegimo scenarijus“, – pridūrė jis.
„Sagence“ užsitikrino investicijas iš rėmėjų, įskaitant Vinod Khosla, TDK Ventures, Cambium Capital, Blue Ivy Ventures, Aramco Ventures ir New Science Ventures, per šešerius metus nuo įkūrimo iš viso surinko 58 mln.
Dabar startuolis vėl planuoja pritraukti kapitalą, kad išplėstų savo 75 žmonių komandą.
„Mūsų sąnaudų struktūra yra palanki, nes nesiekiame veiklos tikslų pereidami prie naujausių (gamybos procesų) savo lustams“, – sakė Sarinas. „Mums tai yra didelis veiksnys“.
Laikas gali būti tiesiog naudingas Sagence'ui. „Crunchbase“ duomenimis, finansavimas puslaidininkių gamybos įmonėms po blankių 2023 m. metų vėl grįžta. Nuo sausio iki liepos mėn. VC remiami mikroschemų startuoliai surinko beveik 5,3 mlrd. viso.
Esant tokiai situacijai, lustų gamyba yra brangus pasiūlymas – jį dar labiau apsunkina naujosios Trumpo administracijos pažadėtos tarptautinės sankcijos ir tarifai. Pritraukti klientus, kurie „užsiskleidė“ tokiose ekosistemose kaip „Nvidia“, yra dar vienas žingsnis į viršų. Praėjusiais metais dirbtinio intelekto lustų gamintoja „Graphcore“, kuri surinko beveik 700 mln. USD ir kadaise buvo įvertinta beveik 3 mlrd. USD, po to, kai sunkiai įsitvirtino rinkoje, pateikė nemokumo bylą.
Kad turėtų galimybę sulaukti sėkmės, „Sagence“ turės įrodyti, kad jos lustai iš tikrųjų sunaudoja žymiai mažiau energijos ir užtikrina didesnį efektyvumą nei alternatyvos – ir surinkti pakankamai rizikos finansavimo, kad būtų galima gaminti dideliu mastu.