„Phillip Burr“ yra „Lumai“ produkto vadovas, turintis daugiau nei 25 metų patirtį pasauliniame produktų valdyme, rinkoje ir lyderystės vaidmenyse pirmaujančiose puslaidininkių ir technologijų įmonėse bei įrodytos produktų ir mastelio kūrimo bei mastelio paslaugų ir paslaugų srityse.
„Lumai“ yra JK įsikūrusi „Deep Tech“ įmonė, kurianti 3D optinių kompiuterių procesorius, kad paspartintų dirbtinio intelekto darbo krūvius. Atlikdami matricos ir vektoriaus dauginimą, naudojant šviesos pluoštus trimis matmenimis, jų technologija siūlo iki 50 kartų našumą ir 90% mažiau energijos suvartojimo, palyginti su tradiciniais silicio pagrindu pagamintais greitintuvais. Tai ypač gerai tinka AI išvadų užduotims, įskaitant didelius kalbų modelius, kartu žymiai sumažinant energijos sąnaudas ir poveikį aplinkai.
Kas paskatino įkurti Lumai ir kaip idėja kilo iš Oksfordo universiteto tyrimų į komercinę įmonę?
Pradinė kibirkštis buvo uždegta, kai vienam iš „Lumai“ įkūrėjų dr. Xianxin Guo buvo apdovanota 1851 m. Mokslinių tyrimų stipendija Oksfordo universitete. Pašnekovai suprato optinio skaičiavimo potencialą ir paklausė, ar Xianxin apsvarstys patentus ir išsuks įmonę, jei jo tyrimai bus sėkmingi. Tai sukėlė „Xianxin“ kūrybinį protą ir, kai jis, kartu su vienu iš kitų „Lumai“ įkūrėjų daktaro Jameso Spallo, įrodė, kad naudojant šviesą skaičiavimui AI širdyje gali būti dramatiškai padidinti AI našumą ir sumažinti energiją, buvo nustatyta scena. Jie žinojo, kad esama tik silicio AI aparatinė įranga yra (ir tebėra) stengiasi padidinti našumą, žymiai didindamas galią ir sąnaudas, taigi, jei jie galėtų išspręsti šią problemą naudodamiesi optiniu skaičiavimu, jie galėtų sukurti produktą, kurio norėjo klientai. Jie ėmėsi šios idėjos kai kuriems VC, kurie parėmė juos, kad suformuotų „Lumai“. Neseniai „Lumai“ uždarė savo antrąjį finansavimo etapą, surinkdamas daugiau nei 10 mln. USD ir pritraukdamas papildomų investuotojų, kurie taip pat mano, kad optinis skaičiavimas gali toliau mastelio keitimą ir patenkinti didėjančią AI našumo paklausą, nedidindami energijos.
Jums buvo įspūdinga karjera „Arm“, „Indie“ puslaidininkė ir dar daugiau – kas pritraukė jus prisijungti prie „Lumai“ šiame etape?
Trumpas atsakymas yra komanda ir technologijos. „Lumai“ turi įspūdingą optinio, mašininio mokymosi ir duomenų centro ekspertų komandą, suteikiančią patirtį iš mėgstamų „Meta“, „Intel“, „Altera“, „Maxeler“, „Seagate“ ir „IBM“ (kartu su savo patirtimi ARM, Indie, Mentor Graphics ir Motorola). Aš žinojau, kad nuostabių žmonių komanda, taip sutelkusi dėmesį į iššūkį, kaip sumažinti AI išvadų išlaidų, gali padaryti nuostabius dalykus.
Aš tvirtai tikiu, kad AI ateitis reikalauja naujų, novatoriškų skaičiavimo proveržių. Pažadėjimas pasiūlyti 50x AI skaičiavimo našumą ir sumažinti AI išvadų kainą iki 1/10, palyginti su šiandienos sprendimais, buvo tiesiog per gera galimybė praleisti.
Su kokiais ankstyvaisiais techniniais ar verslo iššūkiais jūsų įkūrėjų komanda susidūrė didinant iš tyrimų proveržį iki produkto paruoštos įmonės?
Tyrimo proveržis įrodė, kad optika gali būti naudojama greitai ir labai efektyviam matricos ir vektoriaus dauginimui. Nepaisant techninių proveržių, didžiausias iššūkis buvo įtikinti žmones, kad „Lumai“ gali pasisekti ten, kur nepavyko kiti optinių kompiuterių startuoliai. Turėjome praleisti laiką paaiškindami, kad Lumai požiūris buvo labai skirtingas ir kad, užuot pasikliavę vienu 2D lustu, mes panaudojome 3D optiką, kad pasiektume masto ir efektyvumo lygį. Žinoma, yra daugybė žingsnių, kuriuos reikia patekti iš laboratorijų tyrimų prie technologijos, kurias duomenų centre galima panaudoti mastu. Mes labai anksti pripažinome, kad sėkmės raktas buvo inžinierių, turinčių patirties kuriant produktus, didelius ir duomenų centrus, patirtį. Kita sritis yra programinė įranga – labai svarbu, kad standartinės AI sistemos ir modeliai galėtų būti naudingi „Lumai“ procesoriui, ir kad mes pateikiame įrankius ir sistemas, kad tai būtų kuo sklandesni AI programinės įrangos inžinieriams.
Teigiama, kad „Lumai“ technologija naudoja 3D optinės matricos ir vektoriaus dauginimąsi. Ar galite tai sugriauti paprasta sąlyga plačiajai auditorijai?
PG sistemos turi atlikti daugybę matematinių skaičiavimų, vadinamų matricos ir vektoriaus dauginimu. Šie skaičiavimai yra variklis, kuris galioja AI atsakymus. „Lumai“ mes tai darome naudodamiesi šviesa, o ne elektra. Štai kaip tai veikia:
- Mes koduojame informaciją į šviesos pluoštus
- Šios šviesos spinduliai keliauja per 3D erdvę
- Šviesa sąveikauja su lęšiais ir specialiomis medžiagomis
- Šios sąveikos užbaigia matematinę operaciją
Naudodami visus tris erdvės matmenis, mes galime apdoroti daugiau informacijos su kiekvienu šviesos spinduliu. Tai daro mūsų požiūrį labai efektyvų – sumažinant energiją, laiką ir išlaidas, reikalingas AI sistemoms paleisti.
Kokie yra pagrindiniai optinio skaičiavimo pranašumai, palyginti su tradiciniu silicio pagrindu pagamintu GPU ir net integruota fotonika?
Kadangi silicio technologijos pažangos greitis žymiai sulėtėjo, kiekvienas padidina tik silicio AI procesoriaus (kaip GPU) atlikimą, žymiai padidėja galia. Tik silicio sprendimai sunaudoja neįtikėtiną galią ir vejasi mažėjančią grąžą, todėl jie yra nepaprastai sudėtingi ir brangūs. Optikos naudojimo pranašumas yra tas, kad vieną kartą optiniame srityje praktiškai sunaudojama jokia energija. Energija naudojama norint patekti į optinį domeną, tačiau, pavyzdžiui, „Lumai“ procesoriuje mes galime pasiekti daugiau nei 1000 skaičiavimo operacijų kiekvienam šviesos pluoštui, kiekvienam ciklui, taigi jis yra labai efektyvus. Šis mastelio keitimas negali būti pasiektas naudojant integruotą fotoniką dėl tiek fizinio dydžio apribojimų, tiek signalo triukšmo, atsižvelgiant į silicio-fotoninio sprendimo skaičiavimo operacijų skaičių tik 1/8-oje vietoje to, ko Lumai gali pasiekti šiandien.
Kaip „Lumai“ procesorius pasiekia beveik nulinio latencijos išvadą, ir kodėl tai yra toks kritinis šiuolaikinių AI darbo krūvių veiksnys?
Nors mes nepranešime, kad „Lumai“ procesorius siūlo nulinį latenciją, jis atlieka labai didelę (1024 x 1024) matricos vektorių operaciją per vieną ciklą. Tik silicio tirpalai paprastai padalina matricą į mažesnes matricas, kurios yra atskirai apdorojamos žingsnis po žingsnio, tada rezultatai turi būti sujungti. Tam reikia laiko ir lemia daugiau atminties ir energijos. Sumažinti laiko, energijos ir sąnaudų sumažinimą yra labai svarbu, kad abu leistų daugiau įmonių naudotis AI ir įgalintų pažangių AI tvarų būdu.
Ar galite apžvelgti, kaip su PCIe suderinamas formos faktorius integruoja su esama duomenų centro infrastruktūra?
„Lumai“ procesorius naudoja „PCIe Form Factor“ korteles kartu su standartiniu procesoriumi, visa tai yra standartinėje 4U lentynoje. Mes dirbame su daugybe duomenų centro stovo įrangos tiekėjų, kad „Lumai“ procesorius integruotų į savo įrangą. Mes naudojame standartines tinklo sąsajas, standartinę programinę įrangą ir kt. Taigi, kad išoriškai „Lumai“ procesorius atrodytų kaip bet kuris kitas duomenų centro procesorius.
Duomenų centro energijos sunaudojimas kelia didėjantį pasaulinį susirūpinimą. Kaip „Lumai“ save apibūdina kaip tvarų AI skaičiavimo sprendimą?
Duomenų centro energijos suvartojimas didėja nerimą keliančiu greičiu. Remiantis Lawrence'o Berkeley nacionalinės laboratorijos laboratorijos ataskaita, tikimasi, kad JAV duomenų centro energijos naudojimas iki 2028 m. Padidės trigubai ir sunaudos iki 12% šalies galios. Kai kurie duomenų centrų operatoriai ketina įdiegti branduolio galią, kad užtikrintų reikalingą energiją. Pramonė turi atsižvelgti į skirtingus AI metodus, ir mes manome, kad optika yra atsakymas į šią energijos krizę.
Ar galite paaiškinti, kaip „Lumai“ architektūra išvengia dabartinio silicio ir fotoninių metodų mastelio keitimo kliūčių?
Pirmojo „Lumai“ procesoriaus atlikimas yra tik to, ko galima pasiekti, pradžia. Mes tikimės, kad mūsų sprendimas ir toliau užtikrins didžiulį našumo šuolį: padidindami optinio laikrodžio greitį ir vektoriaus plotį, visi be atitinkamo sunaudojamos energijos padidėjimo. Joks kitas sprendimas to negali pasiekti. Standartiniai tik skaitmeninio silicio metodai ir toliau sunaudos vis daugiau išlaidų ir galios kiekvienam našumo padidėjimui. Silicio fotonika negali pasiekti reikalingo vektoriaus pločio, todėl įmonės, kurios ieškojo integruotos duomenų centro fotonikos, perėjo į kitas duomenų centro dalis – pavyzdžiui, optinį sujungimą ar optinį perjungimą.
Kokį vaidmenį matote optinį skaičiavimą, kuris vaidina AI ateityje – ir plačiau, skaičiuojant kaip visumą?
Visa optika vaidins didžiulį vaidmenį duomenų centruose, einančiuose į priekį – nuo optinio sujungimo, optinio tinklo, optinio perjungimo ir, žinoma, optinio AI apdorojimo. Reikalavimai, kuriuos AI deda į duomenų centrą, yra pagrindinis šio žingsnio į optinis variklis. Optinis sujungimas įgalins greitesnes jungtis tarp AI procesorių, kurie yra būtini dideliems AI modeliams. Optinis perjungimas įgalins efektyvesnį tinklų kūrimą, o optinis skaičiavimas įgalins greitesnį, efektyvesnį energijos ir pigesnį AI apdorojimą. Jie kartu padės įgalinti dar sudėtingesnę AI, įveikdami silicio mastelio keitimo sulėtėjimo iššūkius skaičiavimo pusėje ir vario greičio apribojimus tarpkonnetinėje pusėje.
Dėkojame už puikų interviu, skaitytojai, norintys sužinoti daugiau, turėtų apsilankyti Lumai.
