Kaip logika gali padėti AI modeliams pasakyti daugiau tiesos, pasak AWS

Terminas „samprotavimas“ yra pažįstama šiandienos dirbtinio intelekto (AI) technologijos metafora, dažnai naudojama apibūdinti žodžių išvestis, kurias sukuria vadinamieji samprotavimai AI modeliai, tokie kaip „Openai“ O1 ar „Deepseeek AI“ R1.

Kitas samprotavimas yra tyliai įsišaknijęs pažangiausias programas, galbūt arčiau faktinių samprotavimų.

Taip pat: Ar AI mąstys kaip žmonės? Mes net ne arti – ir mes užduodame neteisingą klausimą

Neseniai „Amazon AWS“ išsiskiriantis mokslininkas Byronas Cookas pateikė pavyzdį, vadinamą „automatizuotu samprotavimu“, dar vadinamu „simboline AI“ arba, dar labiau, „oficialiu patikrinimu“.

Tai yra tokia sena studijų sritis kaip dirbtinio intelekto sritis, ir, pasak Cook, ji greitai susilieja su generatyvine AI, kad sudarytų įdomų naują hibridą, kartais vadinamą „neuro-simboliniu AI“, kuris sujungia geriausius automatizuotus samprotavimus ir didelius kalbų modelius.

Cookas papasakojo apie automatinius samprotavimus AWS finansinių paslaugų simpoziumas Niujorke šią gegužę.

Bet kokiu pavadinimu jūs tai vadinate, automatizuotas samprotavimas nurodo algoritmus, ieškančius teiginių ar teiginių apie pasaulį, kuriuos galima patikrinti kaip teisingus naudojant logiką. Idėja yra ta, kad visas žinias griežtai palaiko tai, kas logiškai gali būti tvirtinama.

Taip pat: PG padidins žmogaus kūrybiškumo vertę finansinėse paslaugose, sako AWS

Kaip sakė Cookas, „samprotavimai imasi modelio ir leidžia mums tiksliai kalbėti apie visus įmanomus duomenis, kuriuos jis gali pateikti“.

Cookas pateikė trumpą kodų fragmentą kaip pavyzdį, kuris parodo, kaip automatizuotas samprotavimas pasiekia tą griežtą patvirtinimą.

Kaip Cookas paaiškino savo auditorijai, instrukcijų kilpa kompiuterio kodo gabalėlyje gali būti numatytas užtikrintai, kad nustotų veikti tam tikru momentu, atsižvelgiant į jo teiginiuose nustatytas sąlygas. Taigi, klausimas: „Ar ši kilpa gali veikti amžinai?“ Galima atsakyti atliekant loginę analizę.

Cook pavyzdyje du kintamieji, x ir y, yra sveikieji skaičiai; Y yra teigiamas, o x yra didesnis nei y. y pakartotinai atimamas iš X, sumažinant X vertę. Galų gale, atimant y iš x, x bus mažesnis nei Y. Tuo metu buvo pažeistos kodo kilpos sąlygos, o kilpa pasibaigs.

Paprastas faktas – kad galiausiai x bus mažesnis už y – logiškai gali būti padarytas išvada, neišsamiai paleidžiant pačios kodo kilpos. Tai turbūt svarbiausias automatinio samprotavimo elementas, principas, kurį Cookas grįžo pakartotinai: automatizuotas samprotavimas gali atsakyti į pagrindinius klausimus apie ką nors su logika, o ne su išsamiu bandymu ir klaidomis.

„Štai kas yra simbolinė AI“, – sakė Cookas. “Mes randame argumentus, žingsnis po žingsnio ir galime juos mechaniškai patikrinti naudodami matematinės logikos pagrindus, kad įsitikintume, jog kiekvienas teiginys yra teisingas. Ir tada automatizuotas samprotavimas yra algoritminė tos formos argumentų paieška.”

Tokie žingsnis po žingsnio sprendimai grįžta į AI aušrą šeštojo dešimtmečio pabaigoje, sakė Cookas. Tiesą sakant, 1959 m. 704 m. Aukščiausia IBM mašina, kuriai buvo skirta automatizuotų samprotavimų forma, kad įrodytų visas Whitehead ir Russello garsiosios „Principia Mathematica“ teoremas.

Tačiau nuo to laiko buvo padaryta daug pažangos, – Cook pasakojo auditorijai. „Įrankiai vis geresni“ per naujus algoritmus.

Taip pat: Kas yra „Deepseee“ AI? Ar saugu? Štai viskas, ką reikia žinoti

Sakė Cook, AWS jau dešimtmetį naudoja automatinius samprotavimus, kad pasiektų realaus pasaulio užduotis, tokias kaip AWS paslaugų teikimo garantuojamas pagal SLAS arba patikrinti tinklo saugumą.

Problemos pavertimas terminais, kuriuos galima logiškai įvertinti žingsnis po žingsnio, kaip ir kodo kilpa, yra viskas, ko reikia.

Pvz., Tinklo saugumas labai dažnai apima teiginius, kurie yra visiškai teisingi arba visiškai klaidingi, paaiškinti Cook, o tai reiškia, kad juos galima išbandyti taip pat, kaip ir kodo kilpa, kad būtų galima automatiškai nustatyti, ar sąlygos yra laikomos, ar pažeidžiamos.

“Kai žiūrite į klausimus (AWS) klientus, jie vartoja daugybę žodžių, tokių kaip„ visiems “ir„ visada “ir„ niekada “, – sakė Cookas, pavyzdžiui,„ Ar mano duomenys visada užšifruojami ramybėje ir tranzitu? “

“Tai yra universalūs teiginiai; jie svyruoja per labai didelius, jei ne intraktiškai dideli, jei ne begaliniai rinkiniai”, – sakė Cook. „Neįmanoma išsamiai išbandyti jokios politikos, kad būtų galima žinoti tokius absoliutes“, – sakė A. Cook. „Saulės gyvenimo laikotarpių skaičius, kurio reikia išsamiai išbandyti visas įmanomas autorizacijos užklausas, prireiktų 92 686 skaitmenų, kad būtų galima užrašyti“ – kitaip tariant, ne praktiška.

Naudojant automatizuotą samprotavimą, AWS tapatybės ir prieigos valdymo įrankį Iam analizatoriuskuris buvo nemokamai prieinamas ketveriems metams, „gali išspręsti tą pačią problemą per kelias sekundes“, – sakė Cook. “Tai yra samprotavimo ir matematinės logikos vertės pasiūlymas, o ne išsamus bandymas.”

Cookas teigė, kad automatinių samprotavimų galia reiškia, kad tai vis dažniau bus „dirbtinio super intelekto forma“.

Taip pat: „Openai“ O1 yra labiau nei bet kuris pagrindinis AI modelis. Kodėl tai svarbu

„Kurį laiką mes turėjome tam tikrą dirbtinio super intelekto formą, jei norėsite, jis tiesiog kalbėjo JSON“,-sakė Cookas. Jis sakė, kad buvo naudojami automatizuoti samprotavimai, skirti „išspręsti atviras matematikos spėliones“ – daiktus, kurie „griebia antraštes“.

“Mes sprendžiame milisekundes, sekundes ar valandas, ko žmonės niekada negalėjo išspręsti šimtą gyvenimo laikotarpių.”

Kiti AWS naudojimo būdai apima AWS sukuriamo atvirojo kodo kodo teisingumo įrodymą ir net „AWS priekinių durų teisingumo įrodymą“, tai reiškia, kad vertinti, ar leisti, ar leisti prašymus gauti AWS, kurie iš klientų patenka tiek, kiek du milijardai kartų per sekundę.

Cook teigė, kad visos šios programos – AIM analizatorius, kodas, įrodantis, AWS prieigos autorizaciją ir daugybę kitų įrankių ir paslaugų – remiasi vidine automatizuotos samprotavimo infrastruktūra AWS, vadinamoje „Zelkova“, kuri gali paversti politiką į matematines formules.

Daugybė automatinių samprotavimų impulsų ir Zelkova atsirado iš finansinių paslaugų pramonės, sakė Cookas.

„Mes užmezgėme tikrai gražią partnerystę su tokiais žmonėmis kaip Goldmanas, Bridžwateris“, – sakė Cookas, cituodamas investicinį banką ir rizikos draudimo fondą. Ši technologija padėjo tų klientų komandoms „dislokuoti greičiau ir iš tikrųjų sutaupyti daug pinigų“.

Taip pat: AI išaugo ne tik į žmogaus žinias, bet ir „Google“ „Deepmind“ vienetas

)

Automatizuotų samprotavimų ateitis yra sujungta su generatyvine AI-sinteze, vadinama neuro-simboline.

Pagrindiniu lygmeniu iš natūralių kalbos terminų įmanoma išversti į formules, kurias galima griežtai išanalizuoti naudojant „Logic by Zelkova“.

Tokiu būdu „Gen AI“ gali būti būdas netechniniam asmeniui nustatyti savo tikslą neoficialiomis, natūraliomis kalbomis, o paskui automatizuoti samprotavimai tai imsis ir griežtai įgyvendinti. Kitaip tariant, abi disciplinos gali būti sujungtos, kad ne logikai galėtų naudotis oficialiais įrodymais.

Taip pat: ką iš tikrųjų pasako prieštaringai vertinamas „Apple“ tiriamasis dokumentas

“Jūs esate finansinių paslaugų ekspertas, imigracijos teisėje, atlikdami automatinius samprotavimų patikrinimus, mes suteikiame asmeniui galimybę tai užkoduoti ir čia yra išvestos taisyklės.”

Kita hibrido priežastis yra susidurti su generatyvinės AI apribojimais, kurie paaiškėjo, ypač vadinami haliucinacijomis ar konfabuliacijomis, tendencija didelių kalbų modeliams (LLM) pateikti melagingus teiginius, kartais taip žiauriai.

„Žmonės labai jaudinosi dėl jų (LLM), ir dabar jie pradeda suprasti, kad, o, palaukite, kai kurie iš šių dalykų turi apribojimų“, – sakė A. Cook. “Negalite tiesiog priversti begalinių duomenų į šiuos dalykus, ir jie tiesiog visada taps geresni.”

Mokslininkai, ypač kritikai dėl dabartinio generatyvaus AI požiūrio, jau seniai aptarė hibridinio neuro-simbolinio požiūrio idėją. Pažymėta generolo skeptikas Gary Marcusas pasiūlė, kad generolui AI reikia kažko panašaus į oficialią logiką, kad ji būtų pagrįsta tiesa.

Taip pat: su AI modeliais, kuriais reikia kiekvieno etalono, atėjo laikas žmogaus vertinimui

Yra net rizikos palaikomas startuolis, pavadintas „Symbolica“, kurio misijos pareiškimas reiškia, kad jis pranoks tai, ką ji mato kaip LLM apribojimus.

Cookas pasiūlė praktinį hibridinio požiūrio pavyzdį: pokalbių robotų teisingumo tikrinimas.

“Pokalbio botėje turite klausimų ir atsakymų, ir norite žinoti, ar tai tiesa?” Sakė virėjas. Automatizuotas samprotavimas leidžia įvertinti teiginius pagal oficialią logiką.

Pavyzdys yra „AWS“ šiuo metu peržiūros pasiūlymas, paskelbtas „AWS Re: Invent“, vadinamas Automatizuotų samprotavimų patikrinimai. Programa gali paimti „Chatbot“ natūralios kalbos išvestį ir paversti ją oficialia logika, kurią vėliau galima patikrinti.

Virėjas kaip pavyzdį naudojo pokalbį su banko paskolos pokalbių tyrimu. Asmuo klausia, kiek laiko turėtų užtrukti norint gauti patvirtinimą dėl paskolos paraiškos. „Chatbot“ reaguoja su daugybe teiginių, tokių kaip „1 darbo diena patvirtinimo diena“.

Automatizuotai samprotavimai siekia patikrinti, ar tie atsakymai iš roboto yra teisingi.

Paaiškino Cooką: „Fone, ką mes darome, mes imamės natūralaus kalbos teksto, įtraukiame jį į matematinę logiką, įrodome ar paneigiame teiginių teisingumą ir tada pateikiame liudytojus, kad jūs, kaip klientas, galėtum ištraukti argumento žurnalą, kad nuosavybė yra tiesa, bet tokiu būdu, kuris galėtų būti patikrintas“.

Cookas teigė, kad automatizuoti samprotavimai taps dar svarbesni agento AI amžiuje. “Kur yra viskas, mes girdime vis daugiau ir daugiau apie agentus; dėl hipe kreivės tai yra tarsi naujas, naujas įrašas”, – sakė jis.

Taip pat: Naujasis „Google“ AI įrankis „Opal“ paverčia raginimus į programas, nereikia kodavimo

“Jei ketinate leisti natūralią kalbą paversti veiksmu, kuris jūsų vardu priima vienpusius duris jūsų pinigais, jūsų reputacija, su jūsų karjera, su kodu, kad teisingumas bus absoliučiai svarbus su agentine AI, mes leidžiame tik mirtingiesiems iš esmės rašyti ir vykdyti paskirstytas sistemas.”

Jis teigė, kad agentinę AI sudaro daugelis AI sistemų, veikiančių lygiagrečiai, ir turėtų būti išspręsta, kaip automatiniai samprotavimai išsprendė kitus paskirstytų sistemų darbus AWS.

Pavyzdžiui, AWS S3 saugojimo sistemos atveju vidinis įrankis Zelkova buvo naudojamas „įrodyti paskirstytų sistemų dizaino teisingumą“, – sakė jis.

„S3 („ Amazon “objektų saugykla) po gaubtu yra šimtai protokolų“, – aiškino Cookas. “Darant prielaidą, kad visos mašinos teisingai kalba protokolais, tada gausite stiprų nuoseklumą – kartu gausime teisingą rezultatą.”

Jis paaiškino, kad tas pats grupės balsavimo požiūris, tam tikra minios išmintis, gali būti panaudota, kad patikrintų agentų veiksmus.

Taip pat: įsilaužėlis slenka kenksmingo „Wiping“ komandai į „Amazon“ Q AI kodavimo asistentą – ir Devs nerimauja

“Tai yra tai, ką galime labai greitai ir lengvai parodyti naudodamiesi automatiniais samprotavimais.”

Cookas išreiškė optimizmą, kad automatizuotų samprotavimų ir gen AI susijungimas ir toliau darys pažangą.

„Džiaugiuosi, kad esu gyvas ir džiaugiuosi, kad šiuo metu esu praktikuojantis asmuo“, – sakė jis. “Nes šios šakos iš tikrųjų labai greitai sugrįžta dabar.”

Tie, kurie nori ištirti šią temą, gali pradėti nuo 2021 m. Automatizuotų samprotavimų „Cook“ įvadinio tinklaraščio įrašo.

Norite daugiau istorijų apie AI? Prisiregistruokite kurti naujovesmūsų savaitinis informacinis biuletenis.