Perspėjimas nebuvo skleidžiamas sirenomis; bet tikriausiai taip ir turėjo būti. Atrodo, kad kai kuriose uždaresnėse politikos patalpose ir skubotuose Europos bankininkystės ir finansų priežiūros institucijų vidaus biuleteniuose valdžios institucijos pradeda įtarti kažką bauginančio. Artėjančios finansinės apokalipsės negali sukurti nė vienas iš mūsų bičiulių homo sapiens.
Visų pirma, tai AI modelis, galintis išbandyti sistemą, išsiaiškinti jos pažeidžiamumą ir tam tikromis sąlygomis jas išnaudoti. Remdamasis keliais anoniminiais pramonės šaltiniais, ECB pradėjo susisiekti su bankais ir paklausti, kaip jie jaučiasi dėl tokio tipo naujos rizikos. Tai jau vyksta, o šiame straipsnyje galite sužinoti daugiau apie tai: ECB pareigūnai svarsto galimybę finansų įstaigoms išnaudoti agentinius AI modelius.
Žinoma, mes visada kalbame apie kibernetinės atakos keliamą kibernetinės rizikos grėsmę, ir, žinoma, mes visada tai turėjome. Bet tai nėra įprastas vaikinas su gobtuvu rūsyje. Tai kodas su žingsniais, kuriuos jis gali apgalvoti, veiksmus, kuriuos jis gali sujungti, ir tam tikrais bandymais sudėtingas atakas. Štai kas jiems kelia nerimą.
Ir dabar mes prieiname prie keistesnės šios istorijos dalies. Kai kurie iš tų vadovų viešai pareiškė, kad jie „perdėtai suvokia“ riziką; ty jie per gerai nemiega naktimis. Teigiama, kad dirbtinio intelekto sistemos, panašios į Anthropic's Mythos, jau galėjo vykdyti savarankiškas daugiapakopes kibernetinės atakos modeliavimo pratybas be žmogaus įsikišimo. Jei tai neatrodo labai baisu.
Bet tai ne visas vaizdas. Taip pat yra pranešimų, kad „Mythos“ yra ankstyvoji AI agentų versija. Apskritai, AI evoliucija pereina nuo pokalbių roboto, galinčio generuoti tekstą, prie tokio, kuris gali atlikti planavimo ir samprotavimo veiksmus, prie AI agentų, kurie iš tikrųjų gali įgyvendinti savo sukurtus planus. Reguliavimo institucijos vis labiau nerimauja dėl AI agentų ir diskutuoja, kokių taisyklių gali prireikti.
Taigi kur tai palieka mus? Savotiškai pusiau „nustebusioje“, pusiau išsigandusioje vietoje. Viena vertus, įsivaizduokite dirbtinį intelektą, kuris gali rasti saugumo spragų ir jas ištaisyti anksčiau, nei tai padarys blogi veikėjai. Kita vertus… įsivaizduokite, kad blogi aktoriai pirmiausia juos suranda.
Tada yra pasitikėjimo klausimas, kuris niekada nesulaukia didelio spaudos. Jei bankai, kai kurios labiausiai rizikuojančių organizacijų pasaulyje, elgiasi nedrąsiai, ką turėtume galvoti kiti? Ar pasitikite AI savo pinigais, jei jis gali pavogti iš kito asmens?
Kai kurie žmonės mano, kad „AI lenktynės“ jau vyksta, kai tautos ir kompanijos stengiasi plėtoti gynybą taip greitai, kaip mato, kaip panaudotas nusikaltimas.
Galų gale, tai ne tik dar viena technologijų istorija; tai vienas iš daugelio ateities ženklų.
