Tai ne visai tinkamas laikas reguliuotojams. Vyrauja nuotaika: palaukite, ar viskas pablogėjo greičiau, nei tikėjomės?
Šiuo metu JK reguliavimo institucijos įnirtingai siekia kontroliuoti tai, kas atrodo bauginantis DI naudojimo šuolis. Anthropic sukurtas modelis, matyt, sugebėjo aptikti daugybę programinės įrangos spragų ir tai verčia žmones sunerimti.
Tai ne mokslinė fantastika. Tai tikra.
Po to, kai modelis buvo įvertintas viduje, nes modelis vis dar bandomas, reguliavimo institucijos pradėjo domėtis, ar ši nauja AI sistema gali turėti neigiamą poveikį JK. Tai, kad modelis gali rasti tūkstančius trūkumų tam tikroje aplinkoje, sukėlė nerimą.
JK reguliavimo institucijos, įskaitant Anglijos banką, gavo atsakymą. Išsamią informaciją apie tai, kas atsitiko, ir reguliuotojų reakcijas galima rasti šioje ataskaitoje:
Vis dėlto trumpam atsitraukime. Tai sudėtingiausia dalis. Tai nėra „blogų naujienų“ istorija. Galų gale, pažeidžiamumų nustatymas yra nepaprastai vertingas įrankis, kai kalbama apie AI.
Kuo greičiau galima pritaikyti pataisas, tuo mažiau pažeidžiamumų. Tai naudinga kibernetinio saugumo specialistams. Sunkumas yra tas, kad tai naudinga tiems, kurie taip pat norėtų išnaudoti pažeidžiamumą.
Tai dvejopo naudojimo problema, kuri buvo tokia paplitusi naudojant AI, nes ji sparčiai vystosi.
Žvilgsnis į AI potencialą kibernetinio saugumo srityje taip pat parodo galimą technologijos neigiamą pusę: kai kurie viešai neatskleista informacija jau šnabžda, kad įžengiame į fazę, kai dirbtinis intelektas ne tik padeda įsilaužėliams, bet ir gali visiškai pranokti žmogaus gynėjus.
Tai labai baisi mintis, bet ar tai tiesa? Jau žinome, kad kai kurios dirbtinio intelekto technologijos gali nustatyti sistemos pažeidžiamumą ir netgi jas išnaudoti. Tik laiko klausimas, kada galėsime tai padaryti automatiškai.
Ir aš kalbėjausi su keliais kūrėjais per pastaruosius metus, ir toks tylus tonas pasikeitė. Kaip juokavo vienas iš jų: „Sukūrėme įrankius, kurie mums padėtų… dabar tikriname, ar jiems reikia priežiūros, kaip stažuotojams, kurie niekada nemiega“.
Esu tikras, kad būsime daugiau išgirdę iš politikos formuotojų, nes jie kovoja su sparčia AI technologijų pažanga visame pasaulyje:
Lygiagrečiai tokios įmonės kaip „Google“ ir „OpenAI“ tęsia savo pačių sukurtą trajektoriją link vis stipresnių sistemų gana tylioje konkurencijoje.
Šis konkursas nekelia didžiulio triukšmo, o greičiau toks, kai kiekvienas atnaujinimas pakelia grindis ir lubas, kiek įmanoma. Tai iškelia kitą klausimą, kurio žmonės linkę vengti.
Ar kuriame greičiau, nei galime suprasti rezultatus? Kadangi taisyklės jau yra grumtynės, kad būtų atnaujintos, kas nutiks po šešių mėnesių nuo šiandien?
Kitas dokumentas, kuriame aptariamas AI pagreitis ir kodėl reglamentas negali neatsilikti, papildo šį klausimą.
Viso to tikrai nėra laimingos pabaigos. Pasiekėme tašką, kai greitas pagreitis yra realybė, o ateitis neaiški. Tai svarbus laikas mums visiems.
AI nebėra tik įrankis. Jis tampa sistemų, kurias mes vos visiškai kontroliuojame, veikėju. Tai atsiskaitymo momentas, ir atsakymai greičiausiai skirsis priklausomai nuo to, kurioje užkardos pusėje stovite.
