Sekite ZDNET: Pridėkite mus kaip pageidaujamą šaltinį „Google“.
Pagrindiniai ZDNET pasiūlymai
- Raskite pusiausvyrą tarp AI agento santūrumo ir nepriklausomybės.
- Kontekstas ir ketinimai turi būti įtraukti į agento kūrimą.
- Apsvarstykite konfigūracijas ir duomenis, kuriuos agentai pasiekia.
AI agentai vystosi nuo paprastų pokalbių robotų iki visaverčių skaitmeninių darbuotojų, įgaliotų imtis veiksmų dėl programų ir duomenų. Ir su šiomis galimybėmis kyla daugybė saugumo ir valdymo problemų.
Elkitės su savo dirbtinio intelekto agentais kaip su uoliais, bet klystančiais stažuotojais, kuriems reikalinga tokia pati priežiūra ir vadovavimas, kaip ir stažuotojams, – pasiūlė ekspertai neseniai San Franciske vykusiame „Snowflake“ viršūnių susitikime. Dirbtinio intelekto agentams reikia konkrečių nurodymų ir kruopštaus žmonių vadovų stebėjimo.
Taip pat: kaip sukurti geresnius dirbtinio intelekto agentus savo verslui nesukeliant pasitikėjimo problemų
Agentas be suvaržymų gali būti itin problemiškas, sutiko AI saugumo tiekėjams atstovaujantys komisijos nariai. „Galite liepti agentui nupirkti jums batus, o prieš tai sužinojęs jis nupirko jums automobilį“, – sakė Mayank Agarwal, „Resolve AI“ įkūrėjas ir technologijų vadovas.
Santūrumas, kontekstas ir ketinimas
“Turite labai gerai apgalvoti, kokius leidimus suteikiate agentui. Negalite tikėtis, kad agentas išliks tiesus ir siauras. Turite nustatyti šiuos griežtus suvaržymus, kad apribotumėte tai, ką jis gali daryti.”
Kartu su santūrumu kontekstas ir ketinimai yra pagrindiniai agentų kūrimo ir valdymo raktiniai žodžiai. “Nepakanka tik žinoti, kam šis agentas buvo sukurtas. Jūs taip pat turite žinoti tokius dalykus, kaip kieno įgaliojimai jis veikia ir ką jis veiks, pavyzdžiui, su duomenimis, prie kurių jis prisijungia”, – sakė Nancy Wang, 1Password vyriausioji technologijų pareigūnė.
Taip pat: tai, ką mokėsite už AI agentus, bus nepaprastai kintama ir nenuspėjama
Profesionalai turėtų atsisakyti senų programinės įrangos kūrimo taisyklių, nes agentų kūrimas ir diegimas šiandien labai skiriasi nuo nesenos praeities programinės įrangos praktikos, pažymėjo Agarwal.
„Jei grįšite tik dvejus metus atgal, inžinierius tiksliai žinojo, kaip jie ketina sujungti API skirtingose sistemose“, – sakė jis. „Visa buvo labai nuspėjama: A paskambins API B, B tai darys su tais duomenimis, C ir darys tai su tais duomenimis. Agentų pasaulyje tai visiškai nenuspėjama. Agentas sujungia reikalus skrendant. Suteikite jam tikslą, išspręskite šią problemą ir jis užges ir išbandys visus turimus būdus.
Toks požiūris gali sukelti naujų problemų, kurioms specialistai ir vadovai nėra pasirengę. Agentas „kalba su įrankiais, kurie gali atlikti veiksmus jūsų vardu, todėl jūs nežinote, ar šie įrankiai išfiltruoja duomenis“, – sakė Agarwal. “Agentas gali skaityti iš įrankio ir naudoti kitą įrankį, kad įrašytų jį ten, kur jis neturėtų būti.”
Šešėlio AI šmėkla
Šis susirūpinimas kelia šešėlinio AI šmėklą, veikiančią už akių. „Turėjome klientą, kuris savo sistemoje turėjo 12 OpenClaw egzempliorių, turintį prieigą prie API sklaidos kanalų, šaltinio kodo ir rangovą, naudojantį „Telegram“ ryšiui palaikyti“, – sakė „Tenable“ produktų skyriaus vyresnysis viceprezidentas Jasonas Merrickas. – Kas gali nutikti, tiesa?
Taip pat: AI chaoso agentai? Nauji tyrimai rodo, kaip robotai, kalbantys su robotais, gali greitai nukrypti į šoną
Dėl šių problemų gali būti sunku suprasti, ką agentai veikia užkulisiuose. Iškils klausimai, pavyzdžiui, “Kas iš tikrųjų ėmėsi veiksmų prieš šią sistemą? Ar tai žmogus? Ar tai paslaugų sąskaita? Ar tai agentas?” Wang pasakė. “Jūsų komanda tikriausiai nežino, arba nėra 100% tikrumo dėl šio atsakymo. Kadangi šiandien agentai atrodo kaip žmonės, bet jie taip pat gali atrodyti kaip paslaugų paskyra, nes jie turi visus jūsų leidimus.”
Todėl reikia rasti pusiausvyrą tarp valdymo ir prieigos, nes dirbtinis intelektas yra galingas produktyvumo ir inovacijų įrankis, kuris turi veikti nepriklausomai. „Jūs nenorite tiesiog visko užblokuoti arba visko užkardinti“, – patarė Wang.
Tas pusiausvyros poreikis taip pat paaiškina, kodėl būtina gili žmogaus priežiūra. „Pažiūrėkite, kokias naudotojų dalis kuria darbuotojai – per Copilot, Claude Chat ar Gemini“, – patarė Merrickas. “Pažiūrėkite į jų konfigūracijas. Ar AI netinkamai sukonfigūruotas? Kokio tipo duomenis jis pasiekia? Ir sugebėkite dėl to imtis veiksmų. Taip pat pažiūrėkite į pačius raginimus. Su kokiais raginimais bendraujama?”
Apatinė eilutė: konkrečios instrukcijos
Šioje srityje apsauginiai turėklai ir tradicinė tapatybės geriausia praktika yra labai svarbūs, sakė Wang. Didžiausią riziką kelia „agentas, turintis per daug leidimų ir turintis ilgalaikius įgaliojimus“.
Taip pat: Ar naujokas tikrai gali užkoduoti programą? Išbandžiau žymeklį ir replitą, kad sužinočiau
Iššūkis yra sukurti saugumą ir valdymą, atsižvelgiant į „nedeterministines būtybes“, – tęsė Wang. „Reikia leisti jiems būti kūrybingiems, bet ir taikyti iš esmės tradicinius instrukcijų rinkinius SDK pavidalu. Norite nuspėjamų valdiklių, bet taip pat nenorite jų taip apriboti, kad tai nebepadidėtų jūsų produktyvumas.
Profesionalai turi atkreipti dėmesį į tai, kad agentams, kaip ir praktikantams, reikia „labai, labai konkrečių nurodymų“, sakė Wang. “Kartais jie vis tiek nukrypsta nuo norimo kelio. Nesvarbu, ar galvojate apie valdančius agentus, ar apie visus agento pėdsakus, vėl atsiranda visiškas matomumas, ištaisymas ir įsitikinimas, kad nuo pat pradžių nustatėte teisingą ketinimą – ir šis ketinimas turi išlikti kiekviename žingsnyje, kiekviename agento veiksme.
