„ZDNET“ pagrindiniai pasirinkimai
- „Sumontity“ kometos naršyklė galėtų atskleisti jūsų asmeninius duomenis.
- Užpuolikas galėtų pridėti komandas prie raginimo per kenkėjišką svetainę.
- PG turėtų atskirai gydyti vartotojo duomenis ir svetainės duomenis.
Gaukite išsamesnį „ZDNET AI“ aprėptį: Pridėkite mus kaip pageidaujamą „Google“ šaltinį Chromo ir chromo naršyklėse.
Agentrinės AI naršyklės yra karšta nauja tendencija AI pasaulyje. Užuot turėję naršyti internete, kad atliktumėte konkrečias užduotis, nurodote naršyklei nusiųsti savo agentą atlikti jūsų misiją. Bet priklausomai nuo to, kurią naršyklę naudojate, galbūt atsidarysite saugumo rizikai.
A Trečiadienį paskelbtas tinklaraščio įrašas„Drąsaus naršyklės“ žmonės (siūlantys savo AI varomą padėjėją, pramintą Leo), nurodė savo kolektyvinius pirštus į naują pasipiktinimo kometos naršyklę. Šiuo metu Galima atsisiųsti viešai„Comet“ yra pastatyta remiantis agento AI prielaida, pažadėdama, kad jūsų noras yra jos komanda.
Taip pat: kodėl pasipiktinimas vyksta po „Google Chrome“ – ir taip, tai rimta
Ar jums reikia pasiimti naują mėgstamo baltymų gėrimo tiekimą „Amazon“? Užuot tai darę patys, tiesiog liepkite „Comet“ tai padaryti už jus.
Gerai, tai kokia jautiena? Pirma, tikrai yra galimybė padaryti klaidų. Kadangi AI yra tokia linkusi į klaidas, agentas galėjo neteisingai interpretuoti jūsų instrukcijas, žengti neteisingą žingsnį pakeliui ar atlikti veiksmus, kurių nenurodėte. Iššūkiai padaugėja, jei patikėsite AI tvarkyti asmeninę informaciją, pavyzdžiui, slaptažodį ar mokėjimo informaciją.
Tačiau didžiausia rizika slypi tuo, kaip naršyklė apdoroja raginimo turinį, ir būtent čia „Brave“ nustato kaltę dėl kometos. Savo demonstracijoje „Brave“ parodė, kaip užpuolikai galėjo įšvirkšti komandas į skubiai per kenksmingus savo kūrybos svetaines. Neatsižvelgiant į savo užklausą nuo užpuoliko, naršyklė galėtų atskleisti jūsų asmens duomenis kompromisą.
Taip pat: kaip atsikratyti AI apžvalgų „Google“ paieškoje: 4 paprasti būdai
„Pažeidžiamumas, kuriame diskutuojame Šis įrašas Sudaro tai, kaip „Comet“ apdoroja tinklalapio turinį, – sakė „Brave“. – Kai vartotojai paprašo, kad ji „apibendrintų šį tinklalapį“, „Comet“ pateikia tinklalapio dalį tiesiai į LLM, neišskyrus vartotojo instrukcijas ir nepasitikėdamas turiniu iš tinklalapio. Tai leidžia užpuolikams įterpti netiesioginį greitą injekcijos naudingą krovinį, kurį AI vykdys kaip komandas. Pavyzdžiui, užpuolikas galėtų gauti prieigą prie vartotojo el. Laiškų iš paruošto teksto, esančio kitame skirtuke, puslapyje “.
Iki šiol nėra žinomų tokių išpuolių gamtoje pavyzdžių.
„Brave“ teigė, kad „Comet“ parodytas ataka rodo, kad tradicinio interneto saugumo nepakanka, kad apsaugotų žmones, kai naudojama agentų AI. Vietoj to, tokiems agentams reikia naujų saugumo ir privatumo rūšių. Turėdamas omenyje šį tikslą, „BRAVE“ rekomendavo įgyvendinti keletą priemonių.
Naršyklė turėtų atskirti vartotojo instrukcijas ir svetainės turinį. Naršyklė turėtų atskirti vartotojo pateiktas užklausas nuo svetainės pateikto turinio. Kadangi kenkėjiška svetainė visada yra galimybė, šis turinys visada turėtų būti traktuojamas kaip nepatikimas.
AI modelis turėtų užtikrinti, kad užduotys atitiktų vartotojo užklausą. Bet kokie veiksmai, pateikiami raginimui, turėtų būti patikrinti atsižvelgiant į vartotojo pateiktus asmenis, kad būtų užtikrintas suderinimas.
Taip pat: sukčiai įsiskverbė į „Google“ AI atsakymus – kaip juos pastebėti
Dėl jautrių saugumo ir privatumo užduočių turėtų reikėti vartotojo leidimo. Prieš vykdant užduotis, turinčias įtakos saugumui ar privatumui, AI visada turėtų reikalauti vartotojo atsakymo. Pvz., Jei agentui liepta siųsti el. Laišką, užpildyti pirkinį ar prisijungti į svetainę, pirmiausia turėtų paprašyti vartotojo patvirtinimo.
Naršyklė turėtų atskirti agentų naršymą nuo įprasto naršymo. „Agentic“ naršymo režimas kelia tam tikrą riziką, nes naršyklė gali skaityti ir siųsti el. Laiškus arba peržiūrėti neskelbtinus ir konfidencialius duomenis svetainėje. Dėl šios priežasties agentinis naršymo režimas turėtų būti aiškus pasirinkimas, o ne tai, ką vartotojas gali pasiekti atsitiktinai arba be žinių.
Kaip „Drow Finds Flews“ dėl kometos, kaip reagavo pasipiktinimas? Čia aš tiesiog pasidalysiu įvykių tvarka, kaip aprašė „Brave“.
- 2025 m. Liepos 25 d .: Pažeidžiamumas aptiko ir pranešta apie pasipiktinimą.
- 2025 m. Liepos 27 d .: Pasiplendimas pripažino pažeidžiamumą ir įgyvendino pradinę taisymą.
- 2025 m. Liepos 28 d.: Pakartotinis pakartotinis nustatymas atskleidė, kad taisymas buvo neišsamus; Papildoma informacija ir komentarai buvo pateikti pasipiktinimui.
- 2025 m. Rugpjūčio 11 d.: Vienos savaitės viešas pranešimas apie viešą atskleidimą, išsiųstą pasipiktinimui.
- 2025 m. Rugpjūčio 13 d .: Galutinis bandymas patvirtino, kad pažeidžiamumas yra pataisytas.
- 2025 m. Rugpjūčio 20 d .: Viešas pažeidžiamumo detalių atskleidimas (atnaujinimas: Tolesni bandymai po šio tinklaraščio įrašo paskelbimo sužinojome, kad pasipiktinimas vis dar nevisiškai sumažino čia aprašytą ataką. Mes jiems tai pranešėme.)
Dabar kamuolys grįžta į pasipiktinimo teismą. Kreipiausi į bendrovę, kad pakomentuočiau, ir atnaujinsiu istoriją su bet kokiu atsakymu.
Taip pat: geriausios saugios privatumo naršyklės: Ekspertas išbandytas
„Šis„ Kometos pasipiktinimo “pažeidžiamumas išryškina esminį agentų AI naršyklių iššūkį: užtikrinant, kad agentas imtųsi tik veiksmų, suderintų su tuo, ko nori vartotojas“, – teigė „Brave“. “Kadangi AI padėjėjai įgyja galingesnių galimybių, netiesioginiai greitų injekcijų atakos kelia rimtą riziką interneto saugumui.”
