Sekite ZDNET: Pridėkite mus kaip pageidaujamą šaltinį Google.
Pagrindiniai ZDNET pasiūlymai
- AI naršyklės yra galingos, bet nebūtinai saugios.
- Ekspertai perspėja apie didėjančią greito įpurškimo ir duomenų vagystės riziką.
- Atidžiai naudokite AI naršykles ir apsaugokite savo duomenis.
Šie metai tikrai buvo dirbtinio intelekto (AI) plėtros metai.
Staiga paleidus OpenAI ChatGPT, įmonės visame pasaulyje stengėsi įdiegti pokalbių robotą ir su juo susijusias programas į savo darbo eigą; akademikai staiga turėjo pradėti tikrinti studentų pateiktus darbus dėl AI plagiato; AI modeliai pasirodė viskam – nuo įvaizdžio ir muzikos generavimo iki erotikos.
Taip pat: ar „OpenAI Atlas“ naršyklė yra „Chrome“ žudikas, kurio mes laukėme? Išbandykite patys
Milijardai dolerių buvo išleisti ne tik dirbtinio intelekto valdomiems pokalbių robotams, bet ir dideliems kalbų modeliams (LLM) bei nišinėms programoms. AI agentai ir naršyklės dabar yra kita evoliucija.
„OpenAI“ atlasas debiutuoja
Antradienį paskelbta, „OpenAI*“ išleido „ChatGPT Atlas“, apibūdinamą kaip „naršyklė su integruotu ChatGPT“.
Tačiau po gaubtu tai kur kas daugiau. Prisijungdamas prie tokių, kaip Perplexity Comet, Dia ir Gemini įgalintas Google Chrome, Atlas iš pradžių pasiekiamas Mac sistemoje, o naujiniai jau pažadėti patobulinti naująją naršyklę.
OpenAI komanda apibūdino Atlas kaip AI naršyklę, sukurtą remiantis ChatGPT. Pokalbių robotas integruojamas su kiekviena jūsų pateikta paieškos užklausa ir bet kokiais atidarytais skirtukais ir gali naudoti jų turinį bei duomenis atsakydamas į užklausas arba atlikdamas užduotis.
Taip pat: „Perplexity“ duos 20 USD už kiekvieną draugą, kurį kreipsitės į „Comet“ – kaip gauti pinigų
Remiantis ankstyvais bandymais, pvz., kai ZDNET redaktorė Elyse Betters Picaro pavedė Atlas užsakyti bakalėjos prekes jos vardu iš „Walmart“, naršyklė pažadėjo. Naudojimas apima užsakymus internetu, el. pašto redagavimą, pokalbių apibendrinimą, bendrąsias užklausas ir net „GitHub“ repo analizę.
„Naudojant „Atlas“, „ChatGPT“ gali būti su jumis bet kurioje žiniatinklio vietoje, padėti jums ten, kur esate, lange, suprasti, ką bandote daryti, ir atlikti užduotis už jus – visa tai nekopijuojant ir neįklijuojant ar neišeinant iš puslapio“, – sako „OpenAI“. „Jūsų ChatGPT atmintis yra integruota, todėl pokalbiai gali remtis ankstesniais pokalbiais ir informacija, kad galėtumėte atlikti naujus darbus.
Tačiau „Atlas“, kartu su kitomis AI pagrindu veikiančiomis naršyklėmis, kelia saugumo ir privatumo klausimus, į kuriuos reikia atsakyti.
(Atskleidimas: Ziff Davis, pagrindinė ZDNET įmonė, 2025 m. balandžio mėn. pateikė ieškinį prieš OpenAI, teigdama, kad ji pažeidė Ziff Davis autorių teises mokydama ir valdydama dirbtinio intelekto sistemas.)
Greitos injekcijos
Greitos injekcijos tapo kibernetinio saugumo ekspertų susirūpinimą keliančia sritimi. Greitas injekcijos ataka įvyksta, kai grėsmės veikėjas manipuliuoja LLM, kad jis veiktų žalingai. Ataka, skirta pavogti vartotojo duomenis, gali būti užmaskuota kaip tikras raginimas, kuris nepaiso esamų saugos priemonių ir nepaiso kūrėjo nurodymų.
Yra du greito įterpimo tipai: tiesioginis įterpimas, pagrįstas vartotojo įvestimi, arba netiesioginis užgrobimas, atliktas naudojant naudingus krovinius, paslėptus LLM nuskaitomame turinyje, pavyzdžiui, tinklalapyje.
Drąsūs mokslininkai anksčiau atskleidė netiesioginio skubaus įpurškimo problemas Kometoje, o po šio tyrimo atrado ir atskleidė naujas greito įpurškimo atakas ne tik Kometoje, bet ir Fellou.
Taip pat: Nemokama AI varoma „Dia“ naršyklė dabar prieinama visiems „Mac“ vartotojams – „Windows“ vartotojai gali prisijungti prie laukiančiųjų sąrašo
„Agentinės naršyklės pagalbinės priemonės gali būti suaktyvintos dėl nepatikimo tinklalapio turinio, todėl tokios apsaugos priemonės, kaip tos pačios kilmės politika, yra nereikšmingos, nes asistentas vykdo naudodamas vartotojo patvirtintas teises“, – komentavo Brave. „Tai leidžia paprastoms instrukcijoms natūralia kalba svetainėse (ar net tik „Reddit“ komentare) suaktyvinti veiksmus tarp domenų, kurie pasiekia bankus, sveikatos priežiūros paslaugų teikėjų svetaines, įmonių sistemas, el. pašto prieglobas ir debesies saugyklą.
„Django Web Framework“ kūrėjas ir vienas iš kūrėjų Simonas Willisonas įdėmiai stebi judėjimą dirbtinio intelekto naršyklių pasaulyje ir tebėra „labai skeptiškas“ viso agentų ir AI agentų naršyklių sektoriaus atžvilgiu, pažymėdamas, kad leidus naršyklei imtis veiksmų jūsų vardu, netgi paprašius pagrindinės „Reddit“ duomenų įrašo santraukos gali būti išfiltruota.
ZDNET paklausė OpenAI apie įdiegtas saugumo priemones, kad būtų išvengta greito įpurškimo, ir ar ruošiamasi tolesniems patobulinimams. Komanda nukreipė mus į pagalbos centrą, kuriame aprašoma, kaip vartotojai gali nustatyti detalius valdiklius, ir į X įrašą, kurį parašė Dane'as Stuckey, OpenAI vyriausiasis informacijos saugos pareigūnas.
Stuckey teigia, kad „OpenAI“ „suteikė pirmenybę greitojo reagavimo sistemoms, kad padėtų mums greitai nustatyti (ir) blokuoti atakų kampanijas, kai apie jas sužinome“, o įmonė „daug investuoja“ į saugumo priemones, kad išvengtų greitų injekcijų atakų.
Jautrių duomenų tvarkymas
Kita svarbi saugumo problema yra pasitikėjimas ir tai, ar leidžiate naršyklei (ir LLM) pasiekti ir tvarkyti jūsų asmeninius duomenis, ar ne.
Kad AI naršyklė galėtų atlikti konkrečias užduotis už jus, gali reikėti leisti naršyklei pasiekti paskyros duomenis, raktų pakabukus ir kredencialus.
Pasak Stuckey, „Atlas“ turi pasirenkamą „atsijungimo režimą“, kuris nesuteikia „ChatGPT“ prieigos prie jūsų kredencialų, o jei agentas dirba jautrioje svetainėje, „Žiūrėjimo režimas“ reikalauja, kad vartotojai laikytų atidarytą skirtuką, kad galėtų stebėti agento darbą.
„(Agentas) pristabdys, jei pasitrauksite iš skirtuko su neskelbtina informacija“, – sako vadovas. „Tai užtikrina, kad žinosite ir kontroliuosite, kokius veiksmus atlieka agentas.
Taip pat: Šis naujas „Google Gemini“ modelis slenka internetu taip, kaip jūs – kaip tai veikia
Tai įdomi idėja ir galbūt atsijungimo režimas turėtų būti įjungtas pagal numatytuosius nustatymus. Vis dėlto dar nežiūrime, ar ši informacija ir prieiga gali būti saugiai tvarkoma bet kurioje AI naršyklėje ilgainiui.
Taip pat verta paminėti, kad naujoje „Aikido“ ataskaitoje, kurioje dalyvavo 450 CISO, saugumo inžinierių ir kūrėjų visoje Europoje ir JAV, keturios iš penkių respondentų teigė patyrusios su AI kodu susijusį kibernetinio saugumo incidentą. Galinga, nauja ir blizganti technologija ne visada reiškia saugią.
Alexas Lisle'as, „Reality Defender“ techninis vadovas, ZDNET sakė, kad patikėti visą naršymo istoriją ir viską, kas vėliau įvyko, naršyklei „yra kvailas reikalas“.
„Nepraeina nė savaitė, kai šiose naršyklėse masiškai neatsiranda naujų trūkumų ar išnaudojimų, ir nors pagrindinės / pagrindinės naršyklės yra nuolat įsilaužiamos, jos yra pataisytos ir geriau prižiūrimos nei dabartinė AI naršyklių ekosistema“, – pridūrė Lisle'as.
Priežiūra
Kita iškylanti problema – stebėjimas. Nors rekomenduojame paieškos užklausoms naudoti saugią naršyklę, kad jūsų veikla nebūtų registruojama ar sekama, AI naršyklės pagal dizainą prideda konteksto į paieškos užklausas per tolesnius klausimus, apsilankymų tinklalapyje žurnalus ir analizę, raginimus ir kt.
Eamonn Maguire, Proton inžinerijos, AI ir ML direktorius, pakomentavo:
„Paieška visada buvo stebėjimas. Dirbtinio intelekto naršyklės ją tiesiog pavertė asmenine. (…) Dabar vartotojai dalijasi tokia informacija, kurios niekada neįvesdavo į paieškos laukelį – nuo sveikatos rūpesčių ir finansų iki santykių ir verslo planų. Tai ne tik daugiau duomenų; tai nuoseklūs, naratyviniai duomenys, atskleidžiantys, kas jūs esate, kaip galvojate ir ką darysite toliau.
Taip pat: „Opera“ agentinė naršyklė „Neon“ pradedama teikti vartotojams – kaip prisijungti prie laukiančiųjų sąrašo
Vadindamas paieškos, naršymo ir automatizavimo konvergenciją „precedento neturinčiu“ vartotojų elgesio supratimo lygiu, Maguire'as pridūrė, kad „jeigu skaidrumas nepasivija galimybių, dirbtinio intelekto naršymas gali tapti kol kas intymiausia stebėjimo kapitalizmo forma“.
“Sprendimas yra ne atmesti naujoves, o jas permąstyti. AI pagalba neturi būti teikiama privatumo sąskaita. Mums reikia aiškių atsakymų į pagrindinius klausimus: kiek laiko saugomi duomenys, kas turi prieigą prie jų ir ar apibendrinta veikla vis dar gali treniruoti modelius? Kol nebus tikro skaidrumo ir kontrolės, naudotojai pirmiausia turėtų laikyti dirbtinio intelekto naršykles kaip potencialius stebėjimo įrankius, o produktyvumo priemones.
Ar turėčiau naudoti AI naršyklę?
Kaip pažymėjo Willisonas, programų saugumo srityje „99 % yra nesėkmingas įvertinimas“, nes „jei yra būdas apeiti apsauginius turėklus, kad ir koks neaiškus būtų, motyvuotas priešiškas užpuolikas tai išsiaiškins“.
Šiuo metu dirbtinio intelekto naršyklės naudojimas yra susijęs su daugybe „kas būtų, jei“, o kai kurie saugumo ir programavimo ekspertai, tokie kaip Willisonas, nepasitikės, kol „saugumo tyrinėtojų krūva juos labai kruopščiai nepatyrė“.
Kas žino – galbūt nulinės dienos skubios injekcijos pataisymai ateityje taps atskira kategorija mėnesinių pleistrų ciklų.
Kalbėdamas su ZDNET, Brianas Grinsteadas, vyresnysis „Mozilla“ inžinierius, sakė, kad „pagrindinė dabartinių agentinių naršyklių saugumo problema yra ta, kad net geriausi LLM šiandien negali atskirti patikimo turinio, gaunamo iš vartotojo, ir nepatikimo turinio, gaunamo iš tinklalapių“.
Taip pat: Naudoju „Edge“ kaip numatytąją naršyklę, tačiau jos naujasis AI režimas yra nepatikimas ir erzina
„Neseniai išleisti agentiniai naršymo produktai pranešė apie greitą injekcijos atakos sėkmės rodiklį mažu dviženkliu skaičiumi, o tai būtų laikoma katastrofiška bet kurioje tradicinėje naršyklės funkcijoje“, – komentavo vadovas. „Neišleisime naujos JavaScript API, leidžiančios tinklalapiui valdyti naršyklę 10 % laiko, net jei puslapis mandagiai paklaustų.
Grinstead rekomenduoja, kad jei norite patikrinti dirbtinio intelekto naršyklę, neturėtumėte suteikti jai prieigos prie savo privačių duomenų ir neįkelti bet kokio nepatikimo turinio – ir ne tik įtartinos ar nesaugios svetainės, bet ir turėdami omenyje, kad nepatikimi duomenys gali pasirodyti kitu atveju patikimose svetainėse, pvz., produktų apžvalgose ar Reddit įrašuose.
Be to, vadovas rekomenduoja peržiūrėti saugos nustatymus, įskaitant tai, kokius duomenis bet kuri naršyklė siunčia iš jūsų įrenginio, kam jie naudojami ir ar jie saugomi.
Ar pasirinksite naudoti dirbtinio intelekto naršyklę, nuspręsite jūs, nors statymas yra didelis, jei ketinate leisti naujoms, palyginti nepatikrintoms naršyklėms pasiekti jūsų neskelbtiną informaciją.
Norite daugiau istorijų apie AI? Patikrinkite AI lyderių lentelėmūsų savaitinis naujienlaiškis.
