Sekite ZDNET: Pridėkite mus kaip pageidaujamą šaltinį „Google“.
Pagrindiniai ZDNET pasiūlymai
- Moltbot, anksčiau žinomas kaip Clawdbot, išplito kaip „AI, kuris iš tikrųjų daro dalykus“.
- Saugumo ekspertai perspėjo neprisijungti prie šios tendencijos ir be atsargumo naudoti AI asistentą.
- Jei planuojate patys išbandyti „Moltbot“, atkreipkite dėmesį į šias saugumo problemas.
„Clawdbot“, dabar pervadintas į „Moltbot“ po „Anthropic“ IP nukreipimo, šią savaitę atsidūrė virusinio sūkurio centre, tačiau naudojant dirbtinio intelekto asistentą yra saugumo pasekmių, apie kurias turite žinoti.
Kas yra Moltbot?
Moltbotas, rodomas kaip mielas vėžiagyvis, reklamuojasi kaip „DI, kuris iš tikrųjų daro dalykus“. Atvirojo kodo AI asistentas, sukurtas austrų kūrėjo Peterio Steinbergerio mintyse, buvo sukurtas valdyti jūsų skaitmeninio gyvenimo aspektus, įskaitant el. pašto tvarkymą, pranešimų siuntimą ir netgi veiksmų atlikimą jūsų vardu, pavyzdžiui, jūsų registraciją skrydžiams ir kitoms paslaugoms.
Taip pat: 10 būdų, kaip dirbtinis intelektas gali padaryti precedento neturinčią žalą 2026 m
Kaip anksčiau pranešė ZDNET, šis agentas, saugomas atskiruose kompiuteriuose, bendrauja su savo vartotojais per pokalbių pranešimų programas, įskaitant „iMessage“, „WhatsApp“ ir „Telegram“. Yra daugiau nei 50 integracijų, įgūdžių ir papildinių, nuolatinė atmintis ir tiek naršyklės, tiek visos sistemos valdymo funkcijos.
Užuot naudojęs atskirą AI modelį, Moltbot naudoja Anthropic's Claude (atspėkite, kodėl buvo paprašyta pakeisti pavadinimą iš Clawdbot, arba peržiūrėkite omarų istorijos puslapį) ir OpenAI ChatGPT.
Vos per kelias dienas „Moltbot“ išplito. „GitHub“ platformoje dabar yra šimtai bendradarbių ir apie 100 000 žvaigždžių, todėl „Moltbot“ yra vienas sparčiausiai augančių AI atvirojo kodo projektų platformoje iki šiol.
Taigi, kokia problema?
1. Virusinis susidomėjimas sukuria galimybes sukčiams
Daugelis iš mūsų mėgsta atvirojo kodo programinę įrangą dėl kodo skaidrumo, galimybės bet kam patikrinti programinės įrangos pažeidžiamumą ir saugumo problemas ir apskritai bendruomenę, kurią sukuria populiarūs projektai.
Tačiau didžiulis populiarumas ir pokyčiai taip pat gali leisti prasiskverbti pro plyšius, nes pranešama apie netikrus atpirkimo sandorius ir kriptovaliutų sukčiavimus. Pasinaudoję staigiu pavadinimo pakeitimu, sukčiai paleido netikrą Clawdbot AI žetoną, kuris sugebėjo surinkti 16 mln.
Taigi, jei planuojate tai išbandyti, įsitikinkite, kad naudojate tik patikimas saugyklas.
2. Jūsų skaitmeninės karalystės raktų perdavimas
Jei pasirenkate įdiegti „Moltbot“ ir norite naudoti AI kaip asmeninį, savarankišką asistentą, turėsite suteikti jam prieigą prie savo paskyrų ir įgalinti sistemos lygio valdiklius.
Nėra visiškai saugios sąrankos, kaip pripažįstama Moltbot dokumentacijoje, o „Cisco“ saugumo požiūriu Moltbot vadina „absoliučiu košmaru“. Kadangi roboto autonomija priklauso nuo leidimų paleisti apvalkalo komandas, skaityti ar rašyti failus, vykdyti scenarijus ir atlikti skaičiavimo užduotis jūsų vardu, šios privilegijos gali kelti pavojų jums ir jūsų duomenims, jei jie netinkamai sukonfigūruoti arba jei jūsų kompiuterį užkrės kenkėjiška programa.
Taip pat: Linux po Linuso? Branduolio bendruomenė pagaliau parengia Torvaldso pakeitimo planą
„Jau buvo pranešta, kad „Moltbot“ nutekino paprasto teksto API raktus ir kredencialus, kuriuos gali pavogti grėsmės veikėjai, greitai įduodami arba nesaugūs galiniai taškai“, – teigė „Cisco“ saugumo tyrinėtojai. „Moltboto integracija su pranešimų siuntimo programomis išplečia atakos paviršių iki tų programų, kuriose grėsmės veikėjai gali pateikti kenkėjiškų raginimų, sukeliančių nenumatytą elgesį.
3. Atskleidžiami kredencialai
Įžeidžiantis saugumo tyrinėtojas ir Dvuln įkūrėjas Jamiesonas O'Reilly stebėjo Moltbot ir rado atvirų, netinkamai sukonfigūruotų atvejų, prijungtų prie interneto be jokios autentifikavimo apsaugos, prisijungdamas prie kitų tyrinėtojų, taip pat tyrinėjančių šią sritį. Iš šimtų atvejų kai kurie neturėjo jokios apsaugos, dėl kurių nutekėjo antropiniai API raktai, „Telegram“ robotų prieigos raktai, „Slack OAuth“ kredencialai ir pasirašymo paslaptys, taip pat pokalbių istorijos.
Nors kūrėjai nedelsdami ėmėsi veiksmų ir pristatė naujas saugos priemones, kurios gali sumažinti šią problemą, jei norite naudoti Moltbot, turite būti tikri, kaip jį sukonfigūruoti.
4. Greiti injekcijos priepuoliai
Greitos įpurškimo atakos yra košmaras kibernetinio saugumo ekspertams, dabar dalyvaujantiems dirbtinio intelekto srityje. Rahul Sood, „Irreverent Labs“ generalinis direktorius ir vienas iš įkūrėjų, išvardijo daugybę galimų saugumo problemų, susijusių su iniciatyviais AI agentais, sakydamas, kad Moltbot / Clawdbot saugumo modelis „išgąsdina mane“.
Taip pat: geriausi nemokami AI kursai ir kvalifikacijos tobulinimo sertifikatai 2026 m. – aš juos visus išbandžiau
Šiam atakos vektoriui reikalingas AI asistentas, kad galėtų skaityti ir vykdyti kenkėjiškas instrukcijas, kurios, pavyzdžiui, gali būti paslėptos šaltinio žiniatinklio medžiagoje arba URL. Tada dirbtinio intelekto agentas gali nutekėti neskelbtinus duomenis, siųsti informaciją į užpuolikų valdomus serverius arba atlikti užduotis jūsų kompiuteryje – jei turi tam suteiktas teises.
Soodas išplėtė temą X, komentuodamas:
“Ir kad ir kur jį paleistumėte… Debesis, namų serveris, “Mac Mini” spintoje… atminkite, kad jūs ne tik suteikiate prieigą prie roboto. Suteikiate prieigą prie sistemos, kuri skaitys turinį iš šaltinių, kurių jūs nekontroliuojate. Pagalvokite apie tai taip, sukčiai visame pasaulyje džiaugiasi, kai ruošiasi sunaikinti jūsų gyvenimą. Taigi, prašau, atitinkamai apimkite.”
Kaip pažymima Moltboto dokumentuose, su visais AI padėjėjais ir agentais greito įpurškimo atakos problema nebuvo išspręsta. Yra priemonių, kurių galite imtis, kad sumažintumėte grėsmę tapti auka, tačiau plačiai paplitusios prieigos prie sistemos ir paskyros derinimas su kenkėjiškais raginimais skamba kaip nelaimės receptas.
„Net jei tik jūs galite išsiųsti pranešimą robotui, bet koks nepatikimas turinys, kurį robotas skaito (žiniatinklio paieška / gavimo rezultatai, naršyklės puslapiai, el. laiškai, dokumentai, priedai, įklijuoti žurnalai / kodas), vis tiek gali būti greita injekcija“, – rašoma dokumentacijoje. “Kitaip tariant: siuntėjas nėra vienintelis grėsmės paviršius; pats turinys gali turėti priešingų nurodymų.”
5. Kenkėjiški įgūdžiai ir turinys
Kibernetinio saugumo tyrinėtojai jau atskleidė piktybinių įgūdžių, tinkamų naudoti su Moltbot internete, atvejus. Viename iš tokių pavyzdžių sausio 27 d. naujas VS kodo plėtinys „ClawdBot Agent“ buvo pažymėtas kaip kenkėjiškas. Šis plėtinys iš tikrųjų buvo visavertis Trojos arklys, kuris naudoja nuotolinės prieigos programinę įrangą, kuri gali būti skirta stebėjimui ir duomenų vagystei.
„Moltbot“ neturi VS kodo plėtinio, tačiau šis atvejis išryškina, kaip didėjantis agento populiarumas greičiausiai sukels daugybę kenkėjiškų plėtinių ir įgūdžių, kuriuos saugyklos turės aptikti ir valdyti. Jei naudotojai netyčia įdiegia, jie gali netyčia atverti duris, kad jų sąrankos ir paskyros būtų pažeistos.
Taip pat: Claude Cowork automatizuoja sudėtingas užduotis už jus dabar – jūsų pačių rizika
Norėdamas pabrėžti šią problemą, O'Reilly sukūrė saugų, bet užpakalinių durų įgūdį ir jį išleido. Neilgai trukus įgūdis buvo atsisiųstas tūkstančius kartų.
Nors raginu būti atsargiems priimant dirbtinio intelekto padėjėjus ir agentus, turinčius aukštą autonomijos lygį ir prieigą prie jūsų paskyrų, tai nereiškia, kad šie novatoriški modeliai ir įrankiai neturi vertės. „Moltbot“ gali būti pirmasis pakartojimas, kaip dirbtinio intelekto agentai įsitrauks į mūsų būsimą gyvenimą, tačiau vis tiek turėtume elgtis labai atsargiai ir vengti rinktis patogumą, o ne asmeninį saugumą.
