Keista, kaip tobula diena gali pavirsti iš vidaus. Dabar įsivaizduokite štai ką: jūsų telefonas suskamba, jūsų sesers drebantis balsas pasigirsta per liniją ir tam tikru momentu, kol jūs neturite laiko tai pasakyti, jūsų skrandyje susidaro mazgas.
Būtent todėl šios naujos dirbtinio intelekto sukurtos „šeimos balso“ aferos taip greitai pasiseka – jos klesti iš baimės dar gerokai anksčiau, nei pradeda veikti protas.
Vienoje neseniai pateiktoje istorijoje buvo išsamiai aprašyta, kaip blogiukai dabar taiko sudėtingus balso klonavimo būdus, kad atkartotų artimuosius taip neįtikėtinai, kad žmonės nusileido ir bejėgiškai stebėjo, kaip per kelias minutes dingsta jų santaupos.
Štai kokia reali gali būti rizika ir kaip greitai atsiskleidžia daugelis šių neseniai įvykusių atvejų: Štai keletas pavyzdžių iš kelių neseniai įvykusių incidentų, apie kuriuos pranešta „SavingAdvice“ paskelbtame straipsnyje, kai sukčiai naudojo klonuotus balsus, kurie buvo pakankamai patikimi, kad priverstų tėvus ir net senelius nedelsiant imtis veiksmų (nurodytas didesnės problemos pavyzdys).
Daugelį kibernetinio saugumo analitikų stebina tai, kiek mažai įrašyto garso sukčiams reikia, kad tai įvyktų.
Pakanka kelių sekundžių, kurių gali prireikti iš socialinės žiniasklaidos klipo (kartais net vieno ištarto žodžio), kad klonavimo programinė įranga neįtikėtinai tiksliai išanalizuoti, atvaizduoti ir atkurti asmens balsą.
Lygiagrečiai buvo imtasi atsargumo po to, kai mokslininkai išsiaiškino, kaip mokomi šiuolaikiniai balso modeliai ir kodėl jų beveik neįmanoma atskirti nuo tikro esant įtemptoms sąlygoms, pvz., užfiksuotoms tiriant dirbtinio intelekto sukurtus avarinius apsimetinėjimus (paskaitykite patys apie šiuos netikrus darbus).
Ir tikrai, kas nustoja galvoti apie garso kokybę, kai negyvas šeimos skambutis prašo pagalbos?
Kai kurie bankai ir skambučių centrai jau pripažino, kad šie AI balsai prasilaužia per senosios mokyklos autentifikavimo sistemas.
Ataskaitose apie naujas sukčiavimo technologijų tendencijas jūs ir jūsų skaitytojai čia galite rasti diagramą, kaip, kai netikri balsai tampa tik dar vienu įrankiu, pavyzdžiui, pavogtu telefonu, banko slaptažodžiu ar suklastotu numeriu, padedančiu greičiau ir grėsmingesniais būdais įvykdyti trūkumus, atsižvelgiant į pagrindinę žmogaus motyvaciją: godumą.
Neseniai atliktas techninis patikrinimas išsamiai išaiškino, kaip kontaktų centro saugumui sunkiai sekasi susidoroti su AI kilusiais skambintojais (apimtas skambučių centro apsaugos priemonių, kurios yra geriausios).
Ir dar – anksčiau mums rūpėjo el. pašto šiukšlės ir netikri tekstai. Dabar durnas tiesiogine to žodžio prasme kalba kaip vienas iš tų žmonių, kuriuos mylime.
Tarp sukčiavimo analitikų taip pat stebina pokalbiai apie tai, kaip organizuotos kai kurios iš šių operacijų.
Tiesą sakant, išsamioje grėsmių ataskaitoje kažkada buvo kalbama apie „AI sukčių surinkimo linijas“, iš kurių balso klonavimas buvo tik vienas veiksmingo proceso žingsnis, kurio tikslas – sukurti patikimus, skirtingoms geografinėms ar demografinėms sritims pritaikytus ritinius.
Tai mažiau primena laisvųjų radikalų gaujas, o ne pramonines manipuliacijas.
Iš tikrųjų beprotiška yra tai, kad kelis būdus, kaip tai sušvelninti, dabar gali būti lengva padaryti, tačiau kai kurie iš jų atrodo patikimi.
Kai kurios šeimos pradėjo vartoti „saugius žodžius“, iš esmės privačią frazę, kurią žino tik artimi šeimos nariai ir kuri kai kuriais atvejais pasirodė naudinga.
Tačiau kibernetinio saugumo tyrinėtojai tikina, kad tai gali padėti patvirtinti bet kokį baisiai skambantį skambutį antruoju numeriu, net jei balsas skamba taip pat kaip ir jūsų.
Kai kurios teisėsaugos agentūros netgi stengiasi sukurti skaitmeninės kriminalistikos padalinius, siekdamos kovoti su šia nauja balsu pagrįsto nusikalstamumo banga, atvirai pripažindamos, kad jos vejasi greitai besivystančias technologijas (teisėsaugos institucijos, dirbančios su AI sukčiavimu).
Keista – ir šiek tiek liūdna, jei pagalvoji – žinoti, kad, atrodo, įžengiame į epochą, kai vien išgirsti mylimą žmogų neužtenka, kad galėtum tiksliai žinoti, kas vyksta kitame laido gale.
Kalbėjausi su draugais, kurie tvirtino, kad niekada nepasikliaus tokiais dalykais, bet pats klausęs kelių dirbtinio intelekto sukurtų balsų nesu toks tikras.
Yra tam tikras žmogaus instinktas reaguoti, kai kažkas, kurį pažįstate, bijo. Sukčiai tai žino.
Ir kuo geresnis dirbtinis intelektas, tuo sunkiau apsaugoti emocinį pažeidžiamumą, esantį viso to esme.
Galbūt tikrasis išbandymas yra ne tik sukčių sustabdymas – jis tampa pajėgus pristabdyti, net kai atrodo, kad reikia skubiai.
Ir tai yra sudėtingas modelis, kai baimė rėkia garsiau nei logika.
