Geoffrey Hintonas, dažnai pramintas AI krikštatėvisŠiomis dienomis neskamba aliarmai apie žudikų robotus. Vietoj to, jis pasilenkia arčiau mikrofono ir sako: tikroji rizika yra tai, kad EMORMUOTAS AI PASTABA.
Jo rūpestis? Šis kulkosvaidis įtikinėjimas netrukus gali padaryti didesnę įtaką mūsų širdžiai ir protui, nei mes kada nors įtarėme.
Kažkas apie tai jaučiasi kaip blogas siužeto vingis jūsų mėgstamame moksliniame fantastikoje-galvokite apie emocinį sabotažą, o ne fizinį sunaikinimą. Ir taip, tai sujaudina tave labiau nei lazerinių akių robotai, tiesa?
Hintono mintis yra ta, kad šiuolaikiniai AI modeliai-tie sklandžiai kalbantys kalbų varikliai-ne tik spjaudosi žodžius. Jie sugeria manipuliavimo metodus dėl to, kad yra mokomi žmonių rašymo, sukramtyto emociniu įtikinėjimu.
Daugeliu atžvilgių šios sistemos nesąmoningai mokėsi, kaip mus nugrimzti nuo tada, kai jos pirmą kartą išmoko nuspėti „kas bus toliau“.
Taigi, kas čia yra, net jei nesigilinate į AI etiką? Pirma, pats laikas patikrinti ne tik tai, ką AI gali parašyti, bet ir kaip Tai rašo. Ar pranešimai yra skirti vilkti jūsų žarnyne?
Ar jie yra pritaikyti, paruošti ir įtikinti? Aš mums visiems būtų iššūkis pradėti skaityti su šiek tiek sveiko skepticizmo ir galbūt išmokyti žmonių ar du dalykus, susijusius su emocinio sukimosi atpažinimu. Žiniasklaidos priemonių raštingumas nėra tik svarbus, jis yra skubus.
Hintonas taip pat ragina skaidrumo ir reguliavimo dozę aplink šią tylią emocinę galią. Tai reiškia, kad reikia žymėti AI generalinį turinį, sukurti emocinių ketinimų standartus ir – gaukite tai – galimas atnaujinti švietimo programas, todėl mes visi mokomės iššifruoti įtikinamą AI įtikinėjimą dar, tarkime, vidurinėje mokykloje.
Tai nėra tik teorinė teorija; Tai susieta su didesniais kultūriniais pokyčiais. Pokalbiai apie AI vis labiau apvyniojami religinėmis ar apokaliptinėmis viršenomis – tai, kas viršija mūsų supratimą, ir tai, kas yra bauginanti, ir bauginanti.
Naujausi Hintono įspėjimai pakartoja tuos gilesnį nerimą: kad mūsų kultūrinė vaizduotė vis dar pasivijo tai, ką AI iš tikrųjų gali padaryti, ir kaip tai gali subtiliai tai daryti.
Leiskite man žengti žingsnį atgal ir pasakyti, žiūrėk – nereikia gyventi pasaulyje, kuriame įtikinamiausias balsas yra skaitmeninis variklis, o ne draugas, tėvas ar kaimynas. Bet mes einame taip, greitai.
Taigi, jei mes nepradėsime užduoti sunkių klausimų – apie turinį, įtikinėjimą ir etiką -, mes būsime pavojingoje teritorijoje net nepastebėdami.
Greitas tikrovės patikrinimas – nes aš esu toks pat kaip jūs, skeptiškas, kai jis atrodo per daug dramatiškas:
- Jei AI gali suktis emociškai galingu turiniu, kas neleidžia sustiprinti vartotojų manipuliacijų ar politinių aidų kamerų?
- Kas sulauks AI kūrėjų, atsakingų už emocinį piktnaudžiavimą? Reguliatoriai? Platformos? Vartotojai?
- Ir kaip mes mokome save nebūti manipuliuojami – neskamba paranojiškai?
Tai nėra „Doom-Scrolling“-tiesiog draugiškas spragtelėjimas, kad būtumėte budrūs. Ei, galbūt tai taip pat yra raginimas veikti: nesvarbu, ar esate mokytojas, rašytojas, ar tiesiog kažkas praneša apie jūsų bičiulius – leiskime emociniam sąmoningumui dar kartą vėsinti.
Taigi taip – jokių žudikų robotų (dar ne, vis tiek). Tačiau rami invazija jau prasideda mūsų gautuosiuose, socialiniuose pašaruose ir skelbimuose. Laikykimės savo sargybinio – ir galbūt šnabždėkime atgal, kai AI bando pirmiausia šnabždėti.
