Įmonės, teigiančios, kad jų dirbtinio intelekto aptikimo įrankiai gali beveik tobulu tikslumu atskirti žmogų nuo mašininio rašymo, dabar yra FTC taikiklyje.
Komisija neseniai priėmė įsakymą prieš Workado, LLC (kuri pardavinėjo savo detektorių per svetainę, anksčiau žinomą kaip Content at Scale, dabar pervadinta į Brandwell), remdamasi teiginiais, kad šios priemonės buvo plačiai apmokytos, nors iš tikrųjų jos dažniausiai buvo mokomos akademinio rašymo. Taip teigiama šiame pranešime išsamiai aprašyto tyrimo metu.
FTC pažymėjo drąsiai teigiamą „98 % tikslumo“ rodiklį kaip nepagrįstą. Pagal užsakymą Workado turi panaikinti tuos reikalavimus, išsiųsti pranešimus ankstesniems naudotojams, tvarkyti atitikties žurnalus ir saugoti įrodymus būsimiems reklaminiams pareiškimams.
Pranešimas: jei sakote, kad jūsų dirbtinis intelektas gali aptikti dirbtinį intelektą taip, lyg žmogaus akis pastebėtų padirbtą sąskaitą, geriau turėkite kvitus.
Laikas byloja. Dirbtinio intelekto sukurtas tekstas užplūsta klases, naujienų sales ir įmonių komunikacijas, todėl aptikimo įrankiams daromas didelis spaudimas, tačiau taip pat kyla pagunda perparduoti.
Atskira „Reddit“ vartotojų analizė parodė, kad „tikslumas“ yra slidi aptikimo įrankių metrika, ypač kai bazinė norma (kaip dažnai kažkas yra AI sukurtas) labai skiriasi.
Kitas aspektas: tai yra platesnės reguliavimo tendencijos dalis. Pavyzdžiui, ankstesnis FTC vykdymo užtikrinimas buvo nukreiptas į kitus „AI pažadus“, apimančius įrankius, kurie žadėjo automatizuotas teisines paslaugas arba „AI valdomas“ parduotuvių vitrinas, bet negalėjo pagrįsti teiginių. Kitaip tariant: AI etiketė nėra nemokamas leidimas.
Man asmeniškai šiek tiek nerimą kelia skleidžiamas poveikis institucijoms, kurios remiasi šiais detektoriais – mokykloms, leidėjams ir net vyriausybėms.
Jei detektoriai pervertina savo tikslumą arba yra naudojami be skaidrumo, klaidingi teigiami rezultatai tampa rimta problema.
Universiteto AI aptikimo sistemų tyrimas parodė, kad studentai buvo klaidingai pažymėti, kartais be žmogaus peržiūros. Taigi šis FTC veiksmas gali būti sveikintinas pažadinimo skambutis.
Štai keletas dalykų, į kuriuos reikia atkreipti dėmesį: 1) Ar kitos įmonės gaus panašių užsakymų? 2) Ar aptikimo įrankių pirkėjai pareikalaus daugiau skaidrumo, pvz., išsamių mokymo duomenų, klaidų rodiklių ir bandymų padalijimo? 3) Ar institucijos iš naujo įvertins, kaip jos naudoja šias priemones, galbūt paversdamos jas vienu proceso sluoksniu, o ne galutinį žodį?
Mano nuomone: AI turinio detektoriai turi tam tikrą vaidmenį – ypač kai dirbtinio intelekto sukurtas turinys tampa vis labiau paplitęs – tačiau jie toli gražu nėra sidabriniai. Gydymas jais yra bėdų receptas.
Jei pasikliaujate vienu, užduokite sunkių klausimų: kuo tai buvo mokoma? Koks jo klaidingai teigiamas rodiklis? Kas jį auditavo?
Nes jei FTC sako, kad negalite tiesiog užklijuoti „98 % tikslumo“ ant dėžutės be įrodymų, tikriausiai turėtumėte reikalauti ir to įrodymo.
