Dirbtinio intelekto detektoriai dabar yra visur – mokyklose, redakcijose ir net personalo skyriuose – tačiau niekas neatrodo visiškai tikras, ar jie veikia.
„CG Magazine Online“ istorijoje nagrinėjama, kaip mokiniai ir mokytojai stengiasi neatsilikti nuo spartaus AI turinio detektorių skaičiaus augimo, ir, tiesą sakant, kuo daugiau skaitau, tuo labiau atrodė, kad vejamės šešėlius.
Šios priemonės žada pastebėti dirbtinio intelekto parašytą tekstą, tačiau iš tikrųjų jie dažnai kelia daugiau klausimų nei atsakymų.
Klasėse jaučiamas spaudimas. Kai kurie mokytojai pasikliauja dirbtinio intelekto detektoriais, norėdami pažymėti rašinius, kurie „jaučiasi pernelyg tobuli“, tačiau, kaip pažymi Inside Higher Ed, daugelis pedagogų supranta, kad šios sistemos nėra visiškai patikimos.
Puikiai kruopštaus mokinio parašytas darbas vis tiek gali būti pažymėtas kaip sukurtas dirbtinio intelekto vien dėl to, kad jis yra nuoseklus arba gramatiškai nuoseklus. Tai nėra sukčiavimas – tai tiesiog geras rašymas.
Tačiau problema yra gilesnė nei mokyklos. Net profesionalūs rašytojai ir redaktoriai yra pažymėti sistemų, kurios teigia, kad „matuoja trūkumą ir sumišimą“, kad ir ką tai reikštų paprasta anglų kalba.
Tai puikus būdas pasakyti, kad dirbtinio intelekto detektorius mato, kaip nuspėjami jūsų sakiniai.
Logika turi prasmę – dirbtinis intelektas paprastai būna pernelyg sklandus ir struktūrizuotas, tačiau žmonės taip pat rašo, ypač jei naudojo redagavimo įrankius, tokius kaip „Grammarly“.
„Compilatio“ tinklaraštyje radau puikų paaiškinimą apie tai, kaip šie detektoriai analizuoja tekstą, ir tai tikrai parodo, koks mechaninis yra procesas.
Skaičiai taip pat neatrodo puikūs. „The Guardian“ ataskaita atskleidė, kad daugelis aptikimo įrankių nepatenka į ženklą daugiau nei pusę karto, kai susiduria su perfrazuotu ar „humanizuotu“ AI tekstu.
Trumpam pagalvokite apie tai: įrankis, kuris net negali garantuoti monetos vartymo tikslumo nustatant, ar jūsų darbas yra autentiškas. Tai ne tik nepatikima – tai rizikinga.
Ir tada yra pasitikėjimo problema. Kai mokyklos, įmonės ar leidėjai pradeda per daug pasikliauti automatizuotu aptikimu, jie rizikuoja paversti sprendimo skambučius algoritminiais spėjimais.
Tai man primena, kaip „AP News“ neseniai pranešė apie Danijoje rengiamus įstatymus prieš piktnaudžiavimą klastojimu – tai ženklas, kad dirbtinio intelekto reguliavimas vejasi greičiau, nei dauguma sistemų gali prisitaikyti.
Galbūt čia ir judame: mažiau apie AI aptikimą ir daugiau apie skaidrų jo naudojimo valdymą.
Asmeniškai manau, kad dirbtinio intelekto detektoriai yra naudingi, bet tik kaip padėjėjai, o ne teisėjai. Tai skaitmeninio rašymo dūmų signalizatoriai: jie gali įspėti, kad kažkas neveikia, bet vis tiek reikia žmogaus, kuris patikrintų, ar tikrai kilo gaisras.
Jei mokyklos ir organizacijos traktuotų juos kaip įrankius, o ne tiesos mašinas, tikriausiai matytume mažiau nesąžiningai apkaltintų mokinių ir daugiau apgalvotų diskusijų apie tai, ką iš tikrųjų reiškia atsakingas AI rašymas.
