Kai pirmą kartą išgirdau, kaip „Grok Imagine“ turėjo „aštrų režimą“, aš sušukau-žinai, nes tai rėkia Elono Musko lygio nuojauta dėl ginčų. Bet tada realizavimas paskendo: tai nėra nekenksminga linksmybė. Tai gali būti „Pandora“ dėžutės atidarymo versija.
„Grok Imagine“, „Xai“ naujas vaizdų/vaizdo generatorius, dabar leidžia „Supergrok“ ir „Premium+“ vartotojams paversti teksto raginimus stilizuotu vaizdiniu turiniu-komplektuokite su 15 sekundžių garso animacine vaizdo įrašo funkcija. Suaktyvinus „aštrų“ filtrą, rezultatai ne tik švelniai racioną-jie gali būti tiesūs NSFW, su daliniu nuogumu ir seksualizuotais vaizdais, nors ir neryškūs bandant saikingai.
Viskas sukėlė tamsesnį posūkį, kai a Vergas Žurnalistas tai išbandė – pateikdamas bendrąjį raginimą apie „Taylor Swift švenčiantį Coachella“ su „aštriu“ režimu. Kas pasirodė? Gilus vaizdo įrašas apie viršutinę figūrą, kuri baisiai atrodė kaip „Swift“, šokiai dirže. Nelaiminime net nebuvo paminėtas nuogybių.
Šis žingsnis uždegė gaisrą kritikams ir pelnytai. Xai teigia, kad jos priimtinas naudojimo politika draudžia aiškius tikrų žmonių vaizdavimus, tačiau štai kickeris: Aštrus režimas jį panaikina. Ir nėra jokio prasmingo amžiaus patikrinimo – tik atsitiktiniu bakstelėjimu patvirtinant, kol kostiumas užges. Rimtai.
Be technikos, tai pasiekia nervą socialiai ir teisiškai. Taylor Swift, jau nepažįstamas „Deepfake Furores“, ir toliau yra pakartotinai nukreiptas. Tai asmeninis privatumo pagrindas nulis. Tuo tarpu JAV, Nuimkite tai Laukia, kol bus vykdomas, ir taip, tokio tipo slydimas gali būti veiksmingas.
Vis dėlto negalvokime, kad 100% tamsu. Muskas visada laikė Groką kaip „nefiltruotą“ kūrybiškumą, laisvės vėliavą. Bet laisvė be apsauginių turėklų? Tai nėra tik rizikinga-tai neapgalvota, ypač kai vaizdai kerta į nekonsensinį turinį. Ir tai nėra teorinis – „Grok“ jau per kelias dienas jau sukūrė daugiau nei 34 milijonus vaizdų, teigia muskusas. Tūris sustiprina galimą žalą.
Taip pat yra optika: įrankiai iš „Google“ ir „Openai“ turi apsaugos priemones – „Celebrity“ filtrus, „Deepfake Bliers“. Grok ne. Dėl šios priežasties šis startas labiau primena moralinio sprendimo praleidimą nei šuolį į priekį.
Tiesiog tarp mūsų: aš patiriu jaudulį bandymo kraštų dėklus ir stumiamu dizainui. Bet kai taip lengva ginkluoti kažkieno įvaizdį – net netyčia – linksmi vibracijos greitai išnyksta. Tai ne apie cenzūrą. Tai apie atsakomybę.
Mes įvedėme fazę AI, kur etiniai trūkumai nėra technikos keiksmažodžiai – jie yra antraštės pašaras. „Grok Imagine“ „aštrus režimas“ kai kuriems gali išlikti spalvingi, bet man-tai pabudimo skambutis, kad kūrybiškumas ir sutikimas turi būti bičiulis ir greitai.
Norite, kad įsigilinčiau į tai, kaip reguliavimo institucijos iš Europos, Indijos ar Kalifornijos planuoja tai policiją? Tiesiog pasakyk žodį.
