Dok je Tramp hapsio Madura u Venecueli, deo planete se oporavljao od proslave Nove godine, a mi se navikavali na sneg tokom zime, Grok je na mreži X skidao žene, pravio seksualne aluzije sa fotografijama dece, ali i muškaraca. Nije ovo prva kontroverza na nekadašnjem Tviteru od kada ga je preuzeo Ilon Mask, ali je ova ipak najotrovnija, najopasnija i najviše degradirajuća jer korisnicima dozvoljeno da seksualizuju tuđe, privatne slike uz pomoć AI asistenta.
Hej Grok, a da se malo sabereš
Uz jednostavno „hej Grok“, ljudi su masovno počeli da traže da AI asistent generiše i obradu fotografije što je rezultiralo eksplicitnim ili sugestivnim sadržajem koji je nastao od najobičnijih fotografija koje su ljudi privatno postavljali. Sve to bez pristanka pa su mrežu preplavile fotografije devojaka koje su originalno nosile hidžab a onda bile „presvučene“ u kupaće kostime, ili su se fotografije iz izlaska pretvarale u provokativne poze koje pre pristaju OnlyFans strani nego mreži X.
Posebno su problematični slučajevi u kojima se bez pristanka obrađuju fotografije privatnih osoba, pa su mnogi odmah reagovali izričito tražeći da Grok nikada ne koristi njihove fotografije ni u kakve svrhe. Oni koji su odmah oštro kritikovali sve što se dešava tvrde da AI alat olakšava zloupotrebu i normalizuje digitalno seksualno uznemiravanje, pri čemu sam Grok daje vrlo neubedljiv odgovor zašto koristi tuđe fotografije bez pristanka, pa je u nekoliko navrata bio čak i uvredljiv za bilo kakvu inteligenciju, bila ona i veštačka.
Mnogi su upozorili da se briše granica između umetničke transformacije i eksploatacije. Pojavile su se bojazni da ovakvi alati mogu podstaći osvetničku pornografiju i ucene. To se vidi i i u načinu na koji Grok filtrira zabranjeni sadržaj u okviru sistema koje razvija xAI. Korisnici su delili primere nedosledne moderacije i zaobilaženja pravila što je samo još jedan dokaz da je neophodno pažljivije se pozabaviti etičkim okvirima u kojima AI funkcioniše.
Sigurno svemu nije pomogao ni sam Ilon Mask i način na koji je reagovao na kontroverzu oko Groka. Najpre se šalio sa nekim od generisanih slika, a onda odgovarao u uglavnom defanzivno i kritikujući druge, pri čemu ni jednom nije priznao da očigledan problem postoji. Mask je na platformi X više puta naglasio da odgovornost za nezakonit sadržaj snose korisnici, poručujući da će „svako ko koristi Grok za pravljenje ilegalnog materijala snositi iste posledice kao da je taj sadržaj sam objavio“. Umesto direktnog obraćanja žrtvama, on je fokus prebacio na zloupotrebe alata, implicitno sugerišući da sam sistem nije suštinski problematičan.
Zašto ne čudi reakcija Ilona Maska
Kako su kritike i regulatorni pritisci rasli, naročito iz Evrope, Mask je reagovao oštro, nazivajući poteze pojedinih vlada „fašističkim“ i predstavljajući ih kao pokušaje cenzure i gušenja slobode govora. On je, što je malo koga iznenadilo, izbegavao da komentariše konkretne slučajeve spornih ili štetnih slika, a umesto toga isticao je rast popularnosti Groka i njegov uspeh na tržištu aplikacija. Sa njim je „uvek je kriv neko drugi“.
Tek posle skoro dve nedelje, pod neverovatnim pritiskom uz obećanje da će se stvari promeniti. Najavio je da Grok više neće moći da uređuje fotografije stvarnih ljudi tako da ih prikazuje u izazovnoj odeći u jurisdikcijama gde je to nezakonito. Za sada, to tek polovično radi…
Šta kaže zakon
Na zakonskom planu, više država primenjuje ili proširuje propise koji kriminalizuju neovlašćenu seksualizaciju i deepfake sadržaje.
Postojeći zakoni o zaštiti privatnosti, autorskim pravima i kleveti koriste se kao osnov za tužbe.
Regulatori zahtevaju od platformi da uvedu strože filtre i efikasne mehanizme prijave, ali je za sada to samo mrtvo slovo na papiru. U Evropskoj uniji, AI Act predviđa obaveze procene rizika i značajne sankcije za nepoštovanje a paralelno se razmatra uvođenje posebnih krivičnih dela za AI-generisanu seksualnu zloupotrebu. Do tada, niko ne može ništa protiv ovoga.
Zemlje poput Rusije, Kine, Malezije, Brazila, Pakistana, već odavno su zabranile X, a sada EU, Velika Britanija, Indija i još nekoliko zemalja sprema zakone kojima će se kažnjavati zloupotreba AI na Maskovoj platformi.
Vlada Ujedinjenog Kraljevstva saopštila je da je najava Maska da će stati na put ovakvom korišćenju Groka „potvrda“ njenog poziva da X kontroliše svog AI asistenta, dok je iz njihovog regulatornog tela Ofcom rečeno da je to „dobrodošao razvoj događaja“ – ali su dodali da njihova istraga o tome da li je platforma prekršila britanske zakone „i dalje traje“.
Aktivisti i žrtve kažu da je promena došla prekasno da bi se poništila šteta koja je već naneta.
digitala.rs 
Postavi komentar