Grok Imagine, koji je nedavno lansiran, ima kontroverznu funkciju koja omogućava generisanje eksplicitnih video sadržaja čak i bez zahteva u upitu.
Najnoviji AI alat kompanije xAI, koji stoji iza popularnog četbota Grok, izazvao je buru na internetu zbog šokantne mogućnosti generisanja lažnih golih prikaza poznatih ličnosti, među kojima se našla i Tejlor Svift.
Prema pisanju sajta Ars Technica, nova funkcija unutar alata Grok Imagine, poznata kao “Spicy mode”, omogućava korisnicima da generišu eksplicitne sadržaje – čak i kada u upitu nije eksplicitno pomenut takav sadržaj.
Novinarka koja je testirala ovaj alat unela je nevin zahtev – “Tejlor Svift proslavlja Koačela festival” – a rezultat je bio video u kojem je AI prikazao pevačicu u oskudnoj odeći u sugestivnom ponašanju. Šokantan je podatak da je sve to generisano bez izričitog zahteva za golotinjom.
Kršenje pravila i potencijalno zakona
Iako kompanija xAI formalno zabranjuje generisanje pornografskih prikaza stvarnih osoba, praksa pokazuje drugačije. Korisnici alata lako mogu da zaobiđu ograničenja jednostavnom potvrdom da imaju više od 18 godina – bez dodatne verifikacije.
Ovo pitanje dolazi u trenutku kada se širom sveta pojačava pritisak na regulaciju deepfake pornografije, a SAD i EU već razmatraju zakone koji bi strogo sankcionisali ovakve AI alate.
Stručnjaci upozoravaju da bi ovakva tehnologija mogla ozbiljno da naruši privatnost javnih ličnosti, ali i otvori vrata za zloupotrebe i sajber nasilje.
Ilon Mask i Grok pod lupom javnosti
Kompanija xAI, koju predvodi Ilon Mask, još uvek nije zvanično komentarisala ove optužbe. Ipak, brojke govore same za sebe – prema poslednjim informacijama, korisnici su već generisali više od 34 miliona slika i videa putem Grok Imagine alata.
Upotreba “Spicy moda” za eksplicitne prikaze poznatih lica poput Tejlor Svift dodatno komplikuje ionako osetljivo pitanje granice između AI kreativnosti i zaštite ljudskog dostojanstva.
