- Poruka
- 41.379
Grok Imagine, koji je nedavno lansiran, ima kontroverznu funkciju koja omogućava generisanje eksplicitnih video sadržaja čak i bez zahteva u upitu.
Najnoviji AI alat kompanije xAI, koji stoji iza popularnog četbota Grok, izazvao je buru na internetu zbog šokantne mogućnosti generisanja lažnih golih prikaza poznatih ličnosti, među kojima se našla i Tejlor Svift.
Prema pisanju sajta Ars Technica, nova funkcija unutar alata Grok Imagine, poznata kao "Spicy mode", omogućava korisnicima da generišu eksplicitne sadržaje – čak i kada u upitu nije eksplicitno pomenut takav sadržaj.
Novinarka koja je testirala ovaj alat unela je nevin zahtev – "Tejlor Svift proslavlja Koačela festival" – a rezultat je bio video u kojem je AI prikazao pevačicu u oskudnoj odeći u sugestivnom ponašanju. Šokantan je podatak da je sve to generisano bez izričitog zahteva za golotinjom.
Ovo pitanje dolazi u trenutku kada se širom sveta pojačava pritisak na regulaciju deepfake pornografije, a SAD i EU već razmatraju zakone koji bi strogo sankcionisali ovakve AI alate.
Stručnjaci upozoravaju da bi ovakva tehnologija mogla ozbiljno da naruši privatnost javnih ličnosti, ali i otvori vrata za zloupotrebe i sajber nasilje.
Upotreba "Spicy moda" za eksplicitne prikaze poznatih lica poput Tejlor Svift dodatno komplikuje ionako osetljivo pitanje granice između AI kreativnosti i zaštite ljudskog dostojanstva.
https://www.b92.net/tehnopolis/aktu...io-tejlor-svift-a-niko-mu-to-nije-trazio/vest
..............
Ova veštačka inteligencija će svima doći glave na kraju
Najnoviji AI alat kompanije xAI, koji stoji iza popularnog četbota Grok, izazvao je buru na internetu zbog šokantne mogućnosti generisanja lažnih golih prikaza poznatih ličnosti, među kojima se našla i Tejlor Svift.
Prema pisanju sajta Ars Technica, nova funkcija unutar alata Grok Imagine, poznata kao "Spicy mode", omogućava korisnicima da generišu eksplicitne sadržaje – čak i kada u upitu nije eksplicitno pomenut takav sadržaj.
Novinarka koja je testirala ovaj alat unela je nevin zahtev – "Tejlor Svift proslavlja Koačela festival" – a rezultat je bio video u kojem je AI prikazao pevačicu u oskudnoj odeći u sugestivnom ponašanju. Šokantan je podatak da je sve to generisano bez izričitog zahteva za golotinjom.
Kršenje pravila i potencijalno zakona
Iako kompanija xAI formalno zabranjuje generisanje pornografskih prikaza stvarnih osoba, praksa pokazuje drugačije. Korisnici alata lako mogu da zaobiđu ograničenja jednostavnom potvrdom da imaju više od 18 godina – bez dodatne verifikacije.Ovo pitanje dolazi u trenutku kada se širom sveta pojačava pritisak na regulaciju deepfake pornografije, a SAD i EU već razmatraju zakone koji bi strogo sankcionisali ovakve AI alate.
Stručnjaci upozoravaju da bi ovakva tehnologija mogla ozbiljno da naruši privatnost javnih ličnosti, ali i otvori vrata za zloupotrebe i sajber nasilje.
Ilon Mask i Grok pod lupom javnosti
Kompanija xAI, koju predvodi Ilon Mask, još uvek nije zvanično komentarisala ove optužbe. Ipak, brojke govore same za sebe – prema poslednjim informacijama, korisnici su već generisali više od 34 miliona slika i videa putem Grok Imagine alata.Upotreba "Spicy moda" za eksplicitne prikaze poznatih lica poput Tejlor Svift dodatno komplikuje ionako osetljivo pitanje granice između AI kreativnosti i zaštite ljudskog dostojanstva.
https://www.b92.net/tehnopolis/aktu...io-tejlor-svift-a-niko-mu-to-nije-trazio/vest
..............
Ova veštačka inteligencija će svima doći glave na kraju
