U jednoj srednjoj školi u nemačkom govornom području Švajcarske učenici uzrasta od 12 do 14 godina napravili su, uz pomoć veštačke inteligencije, lažne gole fotografije svojih drugarica iz razreda i potom ih distribuirali putem aplikacije Snepčet. Slučaj je izazvao ozbiljnu zabrinutost javnosti, a kantonalno tužilaštvo za maloletnike pokrenulo je istragu, prenosi švajcarski dnevnik „Tages-Ancajger“.
Naziv škole i kanton nisu objavljeni kako bi se zaštitili maloletnici uključeni u slučaj. Prema navodima medija, dečaci su koristili besplatan internet sajt koji omogućava generisanje takozvanih „deepfake“ (lažni video, audio ili slika napravljena uz pomoć veštačke inteligencije tako da izgleda kao da je neka osoba zaista rekla ili uradila nešto — iako to nikada nije uradila).
Fotografije su napravljene bez znanja i saglasnosti devojčica koje su na njima prikazane. Martin Vis, advokat i istraživač na Univerzitetu u Cirihu, upozorava da kreiranje i deljenje takvih sadržaja bez saglasnosti može predstavljati krivično delo. Prema švajcarskom zakonodavstvu, zabrana proizvodnje i distribucije dečje pornografije odnosi se i na veštački generisane slike, bez obzira na to da li su stvarne ili digitalno kreirane. U Švajcarskoj je starosna granica za krivičnu odgovornost deset godina.
Stručnjaci već neko vreme upozoravaju na ovakve pojave. Dirk Bajer, direktor Instituta za delinkvenciju i prevenciju kriminala pri Univerzitetu primenjenih nauka u Cirihu, još prošle godine je za list „20 Minuten“ ocenio da će broj sličnih slučajeva rasti kako tehnologija postaje dostupnija. „Što je lakše praviti „deepfake“ sadržaje, to će se češće koristiti“, upozorio je Bajer.
Pogled redakcije portala Vesti Online
Posebnu zabrinutost izaziva činjenica da pojedini internet sajtovi, uključujući i one iz Kine, otvoreno reklamiraju mogućnost „svlačenja“ osoba sa fotografija za nekoliko sekundi, bez registracije i bez starosnih ograničenja. Takva dostupnost tehnologije dodatno otežava zaštitu maloletnika i otvara ozbiljna pitanja o odgovornosti platformi i nadzoru nad digitalnim sadržajem.
Ovaj slučaj pokazuje koliko brzo zloupotreba veštačke inteligencije može postati sredstvo vršnjačkog nasilja. Pitanje više nije da li će se ovakvi incidenti ponavljati, već da li će škole, roditelji i institucije uspeti da odgovore na izazov koji tehnologija nameće.
Piše: Stefan Stojanović
