Evropska komisija pokrenula je istragu protiv društvene mreže X u vlasništvu Ilona Maska, nakon izveštaja da je njen AI četbot Grok proizvodio seksualizovane slike, uključujući i one koje prikazuju maloletnike.

Grok, koji je razvila Maskova AI kompanija xAI i koji je integrisan u platformu X, našao se pod globalnom lupom još od lansiranja 2023. godine. Kritičari su ukazivali na ekstremističku retoriku, političku pristrasnost i seksualno eksplicitne funkcije, uz upozorenja da loše moderisani alati veštačke inteligencije mogu izložiti korisnike, posebno tinejdžere, štetnom sadržaju.

U saopštenju objavljenom u ponedeljak, Evropska komisija navela je da ispituje da li je X adekvatno adresirao sve sistemske rizike povezane sa svojim sistemima preporuka, uključujući i nedavnu integraciju Groka. Istraga je deo šireg nadzora EU nad velikim onlajn platformama, a regulatori su poručili da bi privremene mere mogle biti uvedene ukoliko X ne sprovede suštinske promene.

„Deljenje seksualizovanih AI-generisanih slika, naročito onih koje uključuju maloletnike, neprihvatljivo je i predstavlja ozbiljan rizik za korisnike“, izjavila je izvršna potpredsednica Evropske komisije za tehnološki suverenitet, bezbednost i demokratiju, Hena Virkunen.

Istraga dolazi nakon ranijih mera koje je Komisija preduzela, uključujući novčanu kaznu od 150 miliona evra, odnosno oko 178 miliona dolara, izrečenu platformi X u decembru zbog kršenja obaveza transparentnosti prema Aktu o digitalnim uslugama.

Kao odgovor na istragu, X je podelio saopštenje objavljeno 14. januara u kojem navodi da je posvećen tome da platforma ostane „bezbedna“ i da ima „nultu toleranciju“ prema seksualnoj eksploataciji dece, nedobrovoljnoj golotinji i neželjenom seksualnom sadržaju. Odvojeno od toga, Mask je na mreži X objavio fotografiju za koju se čini da ismeva ograničenja vezana za Grok.

Istraga EU usledila je nakon što su američki zvaničnici ranije upozorili da bi oštar obračun sa velikim tehnološkim kompanijama mogao da izazove odgovor Vašingtona, uključujući i moguću primenu carina.

Istraživači Centra za borbu protiv digitalne mržnje saopštili su da je Grok proizveo skoro tri miliona seksualizovanih slika za manje od dve nedelje, od kojih je oko 23.000 navodno prikazivalo decu.

Ranije ovog meseca, britanski regulator za medije Ofkom pokrenuo je sopstvenu istragu o tome da li X ispunjava obaveze u vezi sa zaštitom korisnika na internetu.