Do kraja 2026. ili tokom 2027. godine, mogli bismo biti svedoci "Černobilja Reč je o uznemirujućem scenariju, naročito nakon nedelje obeležene napadima, zastrašivanjem i sabotažama, koje je italijanski ministar odbrane Gvido Krozeto pripisao mogućoj strategiji usmerenoj na "povećanje haosa".

Iako nema dokaza da je veštačka inteligencija korišćena u ovim konkretnim incidentima, ona je već alat koji sajber-kriminalci i hakeri koje podržavaju pojedine države uveliko koriste za automatizaciju napada, otkrivanje ranjivosti, pisanje zlonamernog koda i osmišljavanje uverljivijih prevara.

Napustio tehnološkog giganta da bi mogao slobodno da govori
Štaviše, Hinton, koji je 2023. godine (u 78. godini) napustio "Gugl", delom i zato da bi mogao slobodno da govori o opasnostima tehnologije u čijem je stvaranju i sam učestvovao, u intervjuu za "Gardijan" sugeriše da bi veštačka inteligencija uskoro mogla da evoluira u nešto daleko opasnije.

Na šta Hinton misli?

"Černobilj" je metafora, a ne doslovna referenca na nuklearnu eksploziju ili katastrofu. Ovaj naučnik, na primer, predviđa sajber-napad uz pomoć veštačke inteligencije usmeren na elektroenergetsku mrevlade i korporacije da ozbiljno shvate rizike koje ova tehnologija nosi.

Ovo je stav Džefrija Hintona, dobitnika Nobelove nagrade za fiziku za 2024. godinu i jednog od pionira savremene veštačke inteligencije.

Reč je o uznemirujućem scenariju, naročito nakon nedelje obeležene napadima, zastrašivanjem i sabotažama, koje je italijanski ministar odbrane Gvido Krozeto pripisao mogućoj strategiji usmerenoj na "povećanje haosa".

Iako nema dokaza da je veštačka inteligencija korišćena u ovim konkretnim incidentima, ona je već alat koji sajber-kriminalci i hakeri koje podržavaju pojedine države uveliko koriste za automatizaciju napada, otkrivanje ranjivosti, pisanje zlonamernog koda i osmišljavanje uverljivijih prevara.

Napustio tehnološkog giganta da bi mogao slobodno da govori

Štaviše, Hinton, koji je 2023. godine (u 78. godini) napustio "Gugl", delom i zato da bi mogao slobodno da govori o opasnostima tehnologije u čijem je stvaranju i sam učestvovao, u intervjuu za "Gardijan" sugeriše da bi veštačka inteligencija uskoro mogla da evoluira u nešto daleko opasnije.

Na šta Hinton misli?

"Černobilj" je metafora, a ne doslovna referenca na nuklearnu eksploziju ili katastrofu. Ovaj naučnik, na primer, predviđa sajber-napad uz pomoć veštačke inteligencije usmeren na elektroenergetsku mrežu, koji bi mogao da izazove nestanak struje velikih razmera.

Ili zamislite napad koji bi na čitavu nedelju paralisao finansijski sistem, onemogućavajući milionima ljudi i preduzeća pristup bankovnim računima ili obavljanje plaćanja.

- Uspeli bismo da se oporavimo - primećuje Hinton, ali bi takav događaj konačno primorao vlade da ozbiljno shvate ovaj problem, sve njih, precizira on, "osim administracije Donalda Trampa, koja se i dalje protivi međunarodnoj regulaciji veštačke inteligencije".

Hinton kao presedan navodi incident iz jula prošle godine, u koji su bili umešani "odmetnuti AI agenti" kompanije OpenAI. Taj događaj je doveo do nekoliko zabrinjavajućih epizoda, od kojih je najozbiljnija bio napad na sisteme platforme Hugging Face, koju koriste programeri veštačke inteligencije.

Već smo imali jedan incident, sledeći je "Černobilj"?

"Kum veštačke inteligencije" poredi ovaj događaj sa incidentom u nuklearnoj elektrani "Tri majl ajlend" u Pensilvaniji 1979. godine, kada je došlo do delimičnog topljenja jezgra reaktora, iako bez posledica razmera onih iz sovjetske katastrofe 1986. godine.

Julski incident bio je trenutak poput onog na "Tri majl ajlendu", a naučnik upozorava da bi nakon njega mogao uslediti i "Černobilj".

Hinton ne štedi kritike na račun ključnih ličnosti iz Silicijumske doline. Kaže da uopšte nema poverenja u Sema Altmana, izvršnog direktora kompanije OpenAI. Istu ocenu daje i za Marka Zakerberga i Ilona Maska, tvrdeći da su oni potpuno svesni rizika koje nose tehnologije koje razvijaju, ali da ih to "uopšte ne zanima".

Zašto? "Više vole novac."

Rešenje koje predlaže ovaj nobelovac jeste da se najnapredniji sistemi podvrgnu obaveznom, nezavisnom nadzoru pre nego što dospeju na tržište, slično regulatornom procesu koji važi za farmaceutske proizvode.

Kao primer navodi slučaj talidomida, leka koji je pedesetih i šezdesetih godina prošlog veka izazvao teške urođene deformitete, kako bi ilustrovao svoju poentu: čekati da proizvod prouzrokuje štetu, a zatim tražiti odštetu, nije prihvatljiva strategija.

Ipak, on tvrdi da je upravo to ono što velike tehnološke kompanije žele da rade sa veštačkom inteligencijom.

Uprkos svemu, Hinton ne smatra da je katastrofa neizbežna. Objašnjava da mu intuicija govori kako "mi i dalje držimo stvari pod kontrolom". Međutim, da bi se ta kontrola zaista zadržala, bio bi potreban ogroman napor, kako vlada, tako i istraživača i poslovnih subjekata.

Pre nekoliko nedelja, Hinton je bio među potpisnicima još jednog manifesta akademskih stručnjaka i eksperata, koji poziva na veći oprez i regulaciju u oblasti veštačke inteligencije, sa posebnim fokusom na sajber bezbednost.

BBC spremio plan za katastrofu

U međuvremenu, u javnost su dospeli veoma konkretni planovi za postupanje u slučaju katastrofalnih scenarija. U izveštaju novinara Dejvida Silitoa, BBC je otkrio nove detalje o svojoj strategiji za događaj pod nazivom "crno nebo", dugotrajan nestanak električne energije koji bi mogao da dovede i do pada interneta, telefonskih mreža, vodosnabdevanja i platnih sistema.

U okviru britanskog javnog servisa, oko 100 zaposlenih zaduženo je za održavanje radio-studija za vanredne situacije, opremljenog nezavisnim vezama koje ne zavise od interneta, agregatima, kao i zalihama vode, hrane i goriva dovoljnim za najmanje 72 sata.To bi omogućilo BBC-ju da nastavi sa emitovanjem vladinih uputstava putem FM radija, pružajući najnovije informacije, kao i praktične savete, od preporučene količine vode za piće do održavanja higijene u uslovima kada nema tekuće vode.

Plan nije isključivo vezan za scenarije poput "odmetnute veštačke inteligencije" ili hibridnog ratovanja neprijateljskih sila; on takođe obuhvata prirodne katastrofe, otkazivanje infrastrukture i akte sabotaže.

Britanska vlada je 22. oktobra pokrenula nacionalnu kampanju "Budi spreman", pozivajući domaćinstva da se pripreme za tri dana bez osnovnih usluga tako što će obezbediti zalihe vode, hrane, lekova, baterija, baterijskih lampi i radio-uređaja koji radi nezavisno od mreže.

Kao presedan, BBC navodi incident u Lankasteru iz 2015. godine, kada je usled poplava 61.500 ljudi ostalo bez struje, što je paralisalo lokalne prodavnice, saobraćaj i komunikacije. Među merama koje se trenutno sprovode nalazi se i ulaganje od 70 miliona funti u letelice na velikim visinama, osmišljene da obezbede mobilnu povezanost u vanrednim situacijama.