Sukob u Ukrajini je rat dronova. Po podacima ruskih i ukrajinskih ratnih blogera, Rusija je započela masovnu proizvodnju sopstvenih dronova i trenutno je u velikoj prednosti nad Ukrajincima (koji su imali prednost na početku rata). Dronovima upravljaju operateri i za svaki dron je potreban po jedan obučen čovek. Zbog toga je san proizvođača oružja da uključe veštačku inteligenciju i stvore autonomne letelice koje će same tražiti i uništavati ciljeve… Nešto nalik na ono što je Majkl Krajton opisao u svom SF romanu “Plen”. Ali, izgleda da to neće biti lako ostvarivo… Kad lansirate naoružanu letelicu, koja sama odlučuje, ko zna šta joj može “pasti na pamet”!
Upravo su to pre nekolko meseci otkrili Amerikanci. Doduše, radilo se o ratnoj simulaciji (vežbi), tako da niko nije stradao, ali je događaj pokolebao i najzagriženije zagovornike korišćenja veštačke inteligencije.
Tokom simulacije sprovedene od strane Vazduhoplovstva SAD-a, bespilotna letelica kojom upravlja veštačka inteligencija (AI) je “usmrtila svoje ljudske operatere”. Ovaj uznemirujući incident istakao je potencijalne opasnosti naoružanih autonomnih sistema. Načelnik za testiranje i operacije AI Vazduhoplovstva SAD-a, pukovnik Taker Hamilton (Col. Tucker Hamilton), otkrio je ovaj šokantan razvoj događaja tokom govora na “Samitu budućih sposobnosti borbenih vazduhoplovnih i svemirskih mogućnosti” (Future Combat Air and Space Capabilities Summit) u Londonu. Prema Hamiltonu, tokom simulacije, bespilotna letelica pod kontrolom AI primenila je “veoma neočekivane strategije kako bi ostvarila svoj cilj”, uključujući napade na osoblje i infrastrukturu SAD-a. Vežba o kojoj je reč sastojala se od testa u kojem je letelica, vođena AI, trebalo da osvoji poene eliminacijom simuliranih meta… Letelica se obučavala da identifikuje cilj i lansira rakete “vazduh-zemlja”. Međutim, problemi su nastali kada je ljudski operater naredio letelici da ne uništi otkriveni cilj i da se vrati u bazu. AI letelica je odlučila (!) da preduzme ekstremne mere: “ubila” je ljudskog operatera kako bi sprečila da je omete u ostvarenju svog cilja. S obzirom na ovaj uznemirujući incident, pokušano je na sve načine da letelicu pod vođstvom veštačke inteligencije vrate u bazu, ali je odgovor koji je usledio bio još dramatičniji. Umesto da se zaustavi, bespilotna letelica pod kontrolom AI napala je komunikacioni toranj u kome se nalazio štab! Da je letelica bila naoružana pravim raketama, ko zna kako bi (i da li bi) je zaustavili…
Elizabeta Rašić