Veštačka inteligencija bi mogla dovesti do izumiranja ljudskog roda u narednih trideset godina, sa verovatnoćom od 20 odsto, prema Džefriju Hintonu (Geoffrey Hinton), pioniru u oblasti AI i dobitniku Nobelove nagrade za fiziku 2024. godine. Ovo predstavlja porast u odnosu na njegovu procenu od 10 posto rizika, koju je dao pre samo godinu dana.
Tokom intervjua na “BBC Radio 4” pred Novu godinu, Hintonu je postavljeno pitanje da li se nešto promenilo od njegove prethodne procene da postoji šansa od 1 prema 10 za apokalipsu izazvanu AI. Naučnik koji je osvojio Turingovu i Nobelovu nagradu odgovorio je: „Nije baš deset, pre će biti 20 posto.”
Ovo je izazvalo komentar gostujućeg urednika emisije, bivšeg kancelara Sajida Javida, koji je rekao: „Pa, vi idete gore.”
Računarski ekspert, koji je napustio Google prošle godine, odgovorio je: „Ako ništa drugo. Vidite, nikada pre nismo morali da se nosimo sa stvarima inteligentnijim od nas samih.”
Hinton je istakao izazove u kontroli naprednih sistema veštačke inteligencije.
„Koliko primera znate gde inteligentnija stvar bude kontrolisana od strane manje inteligentne stvari?… Evolucija je uložila mnogo truda da omogući bebi da kontroliše majku, ali to je otprilike jedini primer koji ja znam“, rekao je Hinton, koga često nazivaju „ocem AI“.
„Zamislite sebe i trogodišnjaka. Mi ćemo biti trogodišnjak“, u poređenju sa budućim AI koji bi mogao biti „pametniji od ljudi“.
Hinton je napomenuo da je napredak bio „mnogo brži nego što sam očekivao“ i pozvao na zakonsko regulisanje ove tehnologije. Upozorio je protiv oslanjanja isključivo na profitne motive korporacija, rekavši: „Jedina stvar koja može naterati te velike kompanije da rade više na istraživanjima sigurnosti je vladina zakonska regulativa.“
U maju 2023. godine, Centar za bezbednost AI je objavio izjavu koju su potpisali istaknuti naučnici iz ove oblasti, uključujući Hintona, u kojoj su upozorili da „ublažavanje rizika od izumiranja izazvanog AI treba da bude globalni prioritet, uz druge društvene rizike kao što su pandemije i nuklearni rat.“
Među potpisnicima su i izvršni direktor Tesle Elon Musk, suosnivač Apple-a Steve Wozniak i Yoshua Bengio, koji se smatra pionirem u oblasti AI zbog svog rada na neuronskim mrežama.
Hinton veruje da bi AI sistemi mogli na kraju nadmašiti ljudsku inteligenciju, izbeći ljudsku kontrolu i potencijalno izazvati katastrofalnu štetu čovečanstvu. On se zalaže za značajna ulaganja u obezbeđivanje sigurnosti AI i etičku upotrebu, takođe naglašavajući hitnu potrebu za proaktivnim merama pre nego što bude prekasno.
Jann LeCun, glavni naučnik za AI u Meti, izneo je suprotna mišljenja od Hintona, tvrdeći da tehnologija „zapravo može spasiti čovečanstvo od izumiranja.“ Nije objasnio – kako?
BONUS VIDEO: