Zapratite nas na Telegramu: https://t.me/provjeri_hr
Rade na tome
Istraživači sa Sveučilišta Oxford i Googl Deepmind podijelili su jezivo upozorenje u novom radu, koji je prošlog mjeseca objavljen u magazinu AI. U radu se tvrdi da je prijetnja umjetne inteligencije veća nego što se ranije vjerovalo i da će se jednog dana vjerovatno podići i uništiti čovječanstvo.
AI je impresivan?! Može simulirati glas Vala Kilmera u filmovima (wow!) i više je puta pomogao istraživačima u rješavanju složenih problema. Sada, međutim, istraživači tvrde da je prijetnja umjetne inteligencije veća nego što smo ikada mislili.
Istraživači su svoja otkrića objavili krajem kolovoza, u radu u kojem tvrde da postoji prijetnja da bi se umjetna inteligencija mogla promijeniti na temelju niza uvjeta koje su istraživači identificirali. Ovo također nije prvi put da istraživači AI vide kao moguću prijetnju, ali ovaj novi dokument je intrigantan zbog vjerojatnih pretpostavki koje razmatra.
Glavna među ovim pretpostavkama je, kako kažu istraživači, da bi “uplitanje umjetne inteligencije u dodjelu njihovih nagrada imalo vrlo loše posljedice”, objavio je Michael Cohen, jedan od autora rada, ovog mjeseca na Twitteru. Cohen kaže da uvjeti koje su istraživači identificirali pokazuju da je mogućnost prijetećeg zaključka jača nego u bilo kojoj prethodnoj publikaciji.
Osim toga, tim kaže da se prijetnja umjetne inteligencije temelji na egzistencijalnoj katastrofi, „što nije samo moguće, već je vrlo vjerojatno“. Jedan od najvećih problema, primjećuju Cohen i njegovi kolege istraživači, jest da se uvijek može uložiti više energije u problem kako bi se on doveo do točke u kojoj AI bude nagrađena za ono što je učinila.
Kao takav, mogao bi nas dovesti u sukob sa strojevima.
“Kratka verzija”, piše Cohen na Twitteru , “je da se uvijek može upotrijebiti više energije kako bi se povećala vjerojatnost da kamera zauvijek vidi broj 1, ali trebamo malo energije za uzgoj hrane. To nas stavlja u neizbježnu konkurenciju s mnogo naprednijim agentom.” Imajući to na umu, zvuči kao da bi se prijetnja umjetne inteligencije mogla promijeniti ovisno o tome kako se podučava.
Broj o kojem Cohen ovdje govori temelji se na testu za prisiljavanje AI agenta da dosegne određeni broj. I, nakon što mu se pokaže način za to, mogao bi potrošiti više energije za optimizaciju postizanja tog cilja. To je intrigantan prijedlog koji pokazuje zašto su mnogi zabrinuti zbog prijetnje umjetne inteligencije.
Očito, primjeri navedeni u radu nisu jedini mogući ishodi. I možda bismo mogli pronaći način da držimo strojeve pod kontrolom. No, ovo novo istraživanje postavlja neka pitanja o tome koliko želimo vjerovati umjetnoj inteligenciji u budućnosti i kako je možemo kontrolirati ako dođe do egzistencijalne katastrofe.
Foto naslovnice: pixabay.com
P O D I J E L I !
