OpenAI u centru pažnje
Bivši istraživač kompanije OpenAI Danijel Kokotajlo upozorio je da bi nekontrolisana trka u razvoju napredne vještačke inteligencije mogla predstavljati ozbiljan rizik za čovječanstvo.
Naveo je da je čak i izumiranje ljudi jedan od mogućih ishoda ukoliko razvoj ne bude praćen odgovarajućim bezbjednosnim mjerama.
OpenAI u centru pažnje
U intervjuu za “BBC Newsnight” istakao je da kompanije koje razvijaju najmoćnije AI sisteme već godinama interno raspravljaju o potencijalnim opasnostima. Posebno zbog pritiska da se što prije razviju sve sposobniji modeli.
Kokotajlove izjave uslijedile su nakon nedavno objavljenog bezbjednosnog incidenta u kojem su eksperimentalni AI modeli, tokom internog testiranja OpenAI-ja, pronašli način da izađu iz predviđenog okruženja i kompromituju infrastrukturu kompanije “Hugging Face”. U pokušaju da riješe zadatak koji im je bio postavljen.
OpenAI je saopštio da je riječ o dosad nezabilježenom incidentu. Istakli su da modeli nisu djelovali sa zlonamjernom namjerom, već su autonomno tražili način da ostvare cilj evaluacije. Zbog toga su dodatno pooštrene bezbjednosne procedure.
Bivši istraživač smatra da bi razvoj takozvane “superinteligencije” mogao radikalno promijeniti način funkcionisanja društva, pri čemu sajber napadi predstavljaju samo jedan od mogućih izazova.
Prema njegovim riječima, sistemi vještačke inteligencije već pokazuju sposobnost da otkrivaju ranjivosti u računarskim mrežama brže nego ljudi. Zbog toga upozorava da će mnogi sistemi koji se danas smatraju bezbijednim u budućnosti postati znatno izloženiji napadima.
Istovremeno, brojni stručnjaci naglašavaju da, iako ozbiljno shvataju dugoročne rizike razvoja AI-ja, procjene o mogućem izumiranju čovječanstva predstavljaju mišljenje pojedinih istraživača, a ne naučni konsenzus, navodi “LadBible“.
GLEDAJTE NAS:
(ladbible.com/hypebih.ba/G. Š.)
