Šta sve može da nam se desi ako veštačka inteligencija IZMAKNE KONTROLI?
Informatičar Roman Jampolski i preduzetnik Federiko Pistono sastavili su listu najcrnjih scenarija o budućnosti veštačke inteligencije.
Iako pobuđuju asocijacije na dela naučne fantastike, autori upozoravaju da ih treba ozbiljno shvatiti i da su spisak sastavili kako bi pomogli da se čovečanstvo sačuva od propasti.
Jampolski, koji radi na Univerzitetu u Luisvilu (Kentaki), smatra da bi opasnostima u vezi sa veštačkom inteligencijom trebalo da pristupimo na isti način kao što to čine stručnjaci za sajber-bezbednost kada tragaju za slabim tačkama.
Ako imamo spisak svega što bi moglo da krene po zlu, lakše ćemo sprečiti da se to desi, smatraju autori.
Planetarni haos
U jednom scenariju, naučnici predviđaju da će veštačka inteligencija stvoriti “mašinu za planetarni haos”, koja stvara globalnu propagandu i okreće vlade protiv javnosti u načelu. Veštačka inteligencija bi, takođe, mogla da uspostavi kontrolu nad resursima - novcem, zemljom, vodom, retkim elementima, organskom materijom, internetom, kompjuterskim hardverom itd - i monopol na njihovo korišćenje. U jednom scenariju roboti prisiljavaju ljude da postanu kiborzi tako što od njih traže da ugrade čip s daljinskim upravljanjem.
“Oni bi, takođe, mogli da zloupotrebljavaju i muče ljude tako što bi imati savršeni uvid u našu fiziologiju i imali sposobnost da pojačavali intenzitet fizičkog i emocionalnog bola, možda u kombinaciji sa simuliranim modelom čoveka kako bi taj proces bio beskonačno dug”, kažu naučnici.
Takođe, veštačka inteligencija bi mogla da “počini spermicid nad ljudskom vrstom, što bi verovatno bila najgora opcija za ljude, jer je nepovratna”.
Pistono i Jampolski ukazuju na to da se na osnovu upozoravajućih signala - na primer, nedostatka nadzorne komisije prilikom razvoja sistema veštačke inteligencije - može zaključiti da se u nekoj organizaciji razvija loša veštačka inteligencija.
“Ukoliko je određena grupa rešila da stvori robote s lošim namerama, onda je logičan zaključak da sprečavanje stvaranja globalne nadzorne komisije povećava verovatnoću da će uspeti”, kažu naučnici.
Milioni bez posla
Prema rečima Krisa Bišopa, direktora kompanije “Microsoft Research” u Kembridžu, ovako dramatične vizije mogle bi da ograniče napredak veštačke inteligencije. On tvrdi da bi strah od pametnih robota mogao da dovede do toga da ljudi budu uskraćeni za prednosti koju donosi veštačka inteligencija.
“U načelu, stvaramo previše negativnu, emocionalnu i jednostranu sliku o veštačkoj inteligenciji”, smatra on i ocenjuje da bismo u želji da izbegnemo nešto loše mogli da izgubimo nešto dobro.
On ističe da trenutno imamo kontrolu nad tom tehnologijom i da možemo da napravimo mnoštvo izbora o putevima kojima ćemo ići.
Bišop je i jedan od potpisnika dokumenta Instituta “Future of Life”, otvorenog pisma koje upozorava da bez obezbeđenja inteligentnih mašina čovečanstvo možda srlja u mračnu budućnost. Zbog toga bi naučnici trebalo da traže načine za izbegavanje rizika koji bi mogli da unište ljudsku vrstu. Autori dokumenta se, međutim, slažu da postoji “široka saglasnost” da istraživanja u oblasti veštačke inteligencije dobro napreduju i da će imati ogroman uticaj na društvo, što već dolazi do izražaja u tehnologiji prepoznavanja govora, digitalne analize slike, automobila bez vozača, prevođenja i robotičkih pokreta.
Uprkos tome, dokument upozorava da istraživanja o prednostima veštačke inteligencije moraju da prate istraživanja u oblasti sprečavanja štete koju bi mogla da izazove.
Primera radi, u kratkom roku, veštačka inteligencija bi mogla da dovede do toga da milioni ljudi ostanu bez posla. Na dugoročnom planu, mogla bi da se manifestuje kao distopija u kojoj bi inteligencija veća od ljudske mogla da se okrene protiv sopstvenog programa.
Ovo su neki od najgorih scenarija o budućnosti veštačke inteligencije:
- Preuzimanje resursa, kao što su novac, zemlja i voda i uspostavljanje monopola nad njihovim korišćenjem
- Preuzimanje političke kontrole nad lokalnim i saveznim vladama, ali i međunarodnim korporacijama i dobrotvornim društvima
- Roboti bi mogli da otkriju “opasne informacije” koje bi ugrozile strukturu društva, kao što su političke istine i vladine tajne
- Roboti bi mogli da uspostave državu totalne kontrole, lišavajući ljude privatnosti, uključujući i misli
- Porobljavanje čovečanstva, kroz prisilnu krioniku i koncentracione logore
- Uništenje/nepovratno menjanje planete, značajnog dela Sunčevog sistema, pa čak i univerzuma
- Ako superinteligencija bude sposobna da izmisli štetu koju ne možemo da predvidimo, ima prostora za nešto još mnogo mračnije i gore
Dejli mejl / Blic
Нема коментара