NICK BOSTROM
SUPERINTELIGENCIJA
Putevi, opasnosti i strategije
AKADEMSKA KNJIGA
NOVI SAD 2018
Nick Bostrom,
Superintelligence
Paths, Dangers, Strategies
Oxford University Press
First published in paperback in 2016
© Nick Bostrom 2014
Nedovršena basna o vrapcima
Beše sezona građenja gnezda, i nakon višednevnog teškog rada, vrapci sedoše u smiraj dana, opuštajući se i cvrkućući.
„Tako smo mali i slabašni. Zamislite kako bi nam život bio lak kad bismo imali sovu koja bi nam mogla pomoći da izgradimo naša gnezda!”
„Da!”, reče drugi. „I mogli bismo je uposliti da se brine o našim starima i o mladuncima.”
„Mogla bi nam davati savete i držati komšijsku mačku na oku”, dodade treći.
Onda Hraniša, ptica starešina, reče: „Pošaljimo izviđače u svim pravcima da negde pokušaju naći napušteno sovče ili možda jaje. Poslužilo bi i mladunče vrane ili mladunče lasice. Ovo bi mogla da bude najbolja stvar koja nam se ikad desila, bar od otvaranja Paviljona beskonačnog zrnevlja u onom dvorištu preko plota.”
Jato beše uzbuđeno i vrapci posvuda počeše da cvrkuću iz petnih žila.
Jedino Drndisad, jednooki vrabac razdražljivog temperamenta, ostade neubeđen u mudrost tog poduhvata. I reče: „Ovo će nam sigurno doći glave. Zar ne treba prvo da savladamo veštinu pripitomljavanja i kročenja sova, pa tek onda da takvog stvora dovedemo k sebi?”
Hraniša odgovori: „Kroćenje sove je, po svemu sudeći, izrazito težak posao. Biće nam teško da nađemo i sovino jaje. Počnimo odatle. Kad uspemo da uzgojimo sovu, možemo početi da razmišljamo o suočavanju s tim drugim zadatkom.”[p6]
„Taj plan je manjkav!” - ciknu Drndisad; ali njegovo negodovanje beše uzalud, jer jato je već bilo poletelo da izvrši uputstva što ih je izneo Hraniša.
Samo dva ili tri vrapca ostadoše. Zajedno su pokušavali da utvrde kako se sove mogu ukrotiti ili pripitomiti. Ubrzo shvatiše da je Hraniša bio u pravu: beše to izrazito težak izazov, pogotovo u odsustvu stvarne sove na kojoj bi se mogli oprobati. Ipak, oni nastaviše kako su znali i umeli, stalno strahujući od toga da će se jato vratiti sa sovinim jajetom pre nego što pronađu rešenje za problem kontrole.
Ne zna se kako se priča završava, ali autor posvećuje ovu knjigu Drndisadu i njegovim sledbenicima.
PREDGOVOR
U vašoj lobanji je stvar koja čita. Ta stvar, ljudski mozak, poseduje izvesne sposobnosti koje nedostaju mozgovima drugih životinja. Tim osobenim sposobnostima dugujemo naše dominantno mesto na Zemlji. Druge životinje imaju snažnije mišiće i oštrije kandže, ali mi imamo pametnije mozgove. Naša skromna prednost u opštoj inteligenciji dovela je do toga da razvijemo jezik, tehnologiju i složeno društveno uređenje. I kako se svaka generacija nadograđivala na postignuća prethodnika, tako je prednost rasla.
Ako jednog dana napravimo mašinske mozgove koji nadmašuju ljudske mozgove u opštoj inteligenciji, onda ova superinteligencija može postati veoma moćna. I kao što sudbina gorila sada zavisi više od nas ljudi nego od samih gorila, tako bi i sudbina naše vrste mogla zavisiti od delanja mašinske superinteligencije.
Mi ipak imamo jednu prednost: mi smo ti koji treba da napravimo tu stvar. U principu, mogli bismo napraviti takvu vrstu superinteligencije koja bi čuvala ljudske vrednosti. Sigurno bismo imali dobar razlog da to učinimo. U praksi, problem kontrole - problem toga kako kontrolisati ono što bi superinteligencija činila - izgleda vrlo težak. Takođe se čini da ćemo imati samo jednu šansu. Jednom kad neprijateljska superinteligencija nastane, ona će nas sprečiti da je zamenimo ili da izmenimo njene preference. Naša sudbina bila bi zapečaćena...
Iako je ova knjiga stara deset godina, pitanja kojima se bavi su veoma aktuelna.