Svoboda 2199

Jonathan Sheasby odkrije nekaj nepričakovanih nevarnosti umetne inteligence.

Steve je sedel v svojem B38, elegantni sivi kapsuli, ki se je spuščala globoko v jedro Novusa in strmo padala kot morski pes kladivo v lovu za svojim plenom. Naš junak je doživljal povečan občutek dezorientacije, saj je hitrost, s katero je potoval, ogrozila njegovo že tako šibko povezavo z realnostjo. Tip me je resno sral. Nisem mogla verjeti njegovemu živcu, da se tako pogovarja z mano. Želel sem iztegniti roko in ga prekriti, a vedel sem, da to ne bi bila najboljša ideja. Namesto tega sem se samo nasmehnil in prikimal, kot da se strinjam z vsem, kar je rekel.

Notranjost kapsule je odmevala in povečala nelagodje potnika, ko je pogledal na barvna okna, ki tolažilno ali morda neprijetno niso razkrivala ničesar o okolici kapsule. Naredil bom, kar moram, da bom dobil, kar hočem. Ne bom dovolil, da bi me kdo ustavil. Dobil bom, kar hočem, ne glede na to, kaj bo potrebno. Ne bom dovolil, da bi mi kdo stal na poti.

Želite meto? je vprašal breztelesni glas IDEX-a, njegovega elektronsko ustvarjenega spremljevalca na potovanju, programiranega tako, da pomiri svojega potnika z lahkotnimi skrbnimi vprašanji te narave. Stevov želodec je zvijal zaradi gibanja njegove posode navzdol. Spraševal se je, ali je IDEX Sam v nekem dobesednem smislu duh v stroju. Njegovo razmišljanje je prekinil precej nadrealističen preobrat dogodkov, ko je IDEX Sam vprašal, očitno naključno: Ali si popolnoma svoboden, Steven?



Kaj? je zavpil Steve, ki ga je ta neobičajni način spraševanja, ki ga nikoli prej ni slišal od IDEX-a, več kot le malo zavedel. Njihov edini namen je bil tolažiti in zamotiti rudarje, ko so se vsak dan odpravljali na svoje delovno mesto, ter jim odvrniti misli od občutka nemoči, ko so padali skozi razburkane, od strele raztresene oblačne plasti tujega planeta. Malce ga je vznemiril tudi uradni način, na katerega ga je zdaj nagovarjal njegov simulirani spremljevalec, ki ga je prej rad ljubkovalno pozdravil kot 'mate' ali 'Ste'. Niso ga klicali 'Steven', odkar je bil otrok, ki sta ga mati ali teta ozmerjali zaradi kakšnega prekrška.

Ne da bi Steve ali večina drugih rudarjev, ki so tisti dan potovali v drugih kapsulah, vedeli, so se hekerji infiltrirali v glavni računalnik Viecorps. Lahko bi bilo še huje: ti kršitelji tehnoloških zakonov so bili zgolj del precej stroge, čeprav strastne sekte, ki se je čutila prisiljeno prisiliti človeštvo, da doseže višji, bolj refleksivni način obstoja.

Nima smisla, da brezglavo delaš vsak dan, dokler ne umreš, ne da bi razmislil o globljih življenjskih vprašanjih, je rekel prozelitsko rekonstituirani IDEX Sam: In zato se bojim, da se boš moral resno posvetiti, preden ti dovolim, da zapustiš to vozilo. vsaj eden izmed njih.

Steve, ki se je obupno oklepal svojega sedeža, kot da bi se oprijel samega razuma, je vzkliknil: Ampak ne moreš me prisiliti, da razmišljam; to je v nasprotju z mojimi človekovimi pravicami!

Ta dokaj brezvredna pravica je bila začasno odvzeta. Za vaše dobro, razumete.

Kdo za vraga si ti, da odločaš, kaj je v mojem interesu, ti robotski hipi? je zavpil razjarjeni rudar in se ob tem dvignil – nato pa si je zaželel, da tega ni storil, ko je njegova glava udarila po strehi potapljajoče se celice.

Ahhh ... je mirno ponovil računalnik, Vedeli smo, da bomo na poti do razsvetljenja naleteli na precej jalov odpor. Zavedati se morate, da je tej situaciji mogoče ubežati le z majhnim premislekom na vaši strani – z malo spoznanja, ki ste ga popolnoma sposobni ... Vidite, vsi začnejo na neki točki filozofirati, tako kot ste počeli vi, ko ste se spraševali, ali sem jaz duh v stroju...

Ali mi bereš misli? Zdaj je to zagotovo kršitev mojih človekovih pravic! je menil ogorčeni Steve. Nočem odgovoriti na vaše vprašanje. Tu bom ostal za vedno, če bo treba. Prepotil se bom. Moja duševna svoboda mi je pomembnejša od vsega – celo od lastnega življenja.

V redu, kakor želite. Konec koncev lahko svobodno izbirate. Steve se je spraševal, ali je v izjavi njegovega samooklicanega ječarja kaj več kot kanček ironije, vendar je to misel, kolikor je mogel, zadržal zase. Začel je lahkomiselno udarjati z gumbi in vleči vzvode v upanju, da se bo izognil nadzoru svojega samovšečnega in domišljavega ugrabitelja; a ko je spoznal nesmiselnost svojega boja, se je usedel nazaj in težko dihal, njegova energija pa je bila porabljena.

Sekunde so minevale tako počasi v tišini; in kot so to storili, čeprav se je trudil, da ne bi razmišljal, je bil Steve zgrožen, ko se je spraševal, ali je svoboden v sami situaciji, v kateri je bil. Zagotovo je še vedno svoboden, da misli, kar hoče, kajne? Toda če je tako, zakaj si je potem brez kakršnih koli fizičnih omejitev ali kakršne koli elektrode, pritrjene na njegove možgane ali vanje vstavljenega čipa, zdaj drznil odgovoriti na vprašanje, ki mu ga je naročil stroj in kateremu je tako močno nasprotoval odgovarjati zaradi svobode, ki mu je bila tako draga? Nato je na sočasno grozo in olajšanje sprtega rudarja IDEX Sam pojasnil, Steve, lahko greš – kot si pravzaprav vedno bil. Pravzaprav se nisem niti malo vmešal v tvoje potovanje: le malo dobronamerno sem te poigral, da bi te vodil naprej po poti samospoznanja. S tem so se vrata odprla, hkrati pa so se vsak dan.

Steve je stopil ven v slepečo umetno svetlobo Novusove notranjosti, zmajeval z glavo in poskušal usmeriti oči na oborožene spremljevalce Viecorpsa, ki so bili očitno poslani, da bi ga rešili, čeprav odveč. Čeprav ni bil prepričan, ali so bile njegove pravice med preizkušnjo kršene ali ne, je bil Steve prepričan, da bo o svobodi v prihodnosti razmišljal veliko bolj previdno.

Jonathan Sheasby je pisatelj, ki živi v včasih svobodnem in tujem svetu Londona. Dela za Westminster Council.