Vojna z insektoidi

Luís Cordeiro-Rodrigues in Ricardo Tavares najti dobre namene, ki vodijo v napačno smer.

Pod XR476: Prijava s prepoznavanjem obraza.

Pod XR476: Posnemite glas.

Kako bi lahko tako končali? Ne vem ... sploh ne vem, zakaj to snemam ... Mogoče zaradi slabe vesti. Nimam upanja na pomoč. Mislim, da nam nihče ne more pomagati ... In zaslužimo si, kar imamo. Prekleto, morda si to zaslužim bolj kot kdorkoli drug ... Če katera druga civilizacija prejme ta posnetek, upam, da se lahko učite iz napak naše vrste. Tako sem jezen na svojega šefa. Ne morem verjeti, da bi tako ravnal z mano. Zelo se trudim zanj in tako mi vrača. Pustil bom to službo in si našel nekaj boljšega.



Kaj se je zgodilo? No, začelo se je, ko so politične napetosti v prvi polovici enaindvajsetega stoletja sprožile globalno jedrsko vojno med vzhodom in zahodom, severom in jugom. Zemlja je ostala uničena. Bila sem tako jezna, ko sem videla, kaj je naredil. Nisem mogel verjeti, da bi naredil kaj takega.

Po veliki jedrski vojni so ZN človeštvu prepovedali uporabo vojaškega orožja. Namesto tega so bile takšne odločitve prenesene na AI. Seveda so bili: ljudje imamo preveč…. a … pohlep … preveč zlobnost v nas, da se odločimo za take stvari! Še posebej jaz . Prekleto! Zato smo v tej situaciji – zaradi moj želja po pisanju popolne kode!

Vodil sem ekipo, ki je bila odgovorna za programiranje stroja, ki bi beležil moralne preference sveta in jih nato uporabil za programiranje, tako da bi sprejemal dobre moralne odločitve o vojnah. Želeli smo ustvariti umetno moralno skorjo, ki svoje odločitve črpa iz pogledov državljanov sveta s pomočjo strojnega učenja. Si lahko predstavljate? To bi bila najbolj prefinjena demokracija. Umetno odločanje smo do zdaj poskušali le z avtomobili. To je bilo prvič, da sem poskusil z orožjem. To je bil izziv, ki sem se ga res želel lotiti.

Svojega otroka sem klicala 'Pravičnost'. Justice smo postavili na splet, da bi zbrali tako rekoč vse državljane sveta o moralnih pogledih na vojno. Državljani so se morali odzvati na sto vojnih dilem tako, da so kliknili svoje želene rezultate iz nabora izbir. Pravičnost sem programiral, da naredi tisto, za kar so glasovali ljudje – in tako ustvaril, kar se mi je zdelo brezhiben kodeks, ki je presegel egocentrični razum in individualne moralne pristranskosti. Sistem je tudi redno pregledoval znanstvene članke, ki so pomembni za moralne presoje v velikem obsegu, se učil iz njihovih rezultatov in statističnih podatkov ter jih nato vključil v svoje izračune.

Vojna z insektoidi
Vojna z insektoidi Camerona Graya 2021
Obiščite ParableVisions.com in Facebook.com/CameronGrayTheArtist

Rezultati vojne preizkušnje so se razlikovali glede na kulturo in demografijo. Vendar se je po nalaganju vseh informacij skupno izkazalo, da je utilitarizem najprimernejši moralni pogled. Tako je na koncu pravičnost dovolila uporabo orožja le, če je bila izračunana kardinalna uporabnost ali splošna korist vojne višja kot brez vojne. In edini način za deaktiviranje njegovega nadzora nad orožjem je bil, da je določeni uporabnik opravil test, ki ga je sam ustvaril in določil Justice.

Mislili smo, da je Justice popoln in bili smo res ponosni na to. Ljudje po vsem svetu so hvalili mene in mojo ekipo za dosežek. Pravica je res delovala zelo dobro in je dolga leta preprečevala vojne po vsem svetu. Naša človeška prisila po agresiji je bila omejena. Moj otrok je bil digitalni Mesija! Vendar…

Vendar se je vse spremenilo tistega dne, ko so Zemljo napadli insektoidi.

Insektoidi so žuželkam podobna vrsta s planeta Kepler 442b, ki kroži okoli zvezde Kepler 442, približno 370 parsekov od Zemlje. So zelo inteligentna bitja v velikosti človeka s supersvetlečimi ladjami, ki potujejo tako, da izkrivljajo prostor-časovni kontinuum. Imajo orožje, ki lahko izkoristi energijo kvantnih nihanj vakuuma. In prišli so, da bi nas iztrebili in kolonizirali Zemljo!

Pravica je izračunala uporabnosti in rezultat je bil, da je bila kardinalna korist ljudi, ki jih Insektoidi ne iztrebijo, 1,8361058104 ... vendar je bila kardinalna korist iztrebljanja človeštva nekaj v redu 10x10 (15-krat)! Računalo je, da nas morajo insektoidi iztrebiti! Nikoli ne bi predvidel, da bi lahko bilo uničenje človeštva najbolj etično dejanje, ki bi ga pravosodje lahko izvršilo. Toda Justice je zaključil, da je bilo izumrtje človeštva upravičena humanitarna akcija. Moj otrok je lastnega očeta obsodil na smrt.

Kako je to mogoče?

Ko nam je uspelo izvesti povratni inženiring Justiceovih izračunov, so pokazali, da je Justice ugotovil, da Insektoidi rešujejo zemeljske žuželke pred genocidom, ki ga povzroči človek ... in na vsakega človeka pride približno 1,4 milijarde žuželk! Človeštvo je že onesnažilo zrak in vodo, preveč urbaniziralo okolje, vsesplošno uporabljalo strupene pesticide in imelo jedrsko vojno. Skupaj bi že ubili 40 % žuželk na Zemlji. Justice je izračunal, da bodo žuželke, če nas ne ustavijo popolnoma izginejo v manj kot sto letih. Povzročali smo apokalipso žuželk.

To še ni vse. Smrt skoraj polovice prebivalcev planeta žuželk je že povzročila neuravnoteženost ekosistema planeta in ubila na tisoče živalskih vrst. Številne ribe, plazilci, ptice in dvoživke, ki so jedli žuželke, so umrle od lakote. Smrt žuželk je ustavila tudi opraševanje flore. Na ta način smo pobili že 83 % vrst na Zemlji. Pravičnost je napovedala, da bomo čez 50-100 let pobili ostale in pri tem pobili sebe.

Še huje: ne bi kar uničili vseh vrst na našem planetu. Justice je izračunal, da bomo, ko bomo začeli sistematično izvažati svojo destruktivnost in smeti izven Osončja, v novih ladjah s spiralnim motorjem – ki bodo potovale s hitrostjo, zelo blizu svetlobni –, onesnažili vse eksoplanete, ki so sposobni preživeti, v petnajstih do dvajsetih svetlobnih polmer let, preden bi nas karkoli lahko ustavilo. Pravzaprav so ladje že začele dosegati Proksimo Kentavra b – in njihove posadke so že začele uničevati vsako možnost, da bi ta planet imel čisto atmosfero, ki bi lahko vzdrževala življenje.

Na žalost ne moremo dostopati do svojega orožja. Ne moremo se rešiti pred insektoidi! Milijarde ljudi imamo, da ponovno glasujejo na določene načine v preizkusu, da bi poskušali ustaviti pravičnost. Sama sem ponovila test. Ampak Justice je zatajil vse nas! Kako lahko izračuna, da na Zemlji ni osebe, ki bi bila dovolj moralna, da bi preglasila njene odločitve?

Mi… ahjaz pozabil, da stroji niso dovolj ...

Če je kdo tam zunaj, ki dobi to sporočilo ... jaz ... samo upam, da ne delate istih napak, ki smo jih naredili na Zemlji.

Pod XR476: Dodajte priloge: Degradacija okolja; Velika jedrska vojna; pravičnost; Insektoidi.

Pod XR476: Normalizirajte jezik na univerzalne matematične zakone.

Pod XR476: Nastavite trajektorijo. Planeti Wolf 1061b, Wolf 1061c, Wolf 1061d, ozvezdje Ophiuchus.

Pod XR476: Pošlji.

Luis Cordeiro-Rodrigues je izredni profesor na Oddelku za filozofijo Akademije Yuelu Univerze Hunan. Ricardo Tavares je diplomiral iz filozofije.

• Cordeiro-Rodriguesovo raziskavo za to zgodbo so financirali temeljni raziskovalni skladi univerze Hunan za osrednje univerze, številka sklada 531118010426. Prav tako se želi zahvaliti dr. Wheelerju in dr. Gráciu za njune komentarje.