Moralne slepe pege

Gerald Jones razpravlja o tem, kako presojamo preteklost, kako bomo nekega dne sojeni in kaj lahko storimo glede tega.

Ne vemo, kako nas bo sodila prihodnost – a sodila nam bo. Tako kot se mi ozremo v preteklost in ugotovimo, da je pomanjkanja, tako bodo naši zanamci ugotovili, da smo poželeni. V naših družbenih in moralnih praksah so pomanjkljivosti, ki jih ne moremo povsem videti; toda če to vemo, lahko poiščemo te moralne slepe pege in jih osvetlimo. Zelo sem bil razburjen, ko mi je šef povedal, da me bodo odpustili. V podjetju sem delal 10 let in mislil sem, da delo opravljam dobro. Nisem vedel, kaj naj naredim naprej.

Vendar je v našem primeru nekaj bistveno drugače. V Frankensteinu je človek ustvaril različico samega sebe, vendar je s tem oblikoval pošast, ki je ni bilo mogoče nadzorovati in ki je svojemu stvarniku izrekla strašno sodbo. Prvič v naši zgodovini imamo tehnologijo in voljo, da naredimo to, kar je naredil Victor Frankenstein. Blizu smo možnosti, da se preobrazimo in ustvarimo um po lastni podobi. Transhumanizem ni več znanstvena fantastika in zdi se, da je umetna inteligenca tik pred obzorjem. Ne glede na to, ali gre za umetni um ali biološko izboljšavo, nas bo naše ustvarjanje nekega dne morda obsojalo z enakim strašnim izidom kot v Frankensteinu. V tem smislu napovedani roman Mary Shelley meče svojo senco na nas bolj kot kdaj koli prej in dobro bi bilo, če bi upoštevali njegovo sporočilo. Ne morem verjeti, da se je to pravkar zgodilo. Bil sem v coni in potem bum, konec je bilo. Ne vem, kaj se je zgodilo.

A najprej si poglejmo, zakaj tega morda ne moremo.



Zgodovinski enostavni primeri

Moralni filozofi so pogosto ponosni na to, da se ukvarjajo s »težkimi primeri« – težkimi moralnimi dilemami, ki preizkušajo etično teorijo, mečejo ostro luč na njene napake in nato spodbudijo razpravo o etiki naprej. Toda tukaj raje razmislimo o 'lahkih primerih' za etiko, zlasti zgodovinsko lahki primeri ; to je tiste prakse preteklih civilizacij, ki jih neposredno sodimo in obsojamo. Naše natančno preučevanje zgodovinsko enostavnih primerov bo spodbudilo nov koncept – moralnih slepih peg –, ki bo podvomil o naši lastni etični gotovosti.

Vzemimo zgodovinsko lahek primer Lindow Mana. Nekoč v prvem stoletju našega štetja so na oddaljenem barju v Cheshiru v Angliji mladeniča visokega rodu obredno ubili, ali bolje rečeno, prekomerno ubili: prerezali so mu grlo, s sekiro so ga razrezali po glavi in ​​garotirali ter njegovo golo telo vržen v barje.

Všeč mi je
Všeč mi je
Jean-Leon Gerome 1872

Sodobne rimske sodbe o obrednem žrtvovanju so bile ostre: rimski komentatorji so zapustili številne opise grozljivih vraževernih praks keltskega žrtvovanja ljudi, vključno z govoricami o ogromnih Pletenih možeh, v katere so zgnali ljudi, da bi jih žive zažgali.

Delimo enak odpor nad človeškimi žrtvami kot Cezar in prijatelji. Še nekaj pa nas prešine: kako so lahko Rimljani tako ostro obsodili Kelte, sami pa izvajajo ritualne zakole ljudi v takšnem obsegu, kot ga v keltski Evropi ni bilo? Mary Beard ocenjuje, da je stopnja smrtnosti 8000 gladiatorjev na leto – kar pomeni, da je skozi stoletja v arenah po rimskem imperiju umrlo na sto tisoče mladih moških.

Moralno obsojanje gladiatorskih bojev je zdaj nesporno, saj združuje zgodovinsko distanco (ki vedno olajša presojo; navsezadnje ni starih Rimljanov, ki bi se lahko razlagali ali užalili) z obsodbami suženjstva (večina gladiatorjev je bila sužnjev), ubijanja za zabavo (v Kolosej bi lahko stlačili 50.000 gledalcev, ki tiščijo palec) in smrt v industrijskem obsegu (skoraj 10.000 gladiatorjev se je borilo v igrah, da bi proslavili Trajanovo zmago nad Dačani). Zakaj Rimljani niso mogli videti tega, kar lahko zdaj zlahka vidimo - da je tako kot obredno žrtvovanje Keltov tudi njihovo ubijanje ljudi za zabavo moralno neopravičljivo?

Preteklost vsebuje veliko takšnih primerov lahkih moralnih primerov, kjer so dejanja naših prednikov tako odvratna, da se sprašujemo, zakaj tega sami niso videli. Pogosto citirani primeri zgodovinsko lahkih primerov vključujejo: suženjstvo, ki ga sponzorira država; cerkveno razširjena mizoginija; obglavljenje sovražnikov v vojni; mučenje zapornikov v miru; vsesplošen zakol živali – čakaj, to še kar traja…

Naši etični predhodniki so živeli v takih družbah. Bili so redki misleci, ki so imeli jasen pogled na to, kako bi moralno tkivo njihovega vesolja lahko bilo stkano drugače, in ki so utirali pot do novega načina razmišljanja in življenja. In vendar ... in vendar, celo ti progresivci, ki so se dvignili na moralni položaj in bi morali vedeti bolje, tolerirali ali spodbujali ali sodelovali v družbenih praksah, ki jih zdaj ocenjujemo kot odvratne. Takšni misleci vključujejo Aristotela, ki je skupaj z drugimi starodavnimi filozofi menil, da so ženske po naravi nižje od moških; Tertulijan, ki je bil skupaj z drugimi kristjani Rimljani zagovornik suženjstva; Bentham, ki je kljub temu, da je o živalih rekel, da »vprašanje ni, ali lahko razmišljajo?« ... ampak »ali lahko trpijo?«, je še vedno vsak dan jedel meso; Heidegger, ki je bil skupaj s številnimi drugimi weimarskimi intelektualci antisemitski nacist ... seznam se lahko nadaljuje. Ali so prezrli besede pridigarja iz prvega stoletja, ki nas je vse opominjal, naj vzamemo desko iz lastnega očesa, preden skušamo odstraniti iver iz bratovega? Ali pa so bile le deske naokoli, da nihče ne vidi?

Moralne slepe pege

Razširjenost zgodovinsko enostavnih primerov kaže na to, da so civilizacije naših prednikov in naši moralni predniki postali žrtev figurativne slepe pege.

Vsi imamo dobesedno slepo pego – disk na zadnji strani vsakega očesa, kjer optični živec doseže mrežnico in ni nobenih paličic ali stožcev, ki bi sprejeli in obdelali svetlobo, ki tam zadene. S tega optičnega diska torej ni na voljo nobenih vizualnih informacij. Običajno praznino zapolnijo naši možgani ali drugo oko.

pika in križec

Svojo mrtvo pego lahko poiščete na naslednji način:

• Nagnite stran na stran in zaprite desno oko.

• Držite stran na razdalji roke in se osredotočite na • . S kotičkom očesa bi morali videti X.

• Zelo počasi premikajte nabojnik proti sebi, tako da • ostanete v fokusu.

• Na neki točki bo X izginil, saj svetloba, ki se odbija od njega, pade na slepo pego vašega odprtega očesa.

S samo enim odprtim očesom nismo mogli videti X, ne glede na to, kako zelo smo se trudili. Tako je, kot da bi imeli naši predniki le eno oko odprto, ko je šlo za moralo, in ne bi mogli videti nedoslednosti v njihovi uporabi svojih vrednot. Torej se 'moralna slepa pega' nanaša na psihološko pristranskost in omejitve, ki jih imamo kot posamezniki in kot skupnosti, kar nam preprečuje, da bi videli pomanjkljivosti ali nedoslednosti v naših moralnih presojah, dejanjih in družbenih praksah. Toda ko se ozremo nazaj na kulturne prakse naših prednikov, to počnemo z obema odprtima očesoma: vidimo lahko, da če rimski komentator Strabon obsoja Kelte zaradi njihove prakse žrtvovanja ljudi, potem bi moral obsoditi tudi gladiatorske boje; lahko vidimo, da če Bentham trdi, da živalim ne smemo povzročati nepotrebnega trpljenja, potem ne bi smel jesti toliko mesa.

Vsaka družba ima pogled na svoje predhodnike in jih presoja, tudi družbe, ki so se ozirale na prejšnje civilizacije, kot da so veličastna zlata doba. Renesančni misleci, kot je Fra Acciaiuoli, so priznavali tako barbarstvo kot lepoto starega Rima in pozivali svoje sodobnike, naj obsojajo prvo, čeprav posnemajo drugo. Petsto let pozneje vidimo lepoto v Italiji Fra Acciaiuolija in jo hvalimo, hkrati pa smo zgroženi nad sistemsko mizoginijo tako renesančne kulture kot Cerkve iz obdobja reformacije, ki je spodbujala poboje morda celo desettisočev žensk kot čarovnic.

Ta sodba preteklosti je vseprežemajoča. Ali je torej verjetno, da čeprav vidimo moralne slepe pege v vsaki prejšnji družbi, sami nimamo moralnih slepih peg? Ne glede na to, kako moralno izobraženi se nam zdi, ne bomo imuni na grajo naših zanamcev. Nekega dne bodo nekatere naše standardno sprejete družbene in kulturne prakse obravnavane kot le bolj zgodovinsko preprosti primeri.

Slepe pege nevednosti in slepe pege šibkosti

Obstajajo različne razlage filozofov in psihologov o tem, zakaj Rimljani niso mogli videti krutosti gladiatorskih iger ali zakaj so razsvetljenski filozofi našli malo razlogov za razširitev pravic na sužnje. Koncept moralne slepe pege torej zajema spekter različnih razlag:

Vrsta 1: Moralna slepota – ne vidimo, kaj bi lahko bilo narobe, morda nimamo potrebnih dejstev, ki bi nam omogočila presojo. William Talbot vseskozi razpravlja o moralni slepoti Katere pravice bi morale biti univerzalne? (2005).

Vrsta 2: Moralna kratkovidnost – nekega vprašanja ne vidimo kot moralno vprašanje, morda kot rezultat izkrivljanja naše moralne vizije. Minette Drumwright in Patrick Murphy sta skovala to besedno zvezo v svoji analizi poslovne etike v 'Kako praktiki oglaševanja gledajo na etiko' (2004).

Vrsta 3: Moralno samozadovoljstvo – premalo iščemo, kaj bi lahko bilo narobe, morda smo preveč prepričani o lastni dobroti. Immanuel Kant v svoji analizi dobre volje v Temelji metafizike morale (1785).

Vrsta 4: Moralna kognitivna disonanca – lahko vidimo protislovje ali konflikt v naših vrednotah in dejanjih, vendar smo razvili strategije, da to znanje blokiramo pri sprejemanju odločitev. Lawrence Kohlberg v delu 'The Claim to Moral Adequacy of a Highest Stage of Moral Judgement' (1973) trdi, da nam zmanjšanje kognitivne disonance lahko pomaga razviti bolj sofisticirano moralno razumevanje, vendar ugotavlja, da takšna moralna rast ni samodejna in bo veliko težje za nekatere posameznike in v nekaterih družbah.

Vrsta 5: Moralno zatiskanje oči – vidimo, da svoja moralna načela uporabljamo nedosledno, vendar se od tega obrnemo stran, kot da se ne dogaja. Psihoanalitik John Steiner identificira proces Zatiskanje oči (1985) kot običajen mehanizem za obravnavanje (tj. ignoriranje) dejstev, ki jih poznamo, a nam niso prijetna.

Tip 6: Moralna šibkost – vidimo, kaj bi lahko bilo narobe, vendar zaradi šibkosti volje ne storimo ničesar. To opažanje ima dolgo zgodovino: v Etika , Aristotel trdi, da je šibkost volje ( akrasia v grščini) pojasnjuje, zakaj ne ravnamo pravilno, tudi če to vidimo.

Vrsta 7: Moralna nemost – lahko vidimo, kaj bi lahko bilo narobe, vendar o tem ne govorimo (morda zaradi strahu, zatiranja, konvencije ali tabujev) in tako se nič ne spremeni. Ta koncept je tako kot moralna kratkovidnost izšel iz sodobne poslovne etike – zlasti Fredericka Birda in Jamesa Watersa v 'Moralna nemost managerjev' (1989).

Teh sedem vrst je mogoče združiti v dve kategoriji (kar bi Aristotel odobril, saj je rad kategoriziral stvari):

Moralne slepe pege nevednosti ( Vrste 1-3 ): Ne vedeti in ne videti, da je družbena praksa napačna.

Moralne slepe pege šibkosti ( Vrste 4-7 ): Videti nekaj narobe, vendar tega ni pripravljen spremeniti.

Razumevanje te razpršenosti razlogov bi moralo narediti naše sodbe o moralnih slepih pegah bolj niansirane: kdaj so naši predniki nevede vedeli za problematična dejstva, prakse in nedoslednosti; in kdaj so se namerno obrnili stran ali se pretvarjali, da te težave ne obstajajo?

Pomen koncepta

Zavedanje možnosti moralnih slepih peg bo spremenilo naš pogled na lastno kulturo. Zbodlo bo našo samopravičnost; vreči dvome o naših moralnih prepričanjih; nas prisilijo, da pregledamo lastno vedenje in natančno preučimo lastno kognitivno disonanco – katera dejstva zdaj ignoriramo, ki so pomembna za naše moralno delovanje? In spodbudilo nas bo, da ponudimo podporo moralnim zgodnjim posvojiteljem – kateri od naših sodobnikov bo nekega dne priznan kot Mary Wollstonecraft ali Martin Luther King zgodnjega enaindvajsetega stoletja? Iskanje naših moralnih slepih peg nas bo spodbudilo k predvidevanju, kako nas bodo nekega dne sodili naši potomci, in morda 'prihodnost dokaz' naših moralnih praks.

Koncept naj bi nas tudi prisilil, da stopimo z moralne višine tako do naših prednikov kot do sodobnikov. Vsi, tudi moralni reformatorji, imamo moralne slepe pege in to bi se moralo odražati v bolj niansirani presoji preteklosti. Vzemite ta primer:

• Xavier je filozof iz osemnajstega stoletja, ki se bori proti suženjstvu, vendar ne razmišlja o slabem ravnanju in zatiranju žensk. Ve, da takšna neenakost obstaja, vendar zaradi moralne neme ne naredi ničesar, da bi ozaveščal ali preprečil takšno škodo.

• Yasmine je filozofinja dvajsetega stoletja, ki obsoja Xavierja. Yasmine se bori in zagovarja proti podrejanju žensk, vendar ne razmišlja o slabem ravnanju in zatiranju gejev, lezbijk ali transspolnih oseb. Zaveda se, da takšna neenakost obstaja, vendar zaradi tega, ker si moralno zatiska oči, ne naredi ničesar za ozaveščanje ali preprečitev takšne škode.

• Zac je filozof iz enaindvajsetega stoletja, ki obsoja Yasmine. Zac je prebujen zaradi intersekcionalnosti in se neumorno bori za enakost LGBTQ+, vendar nima pomislekov glede vožnje na kratke razdalje z avtomobilom, toleriranja odvečne plastike v embalaži hrane, letanja po svetu in uživanja mesa. Zac se zaveda škode, ki jo to povzroča okolju in živalim, vendar zaradi šibkosti volje ne naredi ničesar, da bi ozaveščal ali preprečil takšno škodo.

Zdi se, da trenutna konvencija dopušča javno obsodbo Xavierja/Yasmine/Zaca zaradi njihovih moralnih napak na enem etičnem področju, kljub njihovemu delu kot moralni reformatorji na drugem področju. Toda razumevanje moralnih slepih peg bi prineslo bolj niansirano oceno teh mislecev. Morda bi Zac rekel, priznavam, da sta imela Yasmine in Xavier moralne slepe pege. To ni dobro in želim si, da ne bi bilo tako, vendar razumem, zakaj, in vzel bom njihovo progresivno delo ter ga nadgradil. Tako kot upam, da bodo nekoč v prihodnosti moje lastne moralne slepe pege razumljene in da bo moje napredno delo vendarle nadgrajeno.

Moralne slepe pege in moralni realizem

Na tej točki je pomembno, da se posvetimo metaetičnemu slonu v sobi – namreč vprašanju moralnega realizma. Zdaj se izogibamo temu, za kar verjamemo, da so moralne napake naših prednikov, ker lahko vidimo, česar oni niso mogli: vsaj v teoriji smo odpravili suženjstvo, prestrelili zlorabe otrok, razširili pravice vsem, ustavili človeške žrtve. , itd. Te pozitivne spremembe pomenijo moralni napredek. Zdi se, da zamisel o moralnem napredku nakazuje, da mora obstajati objektivno moralno merilo, s katerim je mogoče meriti naše moralne sodbe – kar je stališče moralnega realista. Torej je koncept moralnih slepih peg udobno združljiv z moralnim realizmom.

Kaj pa, če moralni realizem ni pravilen? Kaj pa, če morala ni objektivna, ampak je relativna glede na vsako družbo, ki ustvarja svoja lastna moralna načela in pravila? Ali zaradi moralnega relativizma koncept moralnega napredka in moralne slepe pege postanejo nekoherentni ali nepomembni?

Na prvi pogled se morda zdi tako. Konec koncev, če je morala relativna, potem ni zunanjega standarda, ki bi ga lahko uporabili, da bi rekli, da 'naša družba ne dela več moralnih napak' ali 'naši predniki so se zmotili' (saj je njihova morala ustrezala njihovi kulturi).

Vendar pa sedem vzrokov za moralne slepe pege, ki sem jih opisal zgoraj, ostaja relevantnih, tudi če ni objektivne morale. To je zato, ker vsaka vrsta sproža praktična vprašanja, ki bodo, če jih bomo obravnavali, izboljšala naše presoje ter jih naredila bolj razumne in dosledne. Po drugi strani pa je moralni relativistični odgovor na vsako vrsto lahko:

(1) Moralna slepota . Lahko se potrudimo za iskanje dejstev;

(2) Moralna kratkovidnost . Lahko postanemo jasni, kdaj je vprašanje moralno vprašanje;

(3) Moralno samozadovoljstvo . Kot družba lahko spodbujamo samokritičnost in izziv;

(4) Moralna kognitivna disonanca . Lahko poskušamo identificirati in odstraniti morebitna protislovja v našem sistemu vrednot;

(5) Moralno zatiskanje oči . Lahko priznamo hinavščino ali nedoslednost in si prizadevamo biti dosledni pri uporabi svojih vrednot;

(6) Moralna šibkost . Identificiramo lahko strategije za premagovanje posamezne šibkosti volje;

(7) Moralna nemost . Lahko se pogovarjamo o moralnih vprašanjih ter ustvarjamo strukture in zakone, ki spodbujajo odprt dialog.

Nobeno od teh dejanj ni odvisno od moralnega realizma, vendar so vsa dejanja, ki bodo, če bodo uspešna, vodila k napredku tudi z moralno relativističnega vidika in nas naredila boljšega položaja za premagovanje naših moralnih slepih peg. Ne glede na to, ali je morala objektivna ali relativna, nam je koncept moralnih slepih peg še vedno koristen pri preverjanju našega moralnega okvira v prihodnosti.

Kakšne so torej naše moralne slepe pege?

Zdaj smo prišli do bistva zadeve. Kako nas bodo sodili naši zanamci? Katere moralne slepe pege smo dovzetni, za katere trenutno sami ne moremo videti?

notri Homo Deus (2015) Yuval Harari z grozo govori o tem, kako nas bodo v prihodnosti obsojali zaradi našega ravnanja z živalmi. Medtem Barack Obama govori o tem, da je Putin 'na napačni strani zgodovine'. Molly Ringwald se ozre nazaj na filme, ki jih je posnela z Johnom Hughesom v osemdesetih, in jo preseneti režiserjeva moralna slepa pega pri uporabi rasističnih stereotipov. In v prejšnji izdaji te cenjene revije Peter Adamson sprašuje, kaj lahko storite ko je tvoj najljubši filozof fanatik ( Filozofija zdaj številka 123).

Steven Pinker je z Mattom Ridleyjem razpravljal o tem, katere naše rutinske navade bomo čez nekaj generacij gledali z največjo grozo ( Ali so najboljši dnevi človeštva pred nami? ). Pinker je dejal, da je enostavno: to je prehranjevanje z mesom, ki ga podpira industrijska vzreja živali za zakol. Vsako leto po vsem svetu ubijemo šestdeset milijard piščancev, milijardo ovc in tristo milijonov krav v okoliščinah, ki so pogosto barbarske. In vendar, tako kot Bentham, naša moralna slepa pega pomeni, da ne moremo zmanjšati porabe mesa.

notri Širi se krog (1981), Peter Singer trdi, da se naše kulturne in moralne prakse razvijajo, ko se družbe srečujejo z drugimi skupnostmi. Iz teh spopadov izhaja širše razumevanje tega, kdo je »v plemenu« in torej, kdo velja za vrednega moralne vrednosti. Ta krog, ki se širi, je vodil do odprave suženjstva, emancipacije žensk, splošne volilne pravice, zaščite otrok in razširitve pravic na živali. Z razumevanjem te moralne poti si lahko predstavljamo, da naši potomci nadaljujejo s širjenjem tega kroga, da bi nekega dne vključili okolje (in tako obsodili našo moralno slepo pego do njega) in tudi umetno inteligenco.

Filozof Kwame Anthony Appiah zastavlja vprašanje 'Za kaj nas bodo prihodnje generacije obsojale?' Washington Post (26. september 2010). Poudarja štiri naše moralne slepe pege: naš zaporni sistem; naša institucionalizacija in izolacija starejših; (spet) naše uničevanje okolja; in (spet) naša industrijska proizvodnja mesa. Na Appiahov seznam bi lahko dodali: nadaljevanje razširjene tolerance do seksizma in mizoginije, na primer na delovnem mestu, v pornografiji in v vsakdanjem življenju; množična izumrtja, ki jih je ustvaril človek (skozi tako imenovano »antropocensko« obdobje); neomejeno potrošništvo z oskrbovalnimi linijami, ki segajo do otroškega ali izkoriščevalskega dela; nadaljnje toleriranje gospodarskega sistema, ki omogoča majhno manjšino super bogatih poleg milijard revnih; in neuspeh obravnave ablizma, to je stalne izključenosti invalidov iz sodelovanja pri delu in v družbi (to vključuje vsakodnevno uporabo izrazov, kot sta 'slepa pega' ali 'kratkovidnost' kot negativnih deskriptorjev).

To so moralne slepe pege, ki jih začenjamo opažati. Še vedno nas lahko obsojajo, ker nismo dovolj hitro ukrepali proti njim – so slepe pege šibkosti. Toda obstajale bodo druge moralne slepe pege, ki jih zdaj sploh ne moremo videti – slepe pege nevednosti.

Moralne slepe pege, transhumanizem in umetna inteligenca

Ne moremo domnevati, da bodo naši potomci podobni nam – zaradi česar bo naše 'slepe pege nevednosti', ki jih bodo videli, skoraj nemogoče identificirati, saj bodo imeli naši potomci drugačne kulturno obdarjene miselne aparature, ki jim bodo omogočali, da vidijo tisto, česar mi ne moremo. Vse večja pa je zaskrbljenost, ki so jo izrazili Nick Bostrom, etik z univerze v Oxfordu, in drugi, da bodo tudi naši potomci dobesedno imajo drugačen mentalni aparat – ne bodo ljudje, ampak nadčloveki.

'Transhumanizem' opisuje ohlapno gibanje v različnih disciplinah, katerih cilj je izboljšati človeška bitja z uporabo tehnologije in/ali genetike. Izboljšave lahko vključujejo boljše zdravje, daljše življenje, večjo inteligenco, globlje zaznavanje. Transhumanizem obsega vrsto načinov, na katere je mogoče doseči človeško modifikacijo z uporabo tehnologije v naših telesih, vključno z gensko izboljšavo (genski pregled/profiliranje/terapija), nanotehnologijo in kiborgizacijo (ljudje z organskimi in mehanskimi telesnimi deli – kot so tisti, ki so danes). razvit za pomoč ljudem s sindromom zaprtosti pri komunikaciji in gibanju).

Obeta se tudi razvoj superinteligence. Bostrom to opredeljuje kot vsak intelekt, ki močno presega kognitivno zmogljivost ljudi na skoraj vseh področjih, ki jih zanimajo. Predvsem se nanaša na eksponentne možnosti umetne inteligence, ko je bila inteligenca človeškega tipa ponovljena v strojih, lahko pa se nanaša tudi na močno izboljšane človeške kognitivne sposobnosti.

Vendar pa obstajajo tudi možne težave s tem razvojem dogodkov, ki kažejo moralno slepo pego v naši družbi potencialno izjemnega pomena.

Frankenstein dobro ponazarja pomembne moralne slepe pege, ki jih imajo ljudje pogosto, ko sledijo znanstvenemu in tehnološkemu napredku, kot je naša sposobnost, da ignoriramo našo nezmožnost predvidevanja morebitnih katastrofalnih rezultatov naše ustvarjalnosti in eksperimentiranja, in naše samozadovoljstvo glede sprejemanja ustreznih (ali kakršnih koli resnično učinkovitih) previdnostne ukrepe za zmanjšanje resnih tveganj. Zaskrbljenost je torej v tem, da smo, tako kot pri zdravniku Mary Shelley, v zgodnjih fazah ustvarjanja nečesa, bodisi nadčloveškega ali umetne inteligence, česar ne bomo mogli nadzorovati in kar nam bo nekega dne sodilo. Bostrom to opisuje kot eksistencialno grožnjo človeštvu in poziva filozofe, znanstvenike in oblikovalce politik, naj vzpostavijo nadzorne mehanizme, preden nadaljujemo z nadaljnjimi raziskavami na katerem koli področju, da preprečimo, da bi nas katera od naših stvaritev obsojala in eliminirala zaradi morale. razloge, ki jih lahko vidi samo.

Gerald Jones je soavtor najbolj prodajane serije 'Filozofija v fokusu' in učbenikov A Level Philosophy za Hodderja.