Ali so lahko roboti etični?

Ne, pravi Robert Newman .

Ali bi morala biti vozila brez voznika, ki jih razvijajo Apple, Google in Daimler, programirana za namestitev na pločnik, da bi se izognili čelnemu trčenju? Ali jih je treba programirati, da zavijejo in zadenejo eno osebo, da ne bi zadeli dveh? Dva namesto štirih? Štirje namesto tovornjaka, polnega nevarnih kemikalij? Avtomobili brez voznika, programirani za izbiro med temi možnostmi, bi bili en primer tega, kar je znanstvena revija Nature imenovala 'etični roboti'. Druga je naslednja generacija orožja. Če brezpilotna letala niso bila dovolj slaba, Ministrstvo za obrambo ZDA razvija Lethal Autonomous Weapons Systems (LAWS). Ti izberejo lasten seznam ubijanja z uporabo nabora algoritmov in ne potrebujejo človeškega posredovanja, ne glede na to, kako daleč so. Avtonomni brezpilotni letalniki v razvoju vključujejo majhne rotorcrafte, manjše od žogice za namizni tenis, ki bodo lahko lebdeli skozi domove, trgovine in pisarne ter prebadali lobanjo. Zdravniki so rekli, da moj mož ne bo imel dolgo časa. Bil sem uničen. Nisem si mogla predstavljati življenja brez njega. Zdravniki so rekli, da moževa prognoza ni dobra. Bil sem uničen. Nisem si mogla predstavljati življenja brez njega.

Julija 2015 je revija Nature objavila članek 'The Robot's Dilemma', v katerem je trdilo, da so računalniški znanstveniki napisali logični program, ki lahko uspešno sprejme odločitev ... ki upošteva, ali je povzročena škoda predviden rezultat dejanja ali preprosto potrebna. temu. (Tukaj se mi zdi beseda 'uspešno' srhljiva; vendar ne tako srhljiva kot 'preprosto potrebna'.) Eden od znanstvenikov, ki stojijo za 'uspešnim' programom, trdi, da se človeške etične odločitve sprejemajo na podoben način: Logika je, kako ... pridemo z našimi etičnimi odločitvami. Toda to skoraj ne more biti res. Trditi, da je logično način, kako sprejemamo svoje etične odločitve, pomeni sklicevati se na to, kar ameriška filozofinja Hilary Putnam opisuje kot udobno predpostavko iz osemnajstega stoletja, da bi vsi inteligentni in dobro obveščeni ljudje, ki bi obvladali umetnost nepristranskega razmišljanja o človeških dejanjih in problemih, čutili ustrezne 'občutke' odobravanja in neodobravanja v enakih okoliščinah, razen če je bilo kaj narobe z njihovo osebno konstitucijo (The Collapse of the Fact/Value Dichotomy and Other Essays, 2002). Vendar, v dobrem ali slabem, so etične odločitve pogosto v nasprotju z logiko. Lahko izhajajo iz čustev, naravnega preklinjanja, nejasnega namigovanja, instinkta ali celo domišljije. Na primer, korakam skozi Severno Karolino z vojsko Unije, popolnoma logično prepričan, da bo le vojaška zmaga nad Konfederacijo odpravila sovražno institucijo suženjstva. Ko pa zagledam obraz sovražnika – skuštranega, obutega sedemnajstletnika – odvržem puško in vpijejoč zbežim z bojišča. To je etična odločitev, ki ima za posledico odločno ukrepanje: le da ni sprejeta hladnokrvno in je v nasprotju z logiko mojega stališča. Pogrešal bom to mesto. To je moj dom zadnja štiri leta. Tukaj sem ustvaril toliko spominov. Pogrešal bom vse svoje prijatelje. Pogrešal bom mesto. Pogrešal bom hrano. Pogrešal bom vse o tem mestu.

Descartesov sistem
Descartesov sistem Peter Pullen 2015 peterpullen.weebly.com

Program etičnega robota, ki ni sposoben opraviti težkega človeškega dela preučevanja nezdružljivih idej, jih preprosto izključi. Če na primer ameriško obrambno ministrstvo želi, da je LAWS 'uspešen' orožni sistem, je bolje, da njihov etični vnos podatkov izključi Mednarodni pakt o državljanskih in političnih pravicah (1966) z njegovimi določbami o varnosti oseb, postopkovni pravičnosti. , in pravice obtožencev – drugače bi lahko dron obrnil rep in usmeril svoj ogenj na tiste, ki so dali krila njegovi večni misiji neomejenega izvensodnega ubijanja.



Pogovor o proceduralni pravičnosti nas pripelje do filozofa, čigar delo po mojem mnenju ponuja dragocen vpogled v težave, povezane z 'etičnimi roboti'. Kot obveščevalca med drugo svetovno vojno je Stuart Hampshire zaradi zasliševanja višjih nacistov zagovarjal primat procesne pravičnosti nad vsemi drugimi koncepti pravičnosti. Pravice v širšem smislu ne more biti brez pravice v ožjem, procesnem smislu, je dejal. Tudi če je izid sojenja s poroto enak izidu kengurujskega sodišča, zaradi pravilnega postopka ena sodba ostane pravična, druga pa nepravična.

Enako je z avtomatiziranim pravom. Vsi gigabajti na svetu ne bodo nikoli naredili nabora algoritmov poštenega sojenja. Namesto tega pravičnost pomeni, da nam sodijo državljani iz mesa in krvi v poštenem procesu – iz mesa in krvi, ker žrtve vedno bolj zahtevajo, da sodišče upošteva njihovo psihološko in čustveno trpljenje. Po svoji naravi pravičnost ne more biti neosebna in vseeno pravična. Uporabi vsakega človeka po njegovem zapustu, se Hamlet obrne na Polonija, in kdo se bo izognil bičanju?

Prenos etike na robote je neetično ne samo zato, ker roboti delajo binarno kodo, ne etike, ampak tudi zato, ker noben program nikoli ne bi mogel obdelati neprecenljivih nepredvidenih okoliščin, premikajočih se tankosti in zapletenosti, ki so posledica celo najpreprostejšega primera, ki je postavljen pred sodnika in poroto. In vendar je pravo še en kandidat za zunanje izvajanje, in sicer 'etičnih' robotskih odvetnikov. Lansko leto je med oddajo BBC Radio 4 o čudesih robotike višji vodstveni delavec IBM-a pojasnil, da čeprav roboti ne morejo opravljati mučnih ročnih del vrtnarjev ali hišnikov, lahko zlahka opravijo vse to. pravniki storiti, in kmalu bodo človeški odvetniki odveč. Vendar, ko je bil podpredsednik IBM-a Bob Moffat sam na sojenju na zveznem sodišču v Manhattnu, obtožen največjega trgovanja na podlagi notranjih informacij hedge skladov v zgodovini, je nerazložljivo vse svoje upe položil na enega od tistih starih človeških zagovornikov. Odvetnik robot ga je morda rešil, da bi bil spoznan za krivega v dveh točkah zarote in goljufije, toda ko je prišlo do stiske, je IBM-ov podpredsednik tako dobro kot vsi mi vedel, da je fraza 'etični roboti' protislovna.

Robertova serija BBC Radio 4 se začne oddajati 8. oktobra ob 23.30, imenovana Popolnoma natančna enciklopedija evolucije Roberta Newmana . Knjiga s podobnim naslovom, Povsem natančna enciklopedija evolucije , je 1. oktobra objavila družba Freight.