Vest stroja

avtor Wendell Wallach

Računalniki se dotikajo skoraj vseh vidikov sodobnega življenja, od namiznih sistemov, ki omogočajo zabavo, komunikacijo in raziskovanje, do finančnih sistemov, ki dnevno sprožijo milijone transakcij na svetovnih trgih. Prihajajo tudi roboti. Očitni so že (čeprav morda ne prepoznani) kot gospodinjski aparati, proizvodni sistemi, muzejski vodniki, sistemi za dostavo v bolnišnice, igrače in celo kot smrtonosno orožje, nameščeno v Iraku in Afganistanu. Kmalu bomo imeli storitvene robote, ki bodo skrbeli za starejše in tiste, ki so privezani na dom. Inženirje je vedno skrbela varnost sistemov, ki jih gradijo. Vendar oblikovalci računalniških sistemov ne morejo vedno predvideti, kako bodo ravnali v novih okoliščinah z novimi vložki, zato varnost zahteva, da ko tehnologija postane bolj sofisticirana, bodo računalniki in roboti postali moralni razumniki. Tako filozofi in inženirji začenjajo sodelovati pri izdelavi računalniških sistemov in robotov, ki lahko sprejemajo moralne odločitve. Preostala ekipa je bila v slačilnici in proslavljala našo veliko zmago, toda jaz sem moral od tam. Potreboval sem nekaj časa zase, da sem predelal, kar se je pravkar zgodilo. Ravno sem zadel zmagoviti met in občutek je bil drugačen od česar koli drugega, kar sem kdajkoli doživel. Ko sem šel iz arene, sem se počutil, kot da lebdim v zraku. Bil je neverjeten občutek, ki ga ne bom nikoli pozabil.

Razvoj avtonomnih računalnikov in robotov, ki sprejemajo odločitve, ki lahko vedno bolj vplivajo na ljudi za dobro ali slabo, je povzročil novo področje raziskovanja, različno znano kot strojna morala, strojna etika, prijazna umetna inteligenca, umetna morala in robotetika. Osredotoča se na možnosti za izdelavo računalnikov in robotov, ki so moralni nosilci odločanja. Oblikovanje računalnikov in robotov, ki ne bodo škodovali ljudem, je tako praktičen kot filozofski izziv. Zelo si želim iti na to zabavo, vendar moram delati. Tako sem obupan, da moram delati in zamuditi zabavo. Res sem si želel iti in se malo zabavati. Bom pa vsaj plačan.

'Morala stroja' obravnava številna vprašanja:



• Ali so stroji tiste vrste subjektov, ki načeloma lahko sprejemajo moralne odločitve? Če da, zakaj? Če ne, zakaj ne?

• Je moralno odločanje nekaj, kar je mogoče računalniško podrediti? Če da, kako?

• Ali človeštvo želi, da stroji sprejemajo moralne odločitve? Kdaj? V kakšnih okoliščinah?

• Čigavo ali kakšno moralo je treba izvajati?

Poleg računalniških možnosti so filozofska vprašanja, ki se pojavljajo pri razmišljanju skozi ta vprašanja, zelo bogata.

Etično vedenje strojev določajo vrednote, ki so oblikovane v njihove sisteme. Na začetku bodo zapleteni stroji delovali v omejenih kontekstih in v obsegu, v katerem lahko načrtovalci predvidijo vse situacije, s katerimi se bo stroj srečal, bo (zasnovan tako, da bo) operativno moralen. Ko pa sistemi prestopijo prag, ko oblikovalci in inženirji ne morejo več predvideti, kako se bodo obnašali z novimi vložki, bodo stroji potrebovali neke vrste funkcionalno moralo. To pomeni, da bodo morali pri izbiri načina ukrepanja upoštevati vrsto moralnih vidikov.

Ali bodo stroji sčasoma umetni moralni agenti s človeško podobno inteligenco in samozavedanjem, je tema, o kateri se teoretiki ne strinjajo. Vendar pa ta tema že spodbuja resen razmislek filozofov, pravnih teoretikov in futurologov. Razprave o tem, kdaj so lahko umetni subjekti odgovorni za svoja dejanja in ali si morda zaslužijo lastninske in državljanske pravice, so pospešile razumevanje moralne agencije in pravne odgovornosti.

Medtem ko je futurologija polna fascinantnih in razsvetljujočih miselnih eksperimentov, se glede na razmeroma primitivno stanje današnjih raziskav umetne inteligence razprave nagibajo k zelo špekulativnim možnostim. V bližnji prihodnosti bo strojna morala namenjena predvsem zagotavljanju, da so avtonomni sistemi varni in da njihova dejanja odražajo človeške vrednote.

Ta številka ponuja več člankov, ki se dotikajo različnih dimenzij strojne morale. Prvi, ' Izziv moralnih strojev « razširja moj kratek uvod v to novo področje z orisom osnovnih vprašanj.

Velik del vznemirjenja, ki izhaja iz strojne morale, je posledica načina, na katerega nas sili, da človeško etiko in odločanje obravnavamo na nove načine. Na primer, ali je nujno imeti čustva ali zavest, da smo moralni agent? Steve Torrance sprašuje ' Ali bodo roboti potrebovali svojo etiko? « Temu sledi analiza možnosti, ki jih predlaga James Moor za razmišljanje o umetni moralni agenciji v » Štiri vrste etičnih robotov ’. Analiza računalniških zahtev za izvajanje teorije etike, ki temelji na pravilih, kot je utilitarizem ali Asimovljev zakon za robote, je eden od pristopov k izgradnji moralnih strojev. Razprava Toma Powersa o ' Stroji in moralno razmišljanje « razmišlja o tem, kako bi lahko računalnik sledil Kantovemu kategoričnemu imperativu. Nazadnje, ekipa Susan Leigh Anderson (filozof) in Michael Anderson (računalniški znanstvenik) je bila v ospredju tako filozofskega razmišljanja o kot eksperimentalnih implementacij moralnega odločanja z računalniki. V članku, ki sta ga Andersonova soavtorja predstavila nekaj svojih poskusov in razmišljala o Kako lahko stroji izboljšajo etiko ’.

V imenu vseh avtorjev te posebne številke vas vabim, da se nam pridružite v filozofskem raziskovanju, ki ga spodbuja praktična potreba po izgradnji moralnih strojev.