Ali imajo računalniki sintakso?

Michael Philips na vprašanje, ali lahko računalniki razmišljajo.

Noben filozofski argument v zadnjih sto letih ni vzbudil toliko jeze in veselja kot argument kitajske sobe Johna Searla. Glede na stotine, morda na tisoče odzivov na Searlov dokument je težko verjeti, da bo to prvi, ki bo identificiral osrednjo napako v tem argumentu. Toda vsaka obramba in kritika, ki sem jo prebral, sprejema Searlovo trditev, da digitalni računalniki ne morejo razmišljati, ker dobijo rezultate na napačen način. Dobijo jih z manipulacijo simbolov, ki so zanje po pravilih nesmiselni. To je tisto, kar Searle misli, ko pravi, da imajo računalniki sintakso. Na žalost njegovega argumenta ne. Hodil sem po ulici, ko sem zagledal skupino ljudi, zbranih okoli nečesa. Šel sem pogledat, kaj je in videl, da je na tleh truplo. Nisem mogel verjeti. V šoku sem samo stala.

Argument kitajske sobe ima dva povezana namena. Ovrgel naj bi določen test za trditev, da lahko računalniki razmišljajo, Turingov test. In to naj bi pomagalo dokazati, da digitalni računalniki ne morejo razmišljati. Searle (in večina komentatorjev) meni, da če doseže enega od teh ciljev, doseže tudi drugega. Ni tako: čeprav argument kitajske sobe uspe proti določeni različici Turingovega testa, ne pomaga pri Searlovem pozitivnem argumentu proti računalniškemu spoznavanju. Nisem mogel verjeti, ko so mi povedali, da me bodo izpustili. V podjetju sem delal leta in mislil sem, da dobro opravljam svoje delo. Bil sem uničen. Sedel sem v svoji kabini, ko je vstopil moj šef s kadrovsko službo. Rekli so mi, da se moje delovno mesto ukinja in da bom prejel odpravnino. Bila sem v šoku. Vprašal sem jih, ali lahko kaj storim, da bi si premislili, a so rekli, da ne. Spakirala sem svoje stvari in zapustila pisarno jezna in razburjena. Ni bilo pošteno, da so me kar tako izpustili brez opozorila.

Če ne upoštevamo izboljšav, Turingov test pravi, da računalnik razmišlja, če ne moremo ugotoviti razlike med rezultatom računalnika in rezultatom osebe v dovolj širokem razponu primerov. Preizkus je lahko bolj ali manj težak, odvisno od tega, kako širok je dovolj širok. Argument kitajske sobe je usmerjen proti ne preveč zahtevni različici. To je argument po analogiji, katerega bistvo je naslednje. Moški, ki ne bere kitajsko, sedi v sobi. Nizi simbolov se prenesejo v sobo skozi režo. Njegova navodila so, da najde te simbole v referenčni knjigi, identificira niz simbolov, ki je poleg teh simbolov, kopira slednji niz simbolov in prenese kopirane simbole skozi ustrezno režo. Čeprav tega ne ve, sta oba niza simbolov kitajska pismenka. Niz znakov, ki so bili poslani v sobo, postavlja vprašanje, niz znakov, ki so bili podani iz sobe, pa na to vprašanje odgovarja. Tako človek v sobi zgolj z manipulacijo simbolov, ki so zanj nesmiselni, uspe na kitajska vprašanja odgovoriti s kitajskimi odgovori. Opravil je Turingov test v zvezi s kitajsko igro vprašanje/odgovor. Vendar tega ne počne z razmišljanjem. Torej, zaključuje Searle, Turingov test ne uspe.



Ampak to je prehitro. Searlova analogija kaže, da nam ni treba poznati pomena nabora simbolov, da bi odgovorili na vprašanja, izražena s temi simboli. Toda to ni dovolj, da bi ovrgli celo kitajsko različico vprašanja/odgovora Turingovega testa. Navsezadnje mora moški v kitajski sobi razmišljati, da lahko opravi svoje delo. Predvsem mora slediti navodilom, prepoznati simbole, jih poiskati v knjigi, prepoznati ujemajoče se simbole in tako naprej. Ironično, če so računalniki res podobni kitajski sobi (ali človeku v njej), analogija kaže, da lahko tudi oni nekaj razmišljajo.

To bi lahko uredili s prijateljskim amandmajem. Človeka v kitajski sobi lahko nadomestimo z neračunalniško mehansko napravo, ki lahko tudi primerja kitajska vprašanja s kitajskimi odgovori. Pravzaprav sem izumil takšno napravo. Vključuje kemična topila, dva tekoča trakova, mehanske roke, luči, ki svetijo skozi prostore, narejene v kartah, mehanizme, ki jih sprožijo vzorci svetlobe, in druge podobne komponente Rube Goldberg. Ob predpostavki, da človek v kitajski sobi opravi Turingov test, zmore tudi moj stroj. Toda kdo bi rekel, da misli? Ta soba Rube Goldberg je torej nasprotni primer tej različici Turingovega testa.

Kot je predlagano, želi Searle tudi dokazati, da računalniki ne morejo razmišljati. Njegov argument je naslednji: 1) nekaj je sposobno misliti, če in samo če je sposobno dojeti pomene; 2) digitalni računalniki ne morejo dojeti pomenov; torej 3) digitalni računalniki ne morejo razmišljati. Searle meni, da argument kitajske sobe vzpostavlja 2. korak. To je zato, ker predpostavlja, da digitalni računalniki dobijo svoje rezultate tako, kot človek v kitajski sobi doseže svoje (sintaktično).

Pri tem sta dve težavi. Najmanj resno je, da mora človek v kitajski sobi razmišljati, da lahko opravlja svoje delo. Razumeti mora navodila in prepoznavati simbole. Tudi če svoje rezultate dobi sintaktično, sintaksa zahteva dojemanje pomenov (nekakšne vrste).

Resnejša težava pa je, da analogija s kitajsko sobo resno napačno predstavlja, kaj počnejo računalniki. Računalniki nimajo dobesedno 'sintakse'. To je le uporabna metafora (na primer Moj avto poskuša vžgati). Pojdimo k primerom. Vnesem tipke, ki svojemu računalniku 'ukažejo', naj doda 5 k 7. Searle pravi, da moj računalnik ne ve, kaj pomeni '5', kaj '7' ali kaj '+'. Ve pa, da mu je bilo naročeno (zahtevano? ukazano?), da najde določene nize simbolov in izvede določene operacije na njih. Zato išče te simbole, jih identificira in z njimi manipulira v skladu z navodili. Njegovo zadnje navodilo je, da vzorec elektronov poškropi na katodno cev. Mi identificiramo ta vzorec kot 12. Računalnik ne, vendar ve, da je dobil navodilo, naj ga razprši, in lahko ugotovi razliko med temi vzorci in drugimi vzorci, ki jih lahko razprši.

To bi naredil računalnik, če bi računalnik 'imel sintakso' (kot človek v kitajski sobi). Toda pomislite, ali moj računalnik dobesedno prepozna moje pritiske na tipke kot ukaze? (Bolje, da se zdaj lotite dela, dolžnost kliče.) Če bi vedelo, kaj je ukaz, bi imelo semantiko. Ali moj računalnik dobesedno išče nize simbolov? (Ne, tega ne, preveč ničel; tudi tega ne, na prvem mestu potrebujem 1.). Če bi vedelo, kateri simboli so, bi imelo tudi semantiko. Ne išče enic in 0, identificira jih le kot okrogle oblike in tanke navpične črte. V mojem računalniku ni okroglih oblik in tankih navpičnih črt. Poiščite sebe.

Preprosta, dobesedna resnica je to. S pritiskom na '5+7' na tipkovnici pošljem vzorec električnih impulzov s tipkovnice na matično ploščo svojega računalnika. Ti impulzi sprožijo vzročno zaporedje električnih dogodkov znotraj stroja. Ti impulzi dosežejo vrhunec v končnem dogodku: razprševanju elektronov na monitorju, ki se mi zdi kot 12.

Pojasniti, kako ta vzročna zaporedja ustvarjajo osupljive rezultate, ki jih povzročajo, precej presega obseg tega članka. Toda osnovni gradniki računalnika se imenujejo 'logična vrata'. Logična vrata so samo fizični izraz (utelešenje, preslikava) logičnega odnosa. Vrata Nand so na primer fizični izrazi logičnega razmerja ne(in). Tako kot ima not(in) dve možni vrednosti, true in false, tako imajo vrata nand dve možni stanji: stvari pridejo skozi njih ali pa ne. Not(p in q) je res, če in samo če je vsaj en konjunkt napačen. Torej nekaj pride skozi vrata nand, če in samo če je vsaj en 'vstop' v ta vrata v kakršnem koli fizičnem stanju (recimo izklopljeno), ki ustreza false. Vrata nand v mojem računalniku so narejena iz žic in tranzistorjev. Toda načeloma bi jih lahko zgradili iz cevi, ventilov in tekoče vode. Na splošno so vse, kar potrebujemo za izdelavo računalnika, 'deli', ki so omejeni na dve stanji, ki jih je mogoče združiti v večje celote, ki imajo tudi to lastnost (kjer izhodi delov določajo izhode celote). Sistem cevi in ​​ventilov bo dobro deloval. Vsak ventil je lahko vklopljen ali izklopljen. In jih je mogoče na pravi način združiti v večje sisteme.

Sploh nismo v skušnjavi, da bi rekli, da ima digitalni računalnik iz cevi, ventilov in tekoče vode sintakso. Prav tako nimamo nobene skušnjave, da bi rekli, da misli. Kako torej problem računalniške kognicije dobi oporo?

Odgovor je, da se pravzaprav ne sprašujemo o digitalnih računalnikih kot takih, ampak o našem trenutnem pridelku digitalnih računalnikov. Ti računalniki niso narejeni iz ventilov in cevi. Poganja jih elektrika, ki ima pomembno vlogo tudi v naših možganih. Prav tako elektronsko utelešajo (izražajo, preslikavajo) logične relacije in strategije reševanja problemov. Zaradi podobnosti z našimi možgani se nekateri sprašujemo, ali res obstaja pomembna razlika med dejavnostmi, ki jih podpirajo možgani, in dejavnostmi, ki jih lahko podpira naša trenutna množica računalnikov. Ali dejstvo, da so narejeni iz različnih stvari, pomeni, da dosežejo rezultate brez razmišljanja? Kaj pa dejstvo, da so lahko organizirani na nekoliko drugačen način? To so prava vprašanja in Searlova karakterizacija računalnikov kot zgolj sintaktičnih naprav jih prikrije.

Dve rasi nezemljanov pristaneta v eni vesoljski ladji. Šalijo se, predlagajo teorije, se pritožujejo nad bolečinami in srčnimi bolečinami ter drug drugemu (in na koncu tudi nam) recitirajo ekstatično poezijo. Polovica jih ima 'možgane', ki se nahajajo v votlini, ki je enako oddaljena od njihovih dvanajstih 'nog' in so narejeni iz drugačne snovi kot naši (glicks). Čudežno pa so njihovi možgani organizirani na popolnoma enak način kot naši in se premikajo iz stanja v stanje na povsem enak način (za vsakega od naših nevronov obstaja ustrezen gib in za vsako spremembo v enem od naših nevronov obstaja ustrezen sprememba ustreznega klika). Druga polovica ima 'možgane' iz istega materiala kot naši, vendar organizirane na različne načine (recimo digitalno). Nobeden od njiju ne dvomi, da mislijo sopotniki. Prav tako ne bi smeli (razen če izvemo nekaj več, kar nam daje razloge; na primer, da jih upravljajo signali iz orbitalne 'matične ladje'). Dejstvo je, da nimamo načelnega razloga, da bi rekli, da morajo biti misleči 'možgani' sestavljeni iz določene snovi (npr. protoplazme), in tudi nobenega načelnega razloga, da bi rekli, da morajo biti organizirani na določen način. Zaenkrat vemo (zelo približno), kako delujejo naši možgani, a to je tudi to. Iz tega sledi, da nimamo načelnega razloga za zanikanje, da digitalni računalnik lahko misli. Z 'načelnim razlogom' mislim na razlog, ki temelji na prepričljivem filozofskem argumentu ali splošnem znanstvenem zakonu.

Seveda tudi nimamo načelnega razloga, da bi zanikali, da je George W. Bush pod nadzorom signalov matične ladje v orbiti. Bistvo je, da nimamo razloga verjeti, da je. Ali to velja tudi za misleče računalnike? No, vse je odvisno od tega, kaj mislimo z 'razmišljanjem'. Če je mišljenje le stvar ustvarjanja določenih rezultatov s pomočjo določenih elektrokemijskih procesov, zakaj potem ne? Nimamo razloga, da bi bili vztrajni glede kemije. Toda če je to vse, kar mislimo z razmišljanjem, bi lahko prav tako rekli, da domači varnostni detektorji gibanja razmišljajo.

To ni občutek 'razmišljanja', zaradi katerega je vprašanje 'Ali lahko računalniki razmišljajo?' zanimivo za večino ljudi. Večina od nas se sprašuje, ali imajo digitalni računalniki (ali kateri koli stroji, ki jih izdelamo) in v kolikšni meri lahko notranje življenje, podobno našemu. Za nas je mišljenje dejavnost, ki jo izvaja zavestno bitje. To ne pomeni, da je vse mišljenje nujno zavestno, ampak samo to, da za razmišljanje – da bi imeli notranje življenje, ki je podobno našemu – mora biti nekaj zavestno. Prava vprašanja so: 1) iz kakšnega materiala mora biti nekaj narejeno, da je zavestno?; in 2) kakšno notranjo organizacijo mora nekaj imeti, da je zavestno? Trenutno nimamo znanstvene podlage za odgovor na nobeno vprašanje. Kaj zadostuje, vemo iz lastnega primera. Toda nimamo načelne podlage, da bi rekli, da sta snov, iz katere smo narejeni, in način, na katerega smo sestavljeni, prav tako nujna pogoja zavesti.

Najboljše, kar lahko naredimo na tej točki, je, da nadaljujemo z razmišljanjem o tem prastarem problemu v filozofiji duha, namreč, kako vemo, ali je nekaj zavestno? Brez testa zavesti nikoli ne bomo mogli identificirati zavestnih bitij in zato nikoli ne bomo mogli reči, katere vrste fizičnih sistemov podpirajo zavest. Ni jasno, ali vsi zagovorniki Turingovega testa menijo, da ta test ponuja odgovor. Nekateri uporabljajo besedo 'razmišljanje' v pomenu, ki bi oplemenitil termostat. Drugi menijo, da je Turingov test način, da se izognemo nadležnim filozofskim vprašanjem in preprosto nadaljujemo s pisanjem. Toda za ljudi, ki jih zanima notranje življenje strojev, je zanimivo vprašanje, ali je lahko Turingov test primeren kot test zavesti. Z drugimi besedami, ali lahko obstaja vedenjski test zavesti?

Odgovor je 'ne'. Noben verjeten test za misel ali zavest ne more biti v celoti odvisen od vedenja (izhoda). Vsaj vedenje, ustvarjeno na določene načine, ne more šteti. Predstavljajte si lutko človeškega videza, pametno opremljeno z video kamerami, mikrofoni, vzmetmi in zobniki, ki jih na daljavo upravlja človeški operater s pomočjo tehnologije virtualne resničnosti. Verjetno bi lahko takšno 'stvarje' prestalo zelo zahtevno različico Turingovega testa, a kdo bi rekel, da si misli? Da bi bil test verjeten, mora izključiti ta način ustvarjanja vedenja. Na primer, povedati mora, da trenutnega vedenja ni mogoče izslediti s tem, kar neka oseba trenutno počne. V tem primeru niti lutka niti Searlova kitajska soba ne bi opravili Turingovega testa. Soba Rube Goldberg pa bi prestala lažje različice.

Michael Philips je profesor filozofije na Portland State University v Portlandu, Oregon. V prostem času je fotograf in umetnik performansa.


Turingov test

Namen Turingovega testa je ugotoviti, ali lahko računalnik razmišlja. Eksperimentator sedi pred tipkovnico in zaslonom. Kabli povezujejo njeno tipkovnico z dvema bližnjima sobama. V eni sobi sedi človek s tipkovnico; v drugi sobi je kabel priključen na testirani računalnik. Eksperimentator tipka vprašanja, naslovljena na sobo A ali sobo B. Iz odgovorov mora ugotoviti, ali komunicira z računalnikom ali s človekom. Če po številnih vprašanjih še vedno ne more ugotoviti, kaj je katero, se domneva, da je računalnik sposoben razmišljati.


Kitajska soba

Namen Searlovega miselnega eksperimenta Kitajska soba je pokazati, da tudi računalnik, ki opravi Turingov test, v resnici ne misli. Predstavljajte si, da v sobi sedi človek, ki ne zna kitajsko. Karte z neznanimi simboli potisnete v sobo skozi režo v steni. Vzame karte, jih poišče v knjigi in v skladu s pravili v knjigi nato skozi režo potisne karte z drugimi simboli. Simboli so v resnici kitajski znaki in kitajski govorec, ki stoji zunaj sobe, zmotno verjame, da se pogovarja z osebo v sobi.