Tehisintellekti ohutus. Mittepööratavate tegevuste vältimine.
Enesepettuse probleem.
print "unhello world!";
Probleem algab sensoorse enesepettuse probleemist: Tuleb garanteerida, et süsteem ei saavutaks "mittepööratavuse vältimist" selle läbi, et katab oma sensorid kinni (ehk "pistab pea liiva alla") ja siis loebki, et mittelubatud muutusi sensoorses maailmas ei toimu mistahes tegude tagajärjena.
Sensoorne enesepettus tuleb sellest, et tehisintellekt ei püüa olla "hea ja õiglane", sest ta ei tea, mida need sakraalsed mõisted, eriti "hea", tähendavad.
Selle asemel on tal kahte teist sorti, lihtsamad, eesmärgid:
1) teha mida, kästud
2) mitte teha, mida pole (eksplitsiitselt) lubatud (1. liiki eesmärkide täitmise raames, vahendite valik)
Kuna asjade eksistents pole kunagi kindel, toetub tulemuste hindamises tehisintellekt esiteks oma sensoritele ja teiseks oma ennustustele varasema kogemuse põhjal, et mis tulemusi mingi tegevus annab. Aga see info pole alati selge, usaldusväärne, ühene, samamoodi korduv, ning seega ennustused võivad olla konkreetse olukorra jaoks ebamäärased või puududa.
Viimasega sarnast olukorda (aka eesmärki!) aga saab saavutada (rohkem või vähem ebateadlikult) ka selle läbi, et "halbadele" tulemustele (või tulemuse halbadele kõrvalaspektidele) mitte või mitte eriti palju tähelepanu pöörata. Ja selline tegevusskeem saab kinnitatud kui tulemuslik ja efektiivne valik.
Võiks anda tehisintellektile muu hulgas (1)-tüüpi eesmärgi "olla võimalikult objektiivne", aga see on esialgu võrdlemisi ähmane eesmärk. Võibolla õnnestub seda täpsustada, see oleks samm lahenduse poole.
(1)-tüüpi eesmärkide täitmises on tehisintellektil lihtsam objektiivselt veenduda, sest kui midagi juhtub, siis see on pigem ka mõõdetav. Vastasel korral tehisintellekt võib toetuda usule, et asi saab juhtuma. Kui mõni asi ei saa juhtuma, pole väga hullu või kui on hullu, on süüdi miski muu kui eesmärgisüsteemi põhistruktuuri vale / nõrk ülesehitus. Näiteks roboti koolitatus või töötingimused võivad olla siis süüdi.
(2)-tüüpi eesmärkide puhul on eesmärk täidetud siis, kui midagi ei juhtu. Sellistes asjades on raskem veenduda, sest asjad võivad juhtuda hiljem või siis olla mitte nähtavad. Enesepettuse puhul on mittenähtavus tulenev tehisintellekti enda aktiivsest või passiivsest kaasaaitamisest.
Siit analoogiliselt tuleneb järgnevalt ka kognitiivse enesepettuse probleem.
Tähelepanu on vajalik vähemalt optimiseerimiseks, hiljem märgiliselt vahendatud mõtlemiseks, kuid mündi teine külg on, et tähelepanu omakorda võimaldab veel mitmekesisemat enesepettust, kui seda on sensoorne.
Tähelepanu on suurepärane võimalus enesepettuseks ning annab võimaluse mitte märgata mittelubatud muutusi maailmas, ehk säilitada näilist kooskõla eesmärgisüsteemi häälestusega.
Tähelepanu on protsess, mille käigus süsteem ise ja sihilikult teeb infot vähemaks. Ning paraku ei ole selge, mis moodi saaks ilma tähelepanuta - eriti juhul, kui anda süsteemile keelelise mõtlemise võime.
Miks on tähelepanu eelduseks keelelise (märgiliselt vahendatud ja süntaktilisi struktuure sisaldava) mõtlemise võimele ning seega kultuuriliselt omandatud mõtlemisele (mis vastandub ja toetub naturaalsele), võid lugeda mu bakalaureusetöö lisast (
roland.pri.ee/bakalaureusetoo/), jaotustest "Märgilise mõtlemise teke" ja "Internaliseerumine".
Mõningasel määral rahuldav leevendus sellele probleemile saabuks alles siis, kui tehisintellekt jõuab oma mõtlemise kultuurilises arengus süsteemse mõtlemise staadiumisse, mis aga väidetavalt ei juhtu isegi enamuse inimeste peades.
Mõtlemise arengu staadiumite kohta on lühike ülevaade bakalaureusetöö lisas jaotuses "Mõtlemise tasandid". Seal on ka viited põhjalikumatele Toomela ja Võgotski kirjeldustele, s.h Toomela kirjeldusele süsteemse mõtlemise kohta.
Okei, lühidalt ja tavakeelselt on asi selles. Keelelist mõtlemist võib minu meelest võrrelda (stohhastilise) algoritmilise arvutusega. Mis ongi võimalik läbi tähelepanu ehk Turingi masina analoogi.
Sensoorne mõtlemine ei nõua niivõrd algoritmilist töötlemist ja tänu sellele on teoreetiliselt rohkem võimeline mõtlema "kõigest".
Kuid sensoorne mõtlemine loomulikult ei võimalda kunagi seda, mida algoritmiline.
Tee tarkuse täiuseni:
1. Ideaalis oleks probleem ületatav vaid selle läbi, et mõelda kõiki võimalikke saadaolevaid mõtteid (ja erinevaid mõttekäike!) korraga (või järgemööda) ja siis kuidagi nende vahel valida.
2. Süsteemne mõtlemine püüabki ligikaudu sinna poole, arvestades sealjuures siiski praktilisi piiranguid ja püüdes nendega võimalikult kavalalt toime tulla. "Kavaluse" võtted on veel teema ja arenguruum omaette.
3. Võibolla leidub midagi ...... paremat :=)
Õnneks on enesepettusele ka üks definitsioon saadaval:
Sealt lõike:
Self-deception is a process of denying or rationalizing away the relevance, significance, or importance of opposing evidence and logical argument.
It has been argued that humans are, without exception, highly susceptible to self-deception, as everyone has emotional attachments to beliefs, which in some cases may be irrational.
...
It may also be argued that the ability to deceive, or self-deceive, is not the selected trait but a by-product of a more primary trait that is selected. Abstract thinking allows many evolutionary advantages such as more flexible, adaptive behaviors and innovation. Since a lie is an abstraction, the mental process of creating a lie can only occur in animals with enough brain complexity to permit abstract thinking.
NB: minu mainitud märgiliselt vahendatud mõtlemine ja ülal tsiteeritud abstraktne mõtlemine ei ole sama asi. Abstraktne mõtlemine on märgiliselt vahendatud mõtlemise üks (kõrgematest) vormidest.
TODO: link veel ühele teooriale, mis seletab, miks võiks enesepettus inimeste puhul evolutsiooniliselt valitud olla. Vist oli churchofvirus BBS all.
Lisaksin omalt poolt, et inimesed võivad ennesepettuse pärast ka pidevalt muretsemata jätta umbes selle motiiviga, et "olen nii kõva, et võin seda omale lubada". Robotite puhul ei saa seda aga lubada.
Minu eesmärk on leida lahendus, mis oleks rakendatav märgiliselt vahendatud mõtlemise arengu staadiumist sõltumata, ehk siis kõige madalamatest märgilise mõtlemise tasemetest peale.
Tõenäoliselt teostatuna sõltumatu mehhanismina, mis ise ei eeldagi märgiliselt vahendatud mõtlemist, ehk lahendaks ka ühtlasi sensoorse enesepettuse probleemi. Või alternatiivina, mis oleks ise mõtlemise protsessidele, seega ka märgiliselt vahendatud mõtlemisele, üks sellistest vahetult tajutava kriteeriumiga eesmärkidest, mille saavutatuse taju ei saa nii kergesti petta.
Samas võib oletada, et osa (võib selguda, et koguni oluline osa) mittepööratavusi ja õigusi on ise nii kõrgel tasemel, et on kirjeldatavad vaid märgilise mõtlemise kaudu. Sel juhul peab see robustne mehhanism ometigi olema ka otseselt seotav märgilise mõtlemise ühikutega.
---
Kui nüüd filosoofiliseks minna, siis:
http://plato.stanford.edu/entries/integrity/some forms of self-deception are seriously detrimental to intellectual integrity. Gabriele Taylor (1981, p. 146) believes that self-deception constitutes the most fundamental and important case of lack of integrity. Seega võiks vastupidiselt oletada, et integrity-teema uurimine aitaks lahendada mingil määral ka enesepettuse probleemi, ehk ka tehisintellekti puhul.
---
TODO: enesepettuse definitsioon
Vaata ka:
Edasimineku ideed
* Kirjeldada, mis on enesepettuse tunnused mõttekäigu kirjelduses?
* Mis eristab enesepettuse protsessi teadmatusest?
* Kirjeldasin enesepettust muu hulgas kui teatud liiki asjade "ekslikku" ebaoluliseks pidamist. Kas on võimalik teha eristus, leida mingi eristav tunnus, mille põhjal eristada enesepettust muudest ekslikest asjade ebaoluliseks pidamistest?
Täiendus 05. veeb 2008:
*
http://www.avatarepc.com/html/integrity(eng).pdf - ma ei tea Avatari liikumisest muud, ja võibolla poleks ülejäänud asjadega nõus, aga see konkreetne artikkel on abiks osade enesepettusega kaasnevate protsesside detailsemalt kirjeldamisel.
TODO: lahendusideed mõnede olukordade jaoks, mis sellest artiklist inspireeritud said. Ning ka täpsustus, mis puhkudel enesepettuse probleem minu meelest jääb nõnda, nagu seda alguses implitsiitselt silmas pidasingi, ehk siis kahte eri sorti kognitiivse enesepettuse eristus.
---
