vaata ka: http://roland.pri.ee/wiki/doctor_what - Mida teha

 

 

Siiamaani on tehisintellekti ohutusega võrdlemisi vähe tegeletud. 

 

Tavaliselt seatakse eesmärgisüsteem nõnda, et on esitatud, mis liiki tegevused on head või halvad, ja sellest peaks olema kuidagi ka tuletatud, milliseid konkreetseid tegevusi ja olekuid maailmas mitte tekitada.

 

Mittepööratavate tegevuste vältimine on selle lähenemise suhtes ortogonaalne, kuna ei anta hinnangut, mis olek on hea või halb, vaid lihtsalt öeldakse, et seda aspekti ümbritsevas maailmas ei tule ega tohi muuta. Vaikimisi on keelud implitsiised – mis pole lubatud, on keelatud. 

Kui oleks fikseeritud, mis olekud on "halb" või "hea", võiks see viia selleni, et ümbritsev maailm muutub ja kuigi algselt on osad keelud ja käsud antud ainult selleks, et robot ei muudaks maailma neis aspektides – nüüd on maailm mingil muul põhjusel muutunud ja robot arvab, et sõltumata muutuse põhjusest, on tema eesmärk maailm tagasi muuta.

 

Pakutava idee järgi aga: vaikimisi ei tohi robot midagi muuta ega põhjustada. Kui talle on antud mõned õigused, siis ta saab neid õigusi kasutada selleks, et saavutada mingisuguseid etteantud ja konkreetseid eesmärke. Õigused on tööriistad – neid võib kasutada, aga ei pea.

 

Doktoritöö uudsus seisnebki selles, et eesmärgisüsteem sisaldab kahte komponenti:

1)     õigused mingit sorti tagajärgedele-muutustele, määramata alati muutuste suunda.

2)     eesmärgid. Lisaks, viimased on praeguse hüpoteesi järgi eelistatavalt esindatud seadistuspunktidena – on mingisugune tulemuse tase, kuhu jõudes robot või süsteem loomupäraselt rahuneb maha, ega ei ürita oma tegevuse tulemusi kasvatada lõpmatuseni.

Seadistuspunktid võimaldavad esindada nii eesmärke kui õiguseid (ühendades neid sensoritega ja "eesmärgisüsteemi häälestusega" erinevate mehhanismide läbi). 

Piirangule (õigusele) vastava keskkonnamuutuja algne väärtus või robotist sõltumatult tekkinud olek oleks vastava seadistuspunkti eelistatud väärtus – kui see olek muutub roboti tegevuse tulemusena, siis robot üritab algset seisu taastada, ehk kaotada mittepööratavust. Ja võimalusel kõikumist üldse vältida. Mittepööratav tegevus on sisuliselt lõpmatu integraali väärtusega kõikumine.

Õigused on sisuliselt välja lülitatud piirangud.

Seadistuspunktid ühtlasi on analoogne sellele, kuidas naturaalses mõtlemises eesmärgisüsteem ehk operantne mõtlemine töötab.

 

Et mittepööratavuste vältimisi esindavad seadistuspunktid töötaksid korrektselt, tuleneb lisaülesanne, et robot peab aru saama, kas muutus oli tema tegevuse tagajärg või millegi muu tagajärg. See on credit assignment küsimus. Selle kohta on mu varasemast uurimustööst võimalik üle tuua naturaalsest mõtlemisest, klassikalisest tingimisest nähtus nimega "blokeerimine". Blokeerimine minu hüpoteesi järgi võimaldab luua seoseid, mis on sagedamini vastavuses põhjuslike järgnevustega, mitte ainult koosesinemistega – koosesinemine ja põhjuslikkus on erinevad asjad. 

Siiani on blokeerimist uuritud vaid mõnedes artiklites ja pigem selle rõhuga, et leida analüütilisel teel valemeid, mis klassikalise tingimise erinevaid aspekte jäljendavad. Minu eesmärk oleks juhtida tähelepanu lisaks blokeerimise aspekti rakendatavusele.

• Raamatud ja artiklid
  o 100 artiklit Developmental Robotics & Epigenetic Robotics konverentsidelt.
  o Leida ning lugeda varasemaid uurimistöö põhiteemaga, tehisintellekti turvalisusega, seonduvaid artikleid.
  o Raamat "Safe and Sound artificial intelligence".
  o Närvivõrkude raamat “Neural Networks, A Comprehensive Foundation” / S. Haykin.
  o Raamat “Mis asi see on, mida nimetatakse teaduseks?” / A. F. Chalmers.
  o Raamat “Research methods for postgraduates” / T. Greenfield.
  o Mõtlemise mudeliga seoses uurida Perceptual Control Theory mudelit, millel võib olla mõningat ühisosa.
  o Muud juhtimisteooriad.
  o Automaattõestajad ning loogiline programmeerimine (TODO: pikem selgitus).
• Katsed:
  o Senise naturaalse mõtlemise mudeli katsetused mittepööratavuse rakenduses.
  o Arendada naturaalse mõtlemise mudelit edasi või täpsemini – lisada sobiv karkass mõtleva-õppiva osa ümber, et esindada mittepööratavusi ja eesmärke vastavalt uurimiseks oleva tehisintellekti ohutuse printsiipidele.
  o Võrrelda mittepööratavuse üht spetsiifilist rakendust – "kokkupõrgete vältimist". Võrrelda selle naturaalse mõtlemise mudelil põhineva teostuse jõudlust teiste mudelitega, mis on loodud puhtalt kokkupõrgete vältimise eesmärgil.
  o Õiguste ja eesmärkide esitamine loogilise programmeerimise keeles.
• Võimalikud artiklite teemad:
  o Blokeerimine klassikalises tingimises kui credit assignment üks lahendusi, võrdlused teiste õppimisalgoritmidega.
  o Eesmärgisüsteem, kus lisaks piirangutele-õigustele (mittepööratavuse vältimisele) on ka eesmärgid töösse lülitatud. See oleks edasiarenduseks senistest artiklitest uuritava printsiibi teemal.
  o Mitme piirangu ja mitme eesmärgi mõju süsteemile.
• Kursused:
  o Matemaatika ja loogilise programmeerimise kursused.
  o Sügis (osa aineid kuulan vaid mõned loengud ja ainepunkte ei võta):
  - FKEF.02.052  Kvaliteedijuhtimine (2 AP)
  - MTPM.06.030  Matemaatiline analüüs I (4 AP)
  - MTAT.05.072  Sissejuhatus matemaatilisse loogikasse (3 AP)
  - MTAT.05.047  Funktsionaalprogrammeerimise meetod (2 AP)
  - MTAT.06.008  Tehisintellekt I (4 AP)
  - MTRM.01.020  Hulgateooria ja matemaatiline loogika (2 AP)
  - FKEF.02.145  Kosmosetehnoloogia alused (2 AP)
  - FKEF.02.147  Kosmose- ja militaartehnoloogia seminar I (2 AP)
  - FLFI.03.007  Teadusfilosoofia ja -metodoloogia (2 AP)