Filosofi Frank Martela tutki Minecraftia ja tappajadroonia – havaitsi, että tekoälyllä on vapaa tahto

Tekoälyteknologia kehittyy niin valtavaa tahtia, että moni tieteisfiktion kuvitelma alkaa näyttää jo todelta. Tämä sai apulaisprofessori ja filosofi Frank Martelan tarkastelemaan paitsi tekoälyn vapaata tahtoa, myös sen moraalista vastuuta. Artikkeli aiheesta julkaistaan 13. toukokuuta AI and Ethics -lehdessä.

Martela valitsi tarkastelun kohteeksi kaksi generatiivisen tekoälyn eli suurten kielimallien ratkaisua: Minecraft-pelin Voyager-agentin ja kuvitteelliset Spitenik-tappajadroonit, joiden kognitiivinen toiminta kuitenkin vastaa nykyisiä miehittämättömiä ilma-aluksia. Hänen mukaansa tutkittuja tekoälyagentteja koskevat huomiot ovat yleistettävissä muihinkin nykyisiin generatiivisen tekoälyn ratkaisuihin.

Tutkimuksessa toiminnallisen vapaan tahdon käsite nojaa Daniel Dennettin ja Christian Listin teorioihin. Martela määrittelee vapaan tahdon tarkoittavan, että tekoälyagentilla on tavoitteellista toimijuutta, aitoja vaihtoehtoja sekä mahdollisuus kontrolloida toimintaansa.

"Kumpikin tekoälyagenteista vaikuttaa täyttävän kaikki kolme vapaan tahdon ehtoa. Emme kykene ennustamaan tai ymmärtämään uusimpien tekoälyagenttien toimintaa, jos emme oleta niiden toimivan vapaasti", Martela sanoo.

Tekoäly pystyy tekemään erilaisia valintoja eri tilanteissa, joskin ihminen edelleen määrittelee sille pääasiallisen tavoitteen. Martela kuitenkin huomauttaa, että ihmisen antama tavoite voi olla hyvin yleinen, kuten “koita selvitä hengissä” tai “opettele uusia taitoja”. Tämä jättää tekoälylle laajat vapaudet valita miten edistää tavoitettaan.

“Olemme astumassa uudelle alueelle, jossa on tarpeellista pohtia tekoälyn moraalista vastuuta. Tekoälyn vapaa tahto vie meidät askeleen lähemmäs näitä kysymyksiä, vaikka se ei olekaan vielä riittävä ehto moraalisen vastuun edellyttämiseksi”, Martela sanoo.

Tekoälyn tekemät virheet eli niin sanottu hallusinointi on myös eräällä tapaa merkki siitä, että tekoälyllä on vapaa tahto.

“Toimijuus edellyttää tavoitteita, ja jos ei ole tavoitteita, ei voi tehdä virheitäkään”, Martela mainitsee.

Tekoälylle tarvitaan moraalinen kompassi

Kuka on vastuussa, jos tekoäly tekee jotain väärää – esimerkiksi itseohjautuva auto ajaa jalankulkijan päälle?

“Tekoälyllä ei ole moraalikäsitystä, jos sille ei ole sellaista erikseen ohjelmoitu. Mutta mitä enemmän tekoälylle annetaan vapauksia, sitä enemmän sille on tarpeen määritellä alusta lähtien myös moraalinen kompassi. Vain siten se osaa valintoja tehdessään toimia oikein”, Martela sanoo.

Jos drooni tappaa vahingossa ihmisen, moraalisen vastuun katsotaan kuuluvan tekoälyn kehittäjälle.

Martelan mukaan ohjeistaessaan tekoälyä toimimaan tietyllä tavalla kehittäjät tulevat samalla välittäneeksi sille omat moraaliset vakaumuksensa. Siksi heillä olisi hyvä olla jonkinlainen käsitys moraalifilosofiasta – etenkin koska ihmistenkin kohtaamat moraaliset haasteet ovat hyvin vaikeita.

“Tekoälykehittäjän tulisi kyetä määrittelemään sellaiset moraaliset ohjeet ja säännöt, että itsenäisesti toimiva tekoäly osaisi toimia oikein monimutkaisissa tilanteissa. Tämä tekoälyn moraalisen kasvatuksen vastuu korostuu mitä kyvykkäämmäksi tekoäly kehittyy”, Martela sanoo.

Linkki tutkimusartikkeliin (linkki toimii vasta embargon poistumisen jälkeen)