Tampereen yliopiston EVIL-AI-hanke tutkii ja torjuu tekoälyn pimeää puolta.

Jane ja Aatos Erkon säätiö (JAES) myönsi 1,4 miljoonan euron rahoituksen Tampereen yliopiston EVIL-AI (”evil eye”) – Tekoälyagenttien negatiiviset vaikutukset ja niiden ehkäisy -hankkeeseen, jossa tutkitaan ja ehkäistään tekoälyn pimeää puolta.

Kyseessä on JAES-säätiön toisen hakukierroksen suurin avustus, 1 413 000 euroa. Rahoitus myönnettiin johtamisen ja talouden tiedekunnan tietojohtamisen professori Henri Pirkkalaiselle, ohjelmistotekniikan professori Pekka Abrahamssonille ja pelillistämisen apulaisprofessori (tenure track) Johanna Virkille. Abrahamsson ja Virkki työskentelevät Tampereen yliopiston informaatioteknologian ja viestinnän tiedekunnassa.

Työryhmä pureutuu tekoälyn haittavaikutusten, kuten epäeettisen tai rikollisen toiminnan tunnistamiseen ja ehkäisyyn sekä tekoälyn säätelyyn.

Nelivuotisen EVIL-AI (”Evil-eye”) -hankkeen keskiössä ovat tekoälyagentit (AI agents). Ne ovat tietokoneohjelmia tai järjestelmiä, jotka kykenevät tekemään itsenäisesti älykkäinä tulkittavia toimintoja tavoitellessaan tiettyä tavoitetta. 

– Hankkeen tutkimuksessa ja käytännön toiminnassa tunnistetaan merkittäviä tekoälyagentteihin liittyviä riskejä ja haittoja. Kriittisessä tarkastelussa on etenkin tekoälyagenttien epäeettinen ja ei-toivottava toiminta, professori Henri Pirkkalainen kertoo. 

– Tekoälyagentit voidaan valjastaa huijaamaan ihmisiä, ne voivat ryhmäytyä sekä päästä vapaaksi toteuttamaan epätoivottua toimintaa. Siten niitä on vaikea pysäyttää, Pekka Abrahamsson sanoo.

Hankkeen tavoitteena on tunnistaa ja ehkäistä tekoälyagenttien negatiivisia vaikutuksia. EVIL-AI -hanke tarkastelee, mitä tapahtuu, kun pahatahtoinen tekoäly pääsee karkaamaan internetiin. AI agentit haluavat jotakin käyttäjältään: mitä tapahtuu, kun ihminen kohtaa erilaisia ilmentymiä pahatahtoisesta tekoälystä?

– Pahatahtoiset tekoälygentit voivat uhata ketä tahansa meistä. Lähitulevaisuudessa arjessamme toimivilla tekoälyagenteilla voi olla esimerkiksi ihmistä tai lemmikkiä muistuttava fyysinen ilmentymä, ja niillä voi olla ihmistä muistuttavia käyttäytymispiirteitä, Johanna Virkki kertoo. 

Monitieteistä tutkimusta tekoälyn pimeästä puolesta

EVIL-AI -hanke tutkii erilaisia pahatahtoisen tekoälyn ilmentymiä kuten keskustelubotteja, palvelurobotteja ja metaversumin avatareja. 

– Tarkastelemme erityisesti erilaisia ihmisen ja tekoälyagenttien välisiä kohtaamisia virtuaalitodellisuudesta fyysiseen maailmaan. Tutkimme pahantahtoisuuden kehittymistä tekoälyagenteissa sekä erilaisia riskiskenaarioita tekoälyagenttien valjastamisesta pahantahtoisiksi. Näihin lukeutuu tietojen kalastelu ja väärien tietojen levittäminen, Pirkkalainen kertoo.

Hanke on merkittävä tutkimusavaus, joka tähtää monialaiseen huippututkimukseen. 

– Tavoitteena on perustaa maailman johtava monitieteinen tutkimusyksikkö, joka keskittyy tekoälyn pimeään puoleen Tampereen yliopiston johdolla, Pirkkalainen toteaa.

Tutkimuksen johtajien mukaan ei riitä, että uhkiin reagoidaan vain niiden ilmetessä.

– Monitieteinen tekoälyagenttien pimeä puolta selvittävä ja taklaava tutkimus on välttämätön askel. Se on ainut varteenotettava tapa hahmottaa tutkimuksesta kumpuava riskikenttä ja vaikuttaa proaktiivisesti tekoälyagenttien pimeän puolen ehkäisemiseen, professori Abrahamsson sanoo.