Tampereen yliopiston EVIL-AI-hanke tutkii ja torjuu tekoälyn pimeää puolta.

Jaa

Jane ja Aatos Erkon säätiö on myöntänyt 1,4 miljoonaa euroa Tampereen yliopiston EVIL-AI-hankkeelle, jossa tutkitaan tekoälyn pimeää puolta. Hankkeen tavoitteena on tunnistaa ja ehkäistä tekoälyagenttien eli ohjelmistojen ja järjestelmien haittavaikutuksia, kuten epäeettistä ja rikollista toimintaa. Jotta tekoälyä voidaan hyödyntää turvallisesti, sen haittoja täytyy hallita.

Kuvassa on punainen ja musta tietokonegrafiikka, joka muistuttaa robottimaista silmää. Teksti: "EVIL-AI" ("paha silmä").
EVIL-AI ("evil eye"). Kuva: Henri Pirkkalainen /MidJourney-tekoäly

Jane ja Aatos Erkon säätiö (JAES) myönsi 1,4 miljoonan euron rahoituksen Tampereen yliopiston EVIL-AI (”evil eye”) – Tekoälyagenttien negatiiviset vaikutukset ja niiden ehkäisy -hankkeeseen, jossa tutkitaan ja ehkäistään tekoälyn pimeää puolta.

Kyseessä on JAES-säätiön toisen hakukierroksen suurin avustus, 1 413 000 euroa. Rahoitus myönnettiin johtamisen ja talouden tiedekunnan tietojohtamisen professori Henri Pirkkalaiselle, ohjelmistotekniikan professori Pekka Abrahamssonille ja pelillistämisen apulaisprofessori (tenure track) Johanna Virkille. Abrahamsson ja Virkki työskentelevät Tampereen yliopiston informaatioteknologian ja viestinnän tiedekunnassa.

Työryhmä pureutuu tekoälyn haittavaikutusten, kuten epäeettisen tai rikollisen toiminnan tunnistamiseen ja ehkäisyyn sekä tekoälyn säätelyyn.

Nelivuotisen EVIL-AI (”Evil-eye”) -hankkeen keskiössä ovat tekoälyagentit (AI agents). Ne ovat tietokoneohjelmia tai järjestelmiä, jotka kykenevät tekemään itsenäisesti älykkäinä tulkittavia toimintoja tavoitellessaan tiettyä tavoitetta. 

– Hankkeen tutkimuksessa ja käytännön toiminnassa tunnistetaan merkittäviä tekoälyagentteihin liittyviä riskejä ja haittoja. Kriittisessä tarkastelussa on etenkin tekoälyagenttien epäeettinen ja ei-toivottava toiminta, professori Henri Pirkkalainen kertoo. 

– Tekoälyagentit voidaan valjastaa huijaamaan ihmisiä, ne voivat ryhmäytyä sekä päästä vapaaksi toteuttamaan epätoivottua toimintaa. Siten niitä on vaikea pysäyttää, Pekka Abrahamsson sanoo.

Hankkeen tavoitteena on tunnistaa ja ehkäistä tekoälyagenttien negatiivisia vaikutuksia. EVIL-AI -hanke tarkastelee, mitä tapahtuu, kun pahatahtoinen tekoäly pääsee karkaamaan internetiin. AI agentit haluavat jotakin käyttäjältään: mitä tapahtuu, kun ihminen kohtaa erilaisia ilmentymiä pahatahtoisesta tekoälystä?

– Pahatahtoiset tekoälygentit voivat uhata ketä tahansa meistä. Lähitulevaisuudessa arjessamme toimivilla tekoälyagenteilla voi olla esimerkiksi ihmistä tai lemmikkiä muistuttava fyysinen ilmentymä, ja niillä voi olla ihmistä muistuttavia käyttäytymispiirteitä, Johanna Virkki kertoo. 

Monitieteistä tutkimusta tekoälyn pimeästä puolesta

EVIL-AI -hanke tutkii erilaisia pahatahtoisen tekoälyn ilmentymiä kuten keskustelubotteja, palvelurobotteja ja metaversumin avatareja. 

– Tarkastelemme erityisesti erilaisia ihmisen ja tekoälyagenttien välisiä kohtaamisia virtuaalitodellisuudesta fyysiseen maailmaan. Tutkimme pahantahtoisuuden kehittymistä tekoälyagenteissa sekä erilaisia riskiskenaarioita tekoälyagenttien valjastamisesta pahantahtoisiksi. Näihin lukeutuu tietojen kalastelu ja väärien tietojen levittäminen, Pirkkalainen kertoo.

Hanke on merkittävä tutkimusavaus, joka tähtää monialaiseen huippututkimukseen. 

– Tavoitteena on perustaa maailman johtava monitieteinen tutkimusyksikkö, joka keskittyy tekoälyn pimeään puoleen Tampereen yliopiston johdolla, Pirkkalainen toteaa.

Tutkimuksen johtajien mukaan ei riitä, että uhkiin reagoidaan vain niiden ilmetessä.

– Monitieteinen tekoälyagenttien pimeä puolta selvittävä ja taklaava tutkimus on välttämätön askel. Se on ainut varteenotettava tapa hahmottaa tutkimuksesta kumpuava riskikenttä ja vaikuttaa proaktiivisesti tekoälyagenttien pimeän puolen ehkäisemiseen, professori Abrahamsson sanoo.

Avainsanat

Yhteyshenkilöt

Professori Henri Pirkkalainen, 050 437 1567, henri.pirkkalainen@tuni.fi
Professori Pekka Abrahamsson, 040 541 5929, pekka.abrahamsson@tuni.fi
Apulaisprofessori (tenure track) Johanna Virkki, 040 849 0618, johanna.virkki@tuni.fi

Linkit

Tampereen yliopisto kytkee yhteen tekniikan, terveyden ja yhteiskunnan tutkimuksen ja koulutuksen. Teemme kumppaniemme kanssa yhteistyötä, joka perustuu vahvuusalueillemme sekä uudenlaisille tieteenalojen yhdistelmille ja niiden soveltamisosaamiselle. Luomme ratkaisuja ilmastonmuutokseen, luontoympäristön turvaamiseen sekä yhteiskuntien hyvinvoinnin ja kestävyyden rakentamiseen. Yliopistossa on 22 000 opiskelijaa ja henkilöstöä yli 4 000. Rakennamme yhdessä kestävää maailmaa.

Tilaa tiedotteet sähköpostiisi

Haluatko tietää asioista ensimmäisten joukossa? Kun tilaat tiedotteemme, saat ne sähköpostiisi välittömästi julkaisuhetkellä. Tilauksen voit halutessasi perua milloin tahansa.

Lue lisää julkaisijalta Tampereen yliopisto

Light-controlled artificial maple seeds could monitor the environment even in hard-to-reach locations27.6.2024 09:46:25 EEST | Tiedote

Researchers from Tampere University, Finland, and the University of Pittsburgh, USA, have developed a tiny robot replicating the aerial dance of falling maple seeds. In the future, this robot could be used for real-time environmental monitoring or delivery of small samples even in inaccessible terrain such as deserts, mountains or cliffs, or the open sea. This technology could be a game changer for fields such as search-and-rescue, endangered species studies, or infrastructure monitoring.

Keinotekoinen, valo-ohjattava vaahteran siemen voisi kerätä ympäristödataa hankalistakin paikoista27.6.2024 09:00:00 EEST | Tiedote

Tampereen yliopiston ja Pittsburghin yliopiston tutkijat ovat kehittäneet minirobotin, joka jäljittelee vaahteran siementen tanssia ilmavirtausten mukana. Robotti voisi tulevaisuudessa havainnoida reaaliaikaisesti ympäristöä tai kuljettaa pieniä näytteitä haastavissakin olosuhteissa, kuten aavikoilla, vuoristoissa, jyrkänteillä ja avomerellä. Teknologia voisi mullistaa muun muassa etsintäpalvelut, uhanalaisten lajien tutkimuksen sekä infrastruktuurien valvonnan.

Muistisairaiden ympärivuorokautiseen hoitoon pääsyssä ja hoidon laadussa näkyy hoivaköyhyyden merkkejä26.6.2024 13:25:00 EEST | Tiedote

Tuoreessa tutkimuksessa tarkasteltiin hoivakodeissa asuvien muistisairaiden henkilöiden kohtaamattomia hoidontarpeita läheisten näkökulmasta. Tulosten perusteella muistisairaan hoitoon pääseminen saattoi edellyttää paitsi mittavia hoidontarpeita ja avointa paikkaa, myös todentuneita riskejä. Lisäksi hoitopaikan saaminen ei kaikkien kohdalla johtanut tarpeita vastaavaan hoitoon.

Uutishuoneessa voit lukea tiedotteitamme ja muuta julkaisemaamme materiaalia. Löydät sieltä niin yhteyshenkilöidemme tiedot kuin vapaasti julkaistavissa olevia kuvia ja videoita. Uutishuoneessa voit nähdä myös sosiaalisen median sisältöjä. Kaikki tiedotepalvelussa julkaistu materiaali on vapaasti median käytettävissä.

Tutustu uutishuoneeseemme
HiddenA line styled icon from Orion Icon Library.Eye