Euroopan parlamentti hyväksyi maailman ensimmäiset tekoälysäännöt

• Yleiskäyttöisiä tekoälyjärjestelmiä koskevat suojatoimet
• Biometristen tunnistusjärjestelmien käyttöä rajoitetaan lainvalvonnassa
• Kielletään sosiaalinen pisteytys ja tekoälyn käyttö manipulointiin ja käyttäjien haavoittuvuuden hyödyntäminen
• Kuluttajien oikeus tehdä valituksia ja saada merkityksellisiä selityksiä

Mepit hyväksyivät 534 puolesta, 46 vastaan ja 49 tyhjää asetuksen, josta oli päästy sopuun jäsenvaltioiden kanssa neuvotteluissa joulukuussa 2023.

Tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, edistää innovointia ja tehdä unionista alan johtava toimija. Säännöissä vahvistetaan tekoälyä koskevat velvoitteet, jotka perustuvat sen mahdollisiin riskeihin ja vaikutustasoon.

Kielletyt sovellukset

Uusissa säännöissä kielletään tietyt kansalaisten oikeuksia uhkaavat tekoälysovellukset. Niitä ovat muun muassa arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien kohdentamaton haravointi internetistä tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi. Kouluissa ja työpaikoilla ovat kiellettyjä myös tekoälysovellukset, jotka tunnistavat tunteita. Kiellettyjä ovat myös sosiaalinen pisteytys, ennakoiva poliisitoiminta (kun se perustuu yksinomaan henkilön profilointiin tai heidän ominaisuuksiensa arviointiin) ja tekoäly, joka manipuloi ihmisen käyttäytymistä tai hyödyntää ihmisten haavoittuvuuksia.

Lainvalvontaa koskevat poikkeukset

Biometristen tunnistusjärjestelmien käyttö lainvalvonnassa on periaatteessa kielletty lukuun ottamatta tyhjentävästi lueteltuja ja suppeasti määriteltyjä tilanteita. ”Reaaliaikaisia” biometrisiä tunnistusjärjestelmiä voidaan käyttää vain, jos noudatetaan tiukkoja suojatoimia, esimerkiksi rajoitetaan niiden käyttöä ajallisesti ja maantieteellisesti ja edellytetään ennakolta erityistä oikeudellista tai hallinnollista lupaa. Tällaisia käyttötarkoituksia voivat olla esimerkiksi kadonneen henkilön kohdennettu etsintä tai terrori-iskun estäminen. Tällaisten järjestelmien käyttö jälkikäteen katsotaan erittäin suuririskiseksi käytöksi. Edellytyksenä on oikeudellinen lupa, joka liittyy rikokseen.

Suuririskisiä järjestelmiä koskevat velvoitteet

Selkeitä velvoitteita asetetaan myös muille suuririskisille tekoälyjärjestelmille, koska ne voivat aiheuttaa merkittävää haittaa terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltion periaatteelle. Tekoälyn käyttöön liittyy suuria riskejä, kun kyseessä ovat kriittinen infrastruktuuri, koulutus ja ammatillinen koulutus, työllisyys, keskeiset yksityiset ja julkiset palvelut (esim. terveydenhuolto ja pankkitoiminta), tietyt lainvalvonta-, maahanmuutto- ja rajavalvontajärjestelmät sekä oikeudelliset ja demokraattiset prosessit (esim. vaaleihin vaikuttaminen). Järjestelmillä on arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja ja varmistettava ihmisen suorittama valvonta. Niiden on myös oltava läpinäkyviä ja täsmällisiä. Kansalaisilla on oikeus tehdä tekoälyjärjestelmistä valituksia ja saada selvityksiä suuririskisiin tekoälyjärjestelmiin perustuvista päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.

Avoimuusvaatimukset

Yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien mallien on täytettävä tietyt avoimuusvaatimukset ja noudatettava EU:n tekijänoikeuslainsäädäntöä, kun malleja koulutetaan. Jos yleiskäyttöinen tekoälyjärjestelmämalli on tehokkaampi ja voi aiheuttaa järjestelmäriskejä, siihen kohdistuu lisävaatimuksia. Niitä ovat muun muassa mallien arviointi, järjestelmäriskien arviointi ja lieventäminen sekä raportointi vaaratilanteista.

Jos kuva-, ääni- tai videosisältö on keinotekoisesti tuotettu tai manipuloitu (”syväväärennös”), se on merkittävä selkeästi sellaiseksi.

Innovaatiota ja pk-yrityksiä tukevat toimenpiteet

Kansallisella tasolla on perustettava sääntelyn testiympäristöjä ja suoritettava testausta todellisissa olosuhteissa. Ne on saatettava pk-yritysten ja uusien yritysten saataville, jotta innovatiivista tekoälyä voidaan kehittää ja kouluttaa ennen sen markkinoille saattamista.

Kommentit

Täysistuntokeskustelussa tiistaina esittelijä Brando Benifei (S&D, Italia) sanoi: ”Vihdoin meillä on maailman ensimmäinen sitova tekoälyä säätelevä laki, joka vähentää riskejä, lisää mahdollisuuksia, estää syrjintää ja tuo lisää avoimuutta. Euroopan parlamentin ansiosta ongelmalliset tekoälykäytännöt kiellettiin ja kansalaisten sekä työntekijöiden oikeuksia suojellaan. Euroopan tekoälytoimisto tulee auttamaan yrityksiä lain velvoitteiden noudattamisessa. Olemme varmistaneet, että ihmiset ja eurooppalaiset arvot ovat tekoälyn kehityksen keskiössä.”

Toinen esittelijä Dragos Tudorache (Renew, Romania) sanoi: ”EU teki sen, mitä meiltä pyydetiin. Sidoimme tekoälyn yhteiskuntamme perusarvoihin peruuttamattomasti. Tekoäly saa meidät arvioimaan uudelleen demokratian ytimessä olevaan sosiaalista mallia - sekä myös koulutusta, työmarkkinoita ja jopa sodankäyntiä. Tekoälysäädös ei ole matkan päätepiste vaan vasta uuden hallintomallin alku, jota on nyt sovellettava reaalimaailmassa.”

Seuraavaksi

Lingvistijuristit tarkistavat vielä asetuksen. Virallisesti se hyväksytään ennen vaalikauden loppua niin sanotussa oikaisumenettelyssä. Myös neuvoston on vielä annettava virallinen hyväksyntänsä.

Laki tulee voimaan kahdenkymmenen päivän kuluttua siitä, kun se on julkaistu virallisessa lehdessä. Sitä sovelletaan kaikilta osin 24 kuukauden kuluttua sen voimaantulosta paitsi kun kyseessä ovat: kiellettyjä käytäntöjä koskevat kiellot, joita sovelletaan kuuden kuukauden kuluttua voimaantulosta, käytännesäännöt (yhdeksän kuukauden kuluttua voimaantulosta), yleiskäyttöisiä tekoälyjärjestelmiä ja hallintoa koskevat säännöt (12 kuukauden kuluttua voimaantulosta) ja suuririskisiä järjestelmiä koskevat velvoitteet (36 kuukautta).

Taustaa

Lain edistäminen vastaa kansalaisten odotuksiin kilpailukyvyn ja strategisten sektorien kehittämisestä, turvallisesta ja luotettavasta yhteiskunnasta, digitaalisten innovaatioiden edistämisestä, ihmisten valvonnan varmistamisesta ja tekoälyn luotettavasta sekä vastuullisesta käytöstä jotka ilmaistiin Euroopan tulevaisuuskonferenssin päätelmissä (kohdat 12(10), 33(5), 35(3) ja (8) ja 37(3)).

Lisätietoa

• Kansalaisvapauksien sekä oikeus- ja sisäasioiden valiokunta 
• Sisämarkkina- ja kuluttajansuojavaliokunta 
• Hyväksytty teksti (13.3.2024) 
• Täysistuntokeskustelu (12.3.2024) 
• Lainsäädäntötietokanta 
• Parlamentin tutkimuspalvelu: kooste tekoälytutkimuksista