Väitös: Tehokkaampi vihapuheen tunnistus voi lisätä myös tietoturvariskejä

Tohtorikoulutettava Tommi Gröndahl väittelee 23. elokuuta kieliteknologioista Aalto-yliopistossa. Kieliteknologia on yksi yleisimmistä tekoälyn muodoista, ja Gröndahl testasi sen menetelmiä muun muassa valheiden ja vihapuheen tunnistamisessa.
”Tekoälyä tarvitaan, kun massiivista datamääristä pitää seuloa ja siivilöidä haluttuja asioita. Kieliteknologiat ovat kuitenkin olleet musta laatikko eli niitä on käytetty ilman, että on oikeastaan ymmärretty, miten ne prosessoivat kieltä”, Gröndahl sanoo.
Gröndahlia kiinnostivat erityisesti menetelmien seuraukset tietoturvan ja yksityisyydensuojan näkökulmasta.
”Jos kieliteknologiamenetelmiä kehitetään, se parantaa sekä moderoinnin että sensuroinnin mahdollisuuksia. Tekniikat ovat ihan samoja, on tekstin luokittelulla mitä tahansa seurauksia kirjoittajalle”, Gröndahl sanoo.
Gröndahl vertasi tutkimuksessa syväoppivia neuroverkkoja perinteisempiin sääntöpohjaisiin menetelmiin. Niissä ihminen luo järjestelmään säännön, jota sitten hyödynnetään automatisoinnissa. Menetelmien väliltä löytyi suuria eroja.
”Monimutkaisissa neuroverkkomalleissa on niin valtavasti numeroita, että on vaikea tietää, mitä tekstin piirrettä kukin edustaa ja mitä tekstille tapahtuu, kun jokin numeroista muuttuu. Kun teksti kaipaa yksityiskohtaista jäsentämistä, yleisimmin käytetyt neuroverkkomallit eivät aina ole luotettavia. Neuroverkkomallilla saattaa esimerkiksi olla vaikeuksia tehdä eroa lauseen ja sen kielteisen vastineen välillä”, Gröndahl sanoo.
Sääntöpohjaisten menetelmien vahvuus taas ei ole isojen datamäärien seulomisessa. Siksi on oleellista yhdistää eri menetelmien parhaat puolet.
Menetelmät helposti huijattavissa
Tekstin luokittelu perustuu tyypillisesti melko yksinkertaisiin piirteisiin, kuten tiettyihin yksittäisiin sanoihin. Esimerkiksi valheentunnistuksessa menetelmät eivät oikeastaan tunnista valheita vaan juuri näitä yksinkertaisia piirteitä datassa. Monimutkaiset koneoppimismallit jäävät kiinni tällaisiin piirteisiin yhtä lailla kuin yksinkertaisemmat mallit. Tämä asettaa mallit alttiiksi hyökkäyksille; esimerkiksi vihapuheentunnistimet ovat helposti ihmisten huijattavissa, kun tekstistä poistetaan välilyöntejä tai tekstin sekaan lisätään esimerkiksi sana ’rakkaus’.
Gröndahlin mukaan annettu tehtävä ja harjoitusdata vaikuttavat siihen, miten hyvin tekoälyyn perustuva luokittelija onnistuu tehtävässään.
”Kun koneoppimismallit ovat massiivisia, on tärkeää, että luokittelija saa tarpeeksi harjoitusdataa. Se voi helposti jäädä kiinni myös ei-toivottuihin piirteisiin, jos harjoitusdata on vinoutunutta eli jollain tapaa epäedustavaa. Monimutkaiset koneoppimismallit eivät tiedä, milloin joku sana tai merkki kannattaa ottaa huomioon ja milloin ei vaan toimivat annetun harjoitusdatan perusteella”, Gröndahl sanoo.
Gröndahl tutki vihapuheen ja valheentunnistuksen lisäksi myös kieliteknologian mahdollisuuksia kirjoitustyylin automaattisessa muuttamisessa sekä automaattisessa tekstinmuokkauksessa. Tavoitteena voi olla esimerkiksi se, että kirjoittajaa ei pystytä tunnistamaan.
Esimerkiksi kirjoitustyylin automaattisessa muuttamisessa neuroverkko tuotti konekäännöksen tapaisen muunnoksen, jonka lopputuloksena saattoi olla saman tekstin toistaminen tai tekstisisällön merkityksen muuttuminen. Sääntöpohjaisissa menetelmissä pystytään kontrolloimaan yksityiskohtaisemmin esimerkiksi tietyn sanan, vaikkapa synonyymin tai vastakohdan, vaikutusta lauseen muunnokseen.
Avainsanat
Yhteyshenkilöt
Tommi Gröndahl
Tohtorikoulutettava
Aalto-yliopisto
tommi.grondahl@aalto.fi
puh. 0400 426 523
Kuvat


Linkit
Tietoja julkaisijasta
Aalto-yliopistossa tiede ja taide kohtaavat tekniikan ja talouden. Rakennamme kestävää tulevaisuutta saavuttamalla läpimurtoja avainalueillamme ja niiden yhtymäkohdissa. Samalla innostamme tulevaisuuden muutoksentekijöitä ja luomme ratkaisuja maailman suuriin haasteisiin. Yliopistoyhteisöömme kuuluu noin 13 000 opiskelijaa ja yli 4 500 työntekijää, joista 400 on professoreita. Kampuksemme sijaitsee Espoon Otaniemessä.
Tilaa tiedotteet sähköpostiisi
Haluatko tietää asioista ensimmäisten joukossa? Kun tilaat tiedotteemme, saat ne sähköpostiisi välittömästi julkaisuhetkellä. Tilauksen voit halutessasi perua milloin tahansa.
Lue lisää julkaisijalta Aalto-yliopisto
Tutkimus: Uusien rakennusten päästöistä 70 prosenttia tulee rakentamisesta – eikä sitä huomioida tarpeeksi30.6.2025 07:53:14 EEST | Tiedote
Energiatehokkuus ja uusiutuvan energian käyttö ovat vähentäneet uudisrakennusten elinkaaripäästöjä, mutta rakentamisen päästöt eivät ole laskeneet. Viheralueiden vaaliminen ja puurakentamisen suosiminen tekisi rakentamisesta kestävämpää, korostavat tutkijat.
Tutkimus: Seksuaali- ja sukupuolivähemmistöille myönteiset yritykset ovat selvästi innovatiivisempia18.6.2025 09:30:00 EEST | Tiedote
Yhdysvaltalaisia suuryrityksiä koskenut tutkimus kertoo, että patenttien määrä ja laatu kasvavat merkittävästi, jos yritys saa korkeat pisteet LGBTQ+-yhteisöä eli seksuaali- ja sukupuolivähemmistöjä tukevissa arvioinneissa.
Koneoppiminen tuo vallankumouksen tutkimukseen ja tuotekehitykseen – uuden tekoälyinstituutin johtajalle merkittävä EU-rahoitus17.6.2025 13:00:00 EEST | Tiedote
Uusi projekti ratkoo koneoppimisen keskeistä pullonkaulaa ja muodostaa myös yhden uuden ELLIS-instituutin tutkimuksen kulmakivistä.
A revolution for R&D with the missing link of machine learning — project envisions human-AI expert teams to solve grand challenges17.6.2025 13:00:00 EEST | Press release
Robust, deployable and collaborative machine learning (ML) methods are needed for artificial intelligence (AI) to become truly useful. This ERC-funded research aims to solve a major ML bottleneck and will form a cornerstone of the newly established ELLIS Institute Finland.
Väitöstutkimus: Suomen väestönsuojajärjestelmä on kansainvälisesti poikkeuksellisen kattava – kuumenevat kesät voivat kuitenkin haastaa sen toimivuutta12.6.2025 11:30:00 EEST | Tiedote
Vuosikymmenten aikana rakennetun suomalaisen väestönsuojajärjestelmän hinta vastaa vain noin kolmen vuoden puolustusbudjettia – ja se suojaa lähes koko väestön.
Uutishuoneessa voit lukea tiedotteitamme ja muuta julkaisemaamme materiaalia. Löydät sieltä niin yhteyshenkilöidemme tiedot kuin vapaasti julkaistavissa olevia kuvia ja videoita. Uutishuoneessa voit nähdä myös sosiaalisen median sisältöjä. Kaikki tiedotepalvelussa julkaistu materiaali on vapaasti median käytettävissä.
Tutustu uutishuoneeseemme