Tekoäly tunnistaa koneen tekaisemat ravintola- ja tuotearvostelut ihmistä tarkemmin

Monet verkkopalvelut, kuten TripAdvisor, Yelp ja Amazon, listaavat käyttäjien omia arvosteluja palveluista ja tuotteista. Muiden arvioita luetaan tarkasti, ja niihin luottaa miltei yhdeksän kymmenestä kuluttajasta. Jopa 40 prosenttia perustaa ostopäätöksensä vain muutaman käyttäjän arvioon, ja ihmiset käyttävät 30 prosenttia enemmän rahaa kehuttuihin tuotteisiin.
Kaikki vertaisarviot eivät kuitenkaan ole aitoja. Ihmisten kirjoittamia tekaistuja arvioita tehtaillaan jo paljon, mutta tulevaisuudessa yhä useampi käyttäjäarvio saattaa olla koneen tekemä.
Aalto-yliopiston tohtorikoulutettava Mika Juutin mukaan arvioiden luominen algoritmien avulla on nykyään yksinkertaista, tarkkaa ja nopeaa. Useimmiten ihminen ei erota aitoa, toisen ihmisen kirjoittamaa arvostelua algoritmien tekemästä.
”Vilpillisesti toimivat yritykset voivat yrittää kasvattaa myyntiään luomalla keinotekoisesti positiivista kuvaa itsestään – tai tuottamalla massoittain negatiivisia arvioita kilpailijoistaan. Motivaatio on tietenkin raha: verkon vertaisarviot ovat elintärkeitä matkakohteille, hotelleille, palveluntarjoajille ja kuluttajatuotteille”, Juuti sanoo.
Viime vuonna Chicagon yliopiston tutkijat kuvailivat, miten opettaa syvä neuroverkko, koneoppimismalli, kolmella miljoonalla Yelp-sivustolta poimitulla ravintola-arvostelulla. Heidän mallinsa oppi luomaan ravintola-arvosteluja merkki kerrallaan.
Tekoälymallin työn jäljessä oli silti ongelma: se ei aina pysynyt aiheessa. Lasvegasilaisen japanilaisen ravintolan arvostelussa malli saattoi viitata italialaiseen ravintolaan Baltimoressa. Tällaiset virheet herättävät tietenkin ihmisen epäilyksen heti.
Juutin tutkijatiimi sai mallin pysymään asiassa käyttämällä Neural Machine Translation -menetelmää. Se luo tai kääntää tekstiä lausekokonaisuus kerrallaan yksittäisten sanojen sijaan. Kun malli opetettiin assosioimaan arvion tähtiluokitus, ravintolan nimi, kaupunki ja ruokaan liittyvät asiasanat varsinaisiin arvioteksteihin, tekaistut arviot alkoivat muuttua uskottaviksi.
”Teettämässämme käyttäjätutkimuksessa näytimme oikeita, ihmisten kirjoittamia arvioita ja koneen kirjoittamia arvioita käyttäjille ja pyysimme heitä tunnistamaan koneen kirjoittamat arviot. Jopa 60 prosenttia mallimme luomista arvioista meni koehenkilöille täydestä”, Juuti kertoo.
Tutkijat kehittivät myös luokittelumenetelmän tunnistamaan uuden mallinsa luomia tekaistuja arvosteluja. Menetelmä tunnisti väärennökset tehokkaasti. Etenkin arvostelut, joiden epäaitoudesta koehenkilöiden oli erityisen hankalaa olla varmoja, uusi menetelmä tunnisti selvästi useammin kuin ihminen.
Tutkimus tehtiin yhteistyössä Aalto-yliopiston Secure Systems -ryhmän ja japanilaisen Wasedan yliopiston tutkijoiden kanssa. Ryhmän artikkeli “Stay On-Topic: Generating Context-specific Fake Restaurant Reviews” on osa Aalto-yliopiston Secure Systems -ryhmän projektia, joka tutkii tekstianalyysin keinoin valheellisen tai vilpillisen sisällön tunnistamista verkossa.
Tutkimusartikkeli:
Mika Juuti, Bo Sun, Tatsuya Mori, N. Asokan:
Stay On-Topic: Generating Context-specific Fake Restaurant Reviews. https://arxiv.org/abs/1805.02400
Avainsanat
Yhteyshenkilöt
Mika Juuti, Tohtorikoulutettava
Aalto-yliopisto
mika.juuti@aalto.fi
puh. 050 560 7944
N. Asokan, professori
Aalto-yliopisto
n.asokan@aalto.fi
puh. 050 483 6465
Kuvat

Linkit
Tietoja julkaisijasta
Aalto-yliopistossa tiede ja taide kohtaavat tekniikan ja talouden. Rakennamme kestävää tulevaisuutta saavuttamalla läpimurtoja avainalueillamme ja niiden yhtymäkohdissa. Samalla innostamme tulevaisuuden muutoksentekijöitä ja luomme ratkaisuja maailman suuriin haasteisiin. Yliopistoyhteisöömme kuuluu noin 13 000 opiskelijaa ja yli 4 500 työntekijää, joista 400 on professoreita. Kampuksemme sijaitsee Espoon Otaniemessä.
Tilaa tiedotteet sähköpostiisi
Haluatko tietää asioista ensimmäisten joukossa? Kun tilaat tiedotteemme, saat ne sähköpostiisi välittömästi julkaisuhetkellä. Tilauksen voit halutessasi perua milloin tahansa.
Lue lisää julkaisijalta Aalto-yliopisto
Tutkimus: Uusien rakennusten päästöistä 70 prosenttia tulee rakentamisesta – eikä sitä huomioida tarpeeksi30.6.2025 07:53:14 EEST | Tiedote
Energiatehokkuus ja uusiutuvan energian käyttö ovat vähentäneet uudisrakennusten elinkaaripäästöjä, mutta rakentamisen päästöt eivät ole laskeneet. Viheralueiden vaaliminen ja puurakentamisen suosiminen tekisi rakentamisesta kestävämpää, korostavat tutkijat.
Tutkimus: Seksuaali- ja sukupuolivähemmistöille myönteiset yritykset ovat selvästi innovatiivisempia18.6.2025 09:30:00 EEST | Tiedote
Yhdysvaltalaisia suuryrityksiä koskenut tutkimus kertoo, että patenttien määrä ja laatu kasvavat merkittävästi, jos yritys saa korkeat pisteet LGBTQ+-yhteisöä eli seksuaali- ja sukupuolivähemmistöjä tukevissa arvioinneissa.
Koneoppiminen tuo vallankumouksen tutkimukseen ja tuotekehitykseen – uuden tekoälyinstituutin johtajalle merkittävä EU-rahoitus17.6.2025 13:00:00 EEST | Tiedote
Uusi projekti ratkoo koneoppimisen keskeistä pullonkaulaa ja muodostaa myös yhden uuden ELLIS-instituutin tutkimuksen kulmakivistä.
A revolution for R&D with the missing link of machine learning — project envisions human-AI expert teams to solve grand challenges17.6.2025 13:00:00 EEST | Press release
Robust, deployable and collaborative machine learning (ML) methods are needed for artificial intelligence (AI) to become truly useful. This ERC-funded research aims to solve a major ML bottleneck and will form a cornerstone of the newly established ELLIS Institute Finland.
Väitöstutkimus: Suomen väestönsuojajärjestelmä on kansainvälisesti poikkeuksellisen kattava – kuumenevat kesät voivat kuitenkin haastaa sen toimivuutta12.6.2025 11:30:00 EEST | Tiedote
Vuosikymmenten aikana rakennetun suomalaisen väestönsuojajärjestelmän hinta vastaa vain noin kolmen vuoden puolustusbudjettia – ja se suojaa lähes koko väestön.
Uutishuoneessa voit lukea tiedotteitamme ja muuta julkaisemaamme materiaalia. Löydät sieltä niin yhteyshenkilöidemme tiedot kuin vapaasti julkaistavissa olevia kuvia ja videoita. Uutishuoneessa voit nähdä myös sosiaalisen median sisältöjä. Kaikki tiedotepalvelussa julkaistu materiaali on vapaasti median käytettävissä.
Tutustu uutishuoneeseemme