När maskiner bestämmer – är Finland redo?

I rapporten utvärderar den tyska organisationen AlgorithmWatch samt Bertelsmann Stiftung för första gången olika modeller och tillämpningar av artificiell intelligens och automatisering i olika länder och branscher. Biträdande professor Minna Ruckenstein och forskardoktor Julia Velkova vid Helsingfors universitets Centrum för konsumentforskning har på AlgorithmWatchs initiativ skrivit en rapport gällande Finland och Sverige.

Till exempel i Finland profileras arbetssökande utifrån vad de har i sin inkorg, i Italien bestämmer algoritmer vilka som ska få behandling i sjukvården, i Polen sorterar algoritmer arbetslösa, i Danmark identifieras barn som kan behöva extra socialomsorg och i Sverige optimerar man rutter för lastbilar.

Hur etiskt är det att algoritmer får profilera arbetssökande utifrån vad de har i sin inkorg? I Finland lanserar uppstartsföretag fler och fler tjänster som arbetar med automatiserat beslutsfattande baserat på stora mängder samlad data. Medborgarorganisationer och regering diskuterar i sin tur etiska frågor som uppstår i denna process samt i samband med att artificiell intelligens prioriteras av regeringen som en lösning för högre ekonomisk tillväxt.

– Idag har områdena där automatiserat beslutsfattande används vidgats i vardagen. I många fall kan de gynna medborgare, men deras tillämpning skapar risker: orättvis behandling, ökad övervakning samt minskad jämlikhet, säger Julia Velkova.

Rapporten visar för första gången både hur utspritt automatiserat beslutsfattande är samt hur varierande och icke-konsekvent försöken är att hantera dem i olika länder. Politiker och medborgare bör använda resultatet för att jämföra situationen i sina länder med andras och få ett kritiskt förhållningssätt till sina egna tillvägagångssätt.

Automatisering är svårt att överföra branscher emellan

Forskarna påminner om att frågor kring automatisering inte är lätta att överföra från en bransch till en annan. Att utnyttja information inom trafik kan vara accepterat, men för att förhindra brott kan användningen av samma information vara etiskt tvivelaktigt.

Enligt Ruckenstein står vi på en bräcklig grund gällande artificiell intelligens på ett etiskt, politiskt och juridiskt plan.

– Vi talar oproportionerligt mycket om det vi ännu inte har. Rapporten visar vad vi borde fästa uppmärksamhet vid nu. Brister i kunskap och styrning är uppenbara och därför har vi inte tillräcklig kompetens att föreställa oss andra tillämpningar än sådana där människor klassificeras och poängsätts, förklarar Ruckenstein.

I denna rapport utmärker sig Finland på flera sätt. Förutom goda initiativ som att utbilda medborgare inom artificiell intelligens har vi dels uppstartsföretag som introducerar automatiserat beslutsfattande som väcker etiska frågor, och dels har diskrimineringsombudsmannen fått agera i ett fall där Svea Ekonomi har ansetts tillämpa en diskriminerande modell för automatisk kreditvärdering.

– Denna rapport visar att vi inte längre kan tänka på problem kring algoritmer och automatiserat beslutsfattande som något som ligger långt borta från oss i Norden, säger Velkova.

– Vi lever i en vardag där beslut om välfärd och ekonomi alltmer delegeras till maskiner, ibland i strid mot befintlig lagstiftning eller i strid mot etablerade värderingar kring vad som är rätt och rimligt. Det är därför viktigt att inte bara uppmuntra mer teknisk utveckling kring maskininlärning och automatisering, utan även noga analysera de bredare samhälleliga konsekvenserna och frågor som systemen väcker.

Rapporten Automating Society – Taking Stock of Automated Decision-Making in the EU publiceras idag 29 januari i Bryssel.

Open Society Foundation har stött publiceringen av rapporten. Rapporten finns tillgänglig på webben: https://algorithmwatch.org/en/automating-society/