4.4 Miten tekoäly voi muka syrjiä minua?

Lähiaikoina kaikenlainen syrjintä on ollut valokeilassa, sillä yhteiskuntaamme tarvitaan muutosta. En tänään kuitenkaan tullut puhumaan teille politiikasta vaan hieman erilaisesta syrjivästä tahosta, nimittäin tekoälystä ja algoritmeista. 

Tekoäly on siis Tekoäly.infon määritelmän mukaan koneen taikka laitteen kykyä ajatella ja oppia, sen tarkoituksena on mallintaa ihmisen tajuntaa ja suorittaa tehtäviä kuten ihminen. Tekoäly jaetaan kahteen kategoriaan: heikkoon ja vahvaan tekoälyyn. Heikko tekoäly ei osaa oppia, vaan se tekee kaiken ennaltamäärättyjen käyttäytymismallien mukaisesti. Vahva tekoäly pystyisi saavuttamaan tietoisuuden ja ajattelemaan kuten ihminen, mutta sellaista ei ole pystytty luomaan vielä.

Ihmisen vai algoritmin vastuu?

Tekoälyn käyttö yleistyy Suomessa ja maailmalla hurjaa vauhtia. Siitä voi olla suunnattomasti hyötyä, mutta on meidän ihmisten vastuulla syöttää sinne puhdasta tietoa, mistä on poistettu kaikki tekijät, joiden perusteella algoritmi voisi luoda syrjintää. Yhdenvertaisuusvaltuutettu-sivusto kertoo, että on raportoitu esimerkiksi kasvojentunnistusohjelmien tunnistavan helpommin valkoihoisten ihmisten kasvoja, sillä opetusmateriaalina on käytetty valkoisten kasvoja. Näin mustat joutuvat turhien toimenpiteiden kohteeksi, mikä ei ole reilua tai tasa-arvoista. Ilta-Sanomien artikkeli antaa hyvän esimerkin tilanteelle, jossa tekoäly päättää, ketä kutsutaan työhaastatteluun. Se arvottaa hakijat eri tekijöiden perusteella, mutta voi hakea informaatiota muualtakin kuin CV:stä, kuten sosiaalisesta mediasta.

Vaikka kissaihmisten on todistettu olevan fiksumpia kuin koiraihmisten, ei kissavideoista tykkääminen kerro hakijan älykkyydestä mitään.

 

Onneksi Ylen haastattelussa Barona Technologies Oy:n teknologiapäällikkö Kirsi Louhelainen vakuuttaa, ettei tekoäly tee päätöksiä. He kutsuvatkin sitä mieluummin nimellä tukiäly. Algoritmille on syötetty ajan kuluessa paljon tietoa siitä, millaisilla CV:llä hakijat ovat saaneet paikkoja, ja se on oppinut, millaisin perustein mihinkin paikkaan voi päästä. Rekrytoija voi ottaa algoritmin neuvosta vaarin tai päättää toisin. Louhelainen kertoo heidän puhdistavan datan ennen sen syöttämistä algoritmille, jotta vältytään syrjivältä käytökseltä. He poistavat, osoitteen, nimen, iän, sukupuolen ja henkilötiedot, jottei algoritmi löydä korrelaatioita paikoista, joista niitä ei haluta löytyvän. Louhelaisen mukaan he toteuttivat leikkimielisen testin ja syöttivät pienen määrän puhdistamatonta dataa. Algoritmi löysi korrelaatiota siitä, että tietyn numeroisessa asunnossa asuvat työllistyvät hyvin Python-koodareiksi. Tämä tuo vahvasti esiin sen syyn, jonka takia dataa on puhdistettava.

Oikeus olla muutakin kuin dataa

EU:n tietosuojalain, GDPR:n, mukaan jokaisella on oikeus olla joutumatta automaattisen päätöksenteon kohteeksi. Suomessa on viranomainen, yhdenvertaisuusvaltuutettu, jolle voi kannella, jos kokee tai epäilee joutuneensa tekoälyn johdosta syrjityksi. Valtuutettu voi myös aloittaa tutkinnan omasta aloitteestaan. Valtuutetulla ei kuitenkaan ole päätösvaltaa, joten jos sovintoa osapuolien välille ei synny, valtuutettu voi viedä asian yhdenvertaisuus- ja tasa-arvolautakuntaan tai oikeuteen. Valtioneuvoston kanslialla alkoi helmikuussa hanke, jonka keskeisenä tarkoituksena on luoda ymmärrystä tekoälyjärjestelmien ongelmakohdista. 

Ilmiönä tämä voi olla joskus jopa pelottavaa, mutta onneksi meillä Suomessa ja Euroopassa välitetään tietosuojasta ja yhdenvertaisuudesta. Herättikö postaus ajatuksia sinussa? Kertokaa kaikki, olisi kiva kuulla teidän mielipiteitä ja kokemuksia tekoälyn syrjinnästä.

Ihanaa kesää,

Emma💚

Lähteet:

Hakkarainen, J. 2018. Lisääntyykö syrjintä työnhaussa? Luettavissa: https://yle.fi/uutiset/3-10034072 Luettu: 4.5.2021

Taloussanomat. 2017. Algoritmi päättä jo senkin kuka kutsutaan työhaastatteluun - mahdollistaa uudenlaisen syrjinnän. Luettavissa: https://www.is.fi/taloussanomat/oma-raha/art-2000005122443.html Luettu: 4.5.2021

Tekoäly.info. 2021. Mitä tekoäly on? Luettavissa: https://xn--tekoly-eua.info/mita_tekoaly_on/ Luettu: 4.5.2021

Valonen, T. 2020. Tiesitkö, että tekoälyyn ja algoriteihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu? Luettavissa: https://syrjinta.fi/-/tiesitko-etta-tekoalyyn-ja-algoritmeihin-liittyvaa-syrjintaa-valvoo-yhdenvertaisuusvaltuutettu- Luettu: 4.5.2021

Valtioneuvoston kanslia. 2021. Tekoälyn vinoumien välttäminen: suomalainen arviointikehikko syrjimättömille tekoälysovelluksille. Luettavissa: https://vnk.fi/-/1927382/tekoalyn-vinoumien-valttaminen-suomalainen-arviointikehikko-syrjimattomille-tekoalysovelluksille Luettu: 4.5.2021

Yhdenvertaisuusvaltuutettu. 2021. Mistä teköälyn syrjivyys voi johtua? Luettavissa: https://syrjinta.fi/tekoaly Luettu: 4.5.2021

Kuvat: Pexels