Korjaustyössä: REPAIRin uudet tutkijat esittäytyvät

REPAIR-tutkijat Garima Singh & Aino Salmi.

Millaisia vinoumia piilee työvoimapalvelujen algoritmisissa järjestelmissä? Miten varmistetaan, että sosiaaliturvaa hallinnoivat järjestelmät palvelevat ihmisiä oikeudenmukaisesti? Tässä blogissa esittäytyvät REPAIR-hankkeen uudet tutkijat Garima Singh ja Aino Salmi, joiden tutkimus nostaa esiin kriittisiä kysymyksiä algoritmeista, rakenteellisista vinoumista ja siitä, miten järjestelmät voisivat paremmin ottaa huomioon ihmisten moninaisuuden.

Keitä he ovat – ja mitä he haluavat korjata?

Kuka olet ja mitä tutkit REPAIR-hankkeessa?

GARIMA: Olen Garima Singh, tohtorikoulutettava Helsingin yliopistosta. Teen väitöskirjatutkimustani Suomen tekoälykeskuksessa (FCAI) ja REPAIR-hankkeessa, joissa tutkin algoritmisia vinoumia Suomen hyvinvointijärjestelmissä, erityisesti julkisissa työvoimapalveluissa.

AINO: Olen Aino Salmi, yhteiskuntapolitiikan väitöskirjatutkija REPAIR-hankkeessa. Väitöstutkimukseni käsittelee sitä, miten algoritmisia järjestelmiä hyödynnetään sosiaaliturvaetuushallinnossa ja millaisilla edellytyksillä nämä järjestelmät voisivat tuottaa kansalaisten kannalta oikeudenmukaisia lopputuloksia. 

Mikä tutkimuksessasi on sinulle kaikkein kiinnostavinta?

GARIMA: Yksi tutkimukseni mielenkiintoisimmista asioista on selvittää, miten hyvinvointivaltio pystyy tasapainottamaan järjestelmän sisäisiä vinoumia ja perustuslain mukaista yhdenvertaisuuden periaatetta nopeasti kehittyvässä teknologisessa ympäristössä – vai pystyykö siihen ollenkaan. Hyvinvointipolitiikan tarkoitus on taata kaikille yhtäläinen pääsy sosiaaliturvaan ja työhön. Silti järjestelmissä voi esiintyä rakenteellista eriarvoisuutta, koska ne on opetettu toimimaan vanhan, vinoutuneen datan pohjalta. Tämä voi jatkossakin tuottaa epäoikeudenmukaisia lopputuloksia haavoittuvassa asemassa oleville ihmisille, tai jopa muuttaa tilanteita heille entistä huonommiksi.

Tämä herättää tärkeitä kysymyksiä siitä, kenen tarpeet todella otetaan huomioon ja mihin kohtiin järjestelmässä jää yhä puutteita. Intersektionaalisuus – eli se, miten eri taustat kuten sukupuoli, etnisyys tai vammaisuus vaikuttavat ihmisten kokemuksiin – auttaa ymmärtämään miten haavoittuvassa asemassa olevat ryhmät kokevat vinoumat eri tavoin sekä korjaavatko algoritmiset järjestelmät näitä eroja vai pahentavatko ne niitä.

AINO: Sosiaaliturvaetuuksien toimeenpanossa toimivat ja luotettavat tietojärjestelmät ovat käytännöllinen välttämättömyys. Niiden täytyy olla ajantasaisia suhteessa sekä olemassa olevaan lainsäädäntöön että asiakkaiden ja yhteiskunnan muuttuviin tarpeisiin. Erilaisten tarpeiden ja vaatimusten yhteensovittaminen julkisen hallinnon toimintaperiaatteiden kanssa ei kuitenkaan ole aina yksinkertaista. Tutkimukseni kiinnostavin kohta löytyy tästä risteyksestä.

Mihin kysymykseen erityisesti etsit vastausta?

GARIMA: Tutkimukseni keskittyy kahteen peruskysymykseen. Ensiksi, millaisia algoritmiseen päätöksentekoon liittyviä vinoumia esiintyy Suomen julkisissa työvoimapalveluissa, ja miten niitä pyritään korjaamaan nykyisin käytössä olevilla keinoilla? Toiseksi, miten nämä vinoumat ja niiden korjaaminen vaikuttavat kansalaisten ja viranomaisten väliseen vuorovaikutukseen? Tarkastelemme näitä kysymyksiä datafeminismin näkökulmasta, jotta voimme huomioida, miten saavutettavuus, oikeudenmukaisuus ja osallisuus toteutuvat – tai eivät toteudu – hyvinvointijärjestelmissä, erityisesti eri ihmisryhmien näkökulmasta.

AINO: Miten teknologioita voidaan kehittää siten, että ne palvelevat sekä yhteiskuntaa, järjestelmiä työkseen käyttäviä että asiakkaita ja toisaalta niin, että ne tuottavat inhimillisesti katsoen hyötyä yhteiskunnalle ja yksilöille?

Jamillah Knowles & Reset.Tech Australia / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/

Kerro yksi murtuma, jonka tahtoisit korjata

GARIMA: Yksi kriittinen murtuma, jonka haluaisin korjata on se, että algoritmeihin perustuvat järjestelmät eivät huomioi ihmisten erilaisia taustoja ja elämäntilanteita tarpeeksi hyvin. Tekoälyjärjestelmät eivät usein ymmärrä elämän monimutkaisuutta, mikä voi johtaa epätasa-arvoisiin lopputuloksiin erityisesti haavoittuvassa asemassa oleville ihmisille. Tällaiset tilanteet voivat vahvistaa jo olemassa olevia rakenteellisia eroja tai aiheuttaa virheitä, joissa ihmisiä luokitellaan väärin, kohdellaan epäoikeudenmukaisesti tai jätetään järjestelmän ulkopuolelle. Näiden vinoumien korjaaminen vaatii enemmän huomiota, joustavuutta ja tekoälyratkaisuja, jotka ymmärtävät paremmin eri tilanteiden taustat – erityisesti julkisissa palveluissa, kuten työllisyyspalveluissa.

AINO: Sosiaaliturvajärjestelmien uudistamisessa tulisi korjata sellaiset murtumat, jotka aiheutuvat siitä, että teknologioiden kehittämisessä ja käyttöönotossa ei oteta huomioon, että järjestelmien käyttäminen on tapahtuu yhteistyössä julkisen hallinnon työntekijöiden ja asiakkaiden kanssa. Teknologisten järjestelmien tulisi siis palvella erilaisia tarpeita, ei keskittyä osaoptimointiin.