Digitaalisen yhteiskunnan korjausopas – REPAIR-tutkimushankkeen julkaisu

Algoritmiset järjestelmät voivat parhaimmillaan yhdistää ihmisten ja koneiden vahvuuksia sekä edistää tehokkuutta, palveluiden laatua ja yhdenvertaisuutta. Kyse ei kuitenkaan ole vain teknologiasta, vaan laajemmasta vuorovaikutuksesta ihmisten, lainsäädännön ja päätöksenteon välillä, mikä tekee näistä järjestelmistä alttiita murtumille.

Murtumilla tarkoitamme haurautta, toimimattomuutta tai jännitteitä, joissa teknologioiden moniulotteiset vaikutukset yhteiskuntaan ja ihmisten toimintaan tulevat esiin. Murtumat tulevat näkyviin erilaisina epäonnistumisina aina syrjivistä algoritmeista valheellista informaatiota levittäviin suosittelujärjestelmiin ja lopahtaneisiin tekoälyhankkeisiin. Teknologiahankkeiden liialliset lupaukset ovat myös yhdenlainen murtuma.

“Jos teknologioita kehitetään irrallaan laajemmasta toimintaympäristöstä, niiden avulla ei saavuteta tavoiteltavia yhteiskunnallisia hyötyjä, vaan ne luovat uudenlaisia riskejä ja haavoittuvuuksia. Murtumien tunnistamisen ja korjaustyön avulla voimme kuitenkin rakentaa harkitumpia algoritmisiä järjestelmiä ja sitä kautta parempaa digitaalista yhteiskuntaa” sanoo Demos Helsingin vanhempi asiantuntija Johannes Mikkonen. 

Korjausopeilla kohti harkitumpia järjestelmiä

Digitaalisen yhteiskunnan korjausopas kokoaa yhteen REPAIR-hankkeen tutkimustapauksia algoritmisten systeemien murtumista ja korjauksista sekä muodostaa tapauksista korjausoppeja järjestelmien kehittäjille, tilaajille sekä poliittisille päättäjille.

Käsittelemme seuraavia murtumia tutkimustapausten kautta:

1.  Murtuma työn tukemisessa — Tapaus: Lastensuojelu

Lastensuojelussa kokeiltiin kiireellisen sijoituksen tai huostaanoton tarvetta ennakoivaa tekoälytyökalua. Ongelmaksi muodostui sen yhdistäminen sosiaalityön ytimeen, eli asiakkaan tilanteen yksilölliseen ja kokonaisvaltaiseen arviointiin.

2. Murtuma päätöksenteossa — Tapaus: Sosiaaliturva

Algoritmisten järjestelmien hyödyntäminen voi hyvistä tavoitteistaan huolimatta aiheuttaa merkittäviä haasteita sosiaaliturvan toimeenpanossa, sillä ne voivat vaikeuttaa palvelutarpeiden tunnistamista, rajata harkinnan käyttöä päätöksenteossa ja jättää huomiotta monimutkaiset elämäntilanteet, joita on vaikea pelkistää numeerisiin arvoihin.

3. Murtuma ammatti-identiteetissä — Tapaus: Apotti

Potilastietojärjestelmä Apotin käyttöönotto Helsingin ja Uudenmaan sairaanhoitopiirissä on osa tietojärjestelmämuutosta, jonka tavoitteena on yhdistää tietoa ja tehostaa toimintaa. Lääkärit kokevat Apotin käyttöönoton hankaloittaneen arjen potilastyötä.

4. Geopoliittiset muutokset murtuman aiheuttajana — Tapaus: Datakeskus

Datakeskukset nostavat Suomen geopoliittista merkitystä, kun muut ovat riippuvaisia täällä sijaitsevista laskentakeskuksista. Samalla ne nostavat kysymyksiä, millaista valtaa kunnilla on suurten teknologiayritysten kanssa tehdyissä sopimuksissa sekä millaisia riippuvuussuhteita kannattaa rakentaa kriittisen infrastruktuurin ympärille. 

5. Murtumat valtasuhteissa —Tapaus: Koronavilkku

Koronaviruksen tartuntaketjujen katkaisun tehostamiseen kehitetty sovellus, Koronavilkku, oli monella tapaa menestyksekäs julkisen sektorin teknologiahanke.  Samalla koronan jäljityssovellukset nostivat esiin yksityisyydensuojaan ja teknologiayritysten valtaan liittyviä huolia. 

6. Tekoälyn kouluttaminen murtumien ehkäisijänä — Tapaus: Vankila

Rikosseuraamuslaitoksen ja rakennusalan tietopalveluita tuottavan Metrocin yhteistyöhankkeessa suomalaiset vangit kouluttavat tekoälyä. Hankkeessa, julkisen ja yksityisen sektorin tarpeet kohtaavat tarkoituksenmukaisella ja poikkeuksellisella tavalla.

Lisäksi korjausopas esittelee kahta toimintamallia murtumien ehkäisemiseksi: 

1. Kompleksisten ongelmien ratkaiseminen monialaisesti – FET-yhteistyömalli

FET-malli (Fast Expert Teams) on väliaikaisten ja monialaisten asiantuntijatiimien nopeaan, digitaaliseen yhteistyöhön kehitetty malli, joka osoittaa tekoälyn hyödyntämisen mahdollisuuksia asiantuntijayhteistyölle. 

2. Tuki murtumien ennaltaehkäisemiseksi: DEDA-työkalu

DEDA (Data Ethics Decision Aid) on keskustelupohjainen työkalu, joka tukee eettistä pohdintaa ja jaetun ymmärryksen muodostumista dataprojekteissa.

Tutkimustapausten avulla olemme tunnistaneet korjausoppeja, joiden kautta päästään kohti harkitumpia algoritmisia järjestelmiä.

Opas on tarkoitettu erityisesti järjestelmiä kehittäville ja tilaaville julkisille organisaatioille, mutta se tarjoaa tärkeitä oppeja myös poliittisille päättäjille. Opasta voi käyttää sen pohtimiseen, miten yhdenvertaisuuden, avoimuuden tai luottamuksen kysymykset kytkeytyvät teknologian kehitykseen. Korjausopit korostavat, että vaikka murtuma voi olla ongelma, se voi samaan aikaan olla myös tilaisuus oppia ja kehittyä.

Korjausopas on luettavissa kokonaisuudessaan: 🔗 REPAIR – Digitaalisen yhteiskunnan korjausopas

Korjausoppaan julkistustilaisuus 8.5.

Tervetuloa Digitaalisen yhteiskunnan korjausoppaan julkistustilaisuuteen torstaina 8.5. Klo 15-17 Sofia Helsingin Lyhtysaliin (Sofiankatu 4C). Tilaisuudessa on mahdollisuus pohtia, miten rakennamme tulevaisuudessa harkitumpia algoritmisia järjestelmiä. Ohjelman virallisen osuuden jälkeen tilaisuudessa on aikaa verkostoitua ja käydä tarkempia keskusteluja eri tapaustutkimusten asiantuntijoiden kanssa. 

Paikkoja on jäljellä rajoitetusti, ilmoittaudu julkistustilaisuuteen:

Lisätietoja

Johannes Mikkonen
Vuorovaikutusvastaava
Senior Expert, Demos Helsinki
+358 40 569 4948
johannes.mikkonen@demoshelsinki.fi 

Strategisen tutkimuksen neuvoston rahoittamassa REPAIR-hankkeessa tutkitaan, mitä teknologiaan liittyvät murtumat ovat, mitä niistä voi oppia, ja miten algoritmisia järjestelmiä voisi korjata ja uudistaa tavalla, joka ottaa lähtökohdaksi hyvinvointiyhteiskunnan keskeiset arvot. Murtumat toimivat REPAIR-hankkeessa lähtökohtina algoritmisten järjestelmien kehitystyöhön – se, mikä on yhtäältä murtuma, on toisaalta mahdollisuus oppia ja uudistaa.