Miksi tällainen kirja tehtiin?

Tekoälystä ja datasta puhutaan nyt paljon. Asiaan liittyy paljon hypeä mutta myös pelkoja ja väärinkäsityksiä. Marianna Mäkelin, Elisa Silvennoinen ja Kati Mäkitalo avaavat asiaa tuoreessa toimittamassaan tietokirjassa 50 myyttiä tekoälystä ja datasta.

”Ihmisten on vaikea hahmottaa, mitä kaikkea tekoälyllä voi tehdä ja mitä datasta voi päätellä. Teeman ympärillä liikkuu kaiken maailman kansantarinoita ja myyttejä. Tämä kirja purkaa tavallisia ja hieman epätavallisiakin väärinkäsityksiä ja murskaa myyttejä. Siten voidaan oikeasti ymmärtää, mihin tekoäly ja data taipuvat”, Karoliina Snell sanoo. Hän on yksi kirjan 30:stä kirjoittajasta.

”Keskustelu erityisesti tekoälystä on yksipuolista ja se keskittyy usein generatiivisen tekoälyn ympärille. Hypen lisäksi puheissa on paljon uhkakuvia”, Elisa Silvennoinen, yksi kirjan toimittajista kertoo.

Kirjassa keskustellaan sekä datasta että tekoälystä monitieteisestä näkökulmasta eli ei puhuta pelkästään teknisistä näkökulmista käsin. Siinä avataan erilaisia tekoälyyn ja dataan liitettyjä käsityksiä niin yhteiskuntatieteen, kasvatustieteen kuin oikeustieteenkin näkökulmista – mutta yleistajuisesti.

Kirjassa on muutakin sisältöä kuin datan ja tekoälyn yksityisyysriskit.

”Kirjassa avataan tekoälyn ja datan yhteenliittymistä ja kumpaakin arkipäiväistetään”, Elisa Silvennoinen kertoo.

”Ja ihan arjessa meistä kaikista kerätään dataa – ja toimiakseen tekoäly tarvitsee dataa”, Kati Mäkitalo jatkaa.

Kirja sopii luettavaksi ihmiselle, joka on kiinnostunut tekoälytutkimuksesta ja datan ja tekoälyn asemesta yhteiskunnassa ja ihmisten arjessa.

”Kirja on kirjoitettu kaikille suomalaisille, joita mietityttää, onko se mitä naapuri puhui tekoälystä totta vai humpuukia”, Karoliina Snell sanoo.

”Se sopii kevyeksi alkusysäykseksi aiheesta laajemmin kiinnostuneelle sekä yleissivistäväksi teokseksi kenelle tahansa. Lisäksi lyhyet tekstit ja yleistajuinen tyyli sopivat moneen tilanteeseen”, Elisa Silvennoinen lisää.

Marianna Mäkelin, Elisa Silvennoinen & Kati Mäkitalo (toim.): 50 myyttiä tekoälystä ja datasta. Vastapaino 2025, 160 s.
Kirjan voi myös lukea avoimena nettijulkaisuna.

Artikkeli Uusi kirja data- ja tekoälymyyteistä julkaistiin ensimmäisen kerran Dataliteracy.

Keskustelussa puhuttiin datatyön ja datanuuraiden monista muodoista sekä mitä eettisiä seurauksia tai vaikutuksia datavetoisella yhteiskunnalla on organisaatioissa ja globaalistikin. Kuka datan keräämisestä hyötyy? Datan keräämiseen, käyttämiseen ja säilömiseen tarvitaan työvoimaa ja energiaa. Onko dataduuni hanttihommaa vai osa kaikkea asiantuntijatyötä?

Kuuntele jakso tästä.

Artikkeli Podcast datatyöstä ja dataduunareista julkaistiin ensimmäisen kerran Dataliteracy.

Keskustelutilaisuus maanantaina 9.10. klo 13-15 Tiedekulmassa

Linkki keskustelun tallenteeseen

Mitä on synteettinen data? 

Synteettinen data tarkoittaa keinotekoisesti luotua dataa – eli vaihtoehtoa todelliselle datalle. Synteettinen data voidaan tehdä vastaamaan tilastollisesti alkuperäistä aineistoa, mutta niin että yksilötasolla data ei kuitenkaan vastaa yksittäisen henkilön tietoja. Synteettistä dataa voidaan hyödyntää esimerkiksi käsiteltäessä väestö- ja terveystietoja sekä muita arkaluonteisia henkilötietoja. 

Entä miten hyvin väestöä voi simuloida? Mitä ovat synteettisen datan tekniset, eettiset ja oikeudelliset haasteet? Miten sitä voidaan hyödyntää tutkimuksessa ja päätöksenteossa? Suojaako synteettinen data yksityisyyttä?

Tule mukaan keskustelmaan

Ohjelma:

13.00 Tilaisuus alkaa: Antti Honkelan puheenvuoro
13.15 Puhujien alustukset 
13.45 Keskustelutilaisuus 
14.30 Yleisön kysymykset
15.00 Tilaisuus päättyy  

Asiantuntijoina keskustelussa:

Antti Honkela, Helsingin yliopisto, Datatieteen professori

Antti Honkela on datatieteen (koneoppiminen ja tekoäly) professori Helsingin yliopiston Tietojenkäsittelytieteen osastolla. Hänen tutkimusalaansa on yksityisyyden turvaava koneoppiminen. Hän vetää Suomen tekoälykeskus (FCAI) lippulaivassa “Privacy-preserving and Secure AI” -tutkimusohjelmaa sekä EU:n European Lighthouse in Secure and Safe AI (ELSA) Network of Excellence:ssä “Privacy and infrastructures” -työpakettia. Honkela on asiantuntijana Sosiaali- ja terveysalan tietolupaviranomaisen Findatan tietosuojan asiantuntijaryhmässä sekä Findatan ohjausryhmässä.

Arho Virkki, Auria Tietopalvelut, Analytiikkajohtaja

Analytiikkajohtaja Arho Virkki, DI, FT johtaa Varsinais-Suomen hyvinvointialueen Tutkimuksen ja opetuksen tietopalvelu Auriaa, sekä on lääketieteellisen matematiikan dosentti Turun Yliopistossa. Hän on väitellyt Turun yliopistosta vuonna 2007 ja on toiminut sen jälkeen tutkijana Turun yliopistossa sekä VTT:llä. Arholla yli 20 vuoden kokemus data-analyysistä ja ammattimaisesta tietotuotannosta. Hän on nykyisin kiinnostunut erityisesti tilastollisesta tietosuojasta, tiedonlouhinnasta ja päätöksenteon matemaattisesta mallintamisesta.

Niina Lesonen, Tilastokeskus, Yliaktuaari

Yliaktuaari Niina Lesonen työskentelee Tilastokeskuksen Tutkijapalveluissa tutkijoille tärkeän valmisaineistokirjaston tuoteomistajana. Hän on koulutukseltaan filosofian maisteri ja työskennellyt vuosia ympäristötilinpidon kehittämistehtävissä sekä lähimenneisyydessä Tilastokeskuksen koneoppimis-tiimissä.

Samu Kurki, Bayer, Strategic project leader, Data Scientist

Strategic Project Lead Samu Kurki työskentelee Bayerilla data-analyytikkona.
Bayerilla rekistereistä löytyvää terveysdataa käytetään tukemaan ja nopeuttamaan lääkekehitystä eri tavoin. Lisäksi Bayer kehittää edistyneitä menetelmiä datan hyödyntämiseen.

Marjut Salokannel, Helsingin yliopisto, oikeustiede, Tutkimusjohtaja

Marjut Salokannel, OTT, dosentti on tutkimusjohtajana Suomen Akatemian DataLiteracy projektissa. Hänen nykyinen tutkimuksensa keskittyy arkaluonteisten henkilötietojen, mukaan luettuna terveystiedot, käsittelyn sääntelyyn, vaikutuksiin ja mahdollisuuksiin  muuttuvassa eurooppalaisessa dataympäristössä.

Keskustelua juontaa Karoliina Snell (Helsingin yliopisto)

Keskustelun järjestävät DataLit ja FCAI yhteistyössä Tiedekulman kanssa (Yliopistonkatu 4, 00100 Helsinki)

Artikkeli Synteettinen data yhteiskunnassa julkaistiin ensimmäisen kerran Dataliteracy.

DataLit on julkaisuut uuden politiikkasuosituksen, joka koskee SOTE-tietojen käsittelyä ja niistä tiedottamista. Suosittelemme kuvakkeiden käyttöä tiedottamisen tukena havainnollistamaan SOTE-tietojen käsittelyä. Läpinäkyvä henkilötietojen käsittely on EU:n tietosuojasääntelyn perusperiaate. Emmehän voi vaikuttaa henkilötietojen käsittelyyn ellemme tiedä, miten niitä käsitellään. Henkilötietojen käsittelyn tarkoituksista tiedottaminen on rekisterinpitäjän lainmukainen velvollisuus, joka toteuttaa läpinäkyvyyden periaatetta.

Politiikkasuosituksessa esittelemme ehdotuksen kuvakkeiksi ja avaamme tiedottamisvelvollisuuden sisältöä. Kuvakkeilla voidaan havainnollistaa sekä rekisterinpitäjän velvollisuuksia että rekisteröidyn oikeuksia.

Kuvakkeiden käytön ja henkilötietojen käsittelyn lainsäädännöllistä pohjaa avataan tarkemmin Valkoisessa paperissa.

Voit myös ladata laatimamme kuvakkeet ja niihen liittyvän ohjeistuksen

Lue lisää: www.datalit.fi/tietosuojakuvakkeet

Artikkeli Politiikkasuositus tietosuojakuvakkeista julkaistiin ensimmäisen kerran Dataliteracy.

Data Paradoxes: The Politics of Intensified Data Sourcing in Contemporary Healthcare

April 13, 14:00-16:00, Room 114, Unioninkatu 35, University of Helsinki

In April DataLit is hosting an open lecture about data paradoxes with Klaus Hoeyer from the University of Copenhagen. The topic of the lecture will revolve around the politics of intensified data sourcing in contemporary healthcare, where everybody seems to want more data, of higher quality, on more people, and to use this data for a wider range of purposes. Policymakers present such pervasive data collection as leading to a healthcare system in which data can quickly, efficiently, and unambiguously be interpreted and provide better care for patients, more efficient administration, enhanced options for research, and accelerated economic growth. In practice, however, data are often difficult to interpret and the many purposes to which they are now put often undermine one another. Based on an analysis of data intensification in Denmark, a world leader in healthcare data infrastructures, Klaus Hoeyer suggests that data politics is best understood through paradoxes.

Klaus Hoeyer is professor of medical science and technology studies at the Centre for Medical STS (MeST) and the Department of Public Health, University of Copenhagen. He has his background in social anthropology, African Area Studies and medical ethics, and he has worked with, e.g., research biobanking, stem cells, property issues, forensic biobanking, bone and organ transplantation, public-private partnerships, ethics regulation, EU health regulation, data-intensification and public perceptions of genetics, organ transplantation and, most recently, data politics.

Artikkeli Data Paradoxes: The Politics of Intensified Data Sourcing in Contemporary Healthcare julkaistiin ensimmäisen kerran Dataliteracy.

Tule mukaan Tieteen päiville 11.-15.1.2023!

Olemme mukana LITERACY-ohjelman yhteisessä tilaisuudessa: Lukutaidon monet muodot

Artikkeli Tieteen päivä 11.1. – Enemmän on paremmin ja muita datamyyttejä julkaistiin ensimmäisen kerran Dataliteracy.

13.4.2023 klo 14:00

Data Paradoxes: The Politics of Intensified Data Sourcing in Contemporary Healthcare

ABSTRACT

In contemporary healthcare, everybody seems to want more data, of higher quality, on more people, and to use this data for a wider range of purposes. Policymakers present such pervasive data collection as leading to a healthcare system in which data can quickly, efficiently, and unambiguously be interpreted and provide better care for patients, more efficient administration, enhanced options for research, and accelerated economic growth. In practice, however, data are often difficult to interpret and the many purposes to which they are now put often undermine one another. Based on an analysis of data intensification in Denmark, a world leader in healthcare data infrastructures, Klaus Hoeyer suggests that data politics is best understood through paradoxes.

More info coming soon. Stay tuned.

Artikkeli Save the date: Data Paradoxes julkaistiin ensimmäisen kerran Dataliteracy.

Uudessa hallituksen esityksessä biopankkilain muutoksesta HE 247/2022 vp ehdotetaan toimenpiteitä, jotka heikentäisivät merkittävästi näytteenantajan ja rekisteröidyn autonomiaa ja tiedollista itsemääräämisoikeutta. Keskeisenä elementtinä on biopankkisuostumuksesta luopuminen. Takavuosina biopankkisuostumusta on mainostettu Suomen kilpailuvalttina ja tärkeänä biopankkiin osallistuvien henkilöiden autonomian takaajana. Biopankkilain ei ole kuitenkaan katsottu vastaavan yleisen tietosuoja-asetuksen tuomia uusia vaatimuksia ja erityisesti suostumus on nähty ongelmallisena. On painotettu, että laaja biopankkisuostumus ei vastaa tietosuoja-asetuksen tulkintaa nimenomaisesta suostumuksesta.

Ratkaisuna uudessa HE:ssä esitetään, että jatkossa suostumus kysyttäisiin vain näytteenottoon. Samalla henkilö antaisi hyväksynnän näytteen tallentamiselle biopankkiin ja tietojen siihen yhdistämiseen. Kun näyte on otettu, suostumusta ei voisi enää perua. Sen sijaan biopankkiin rekisteröity voisi vastustaa henkilötietojensa käsittelyä. Tässä on kuitenkin lukuisia ongelmia, jotka heikentävät biopankkiosallistujan autonomiaa ja todellista mahdollisuutta irtautua biopankkitoiminnasta. Itse esitysluonnoksessakin myönnetään, että käsittelyperusteen muuttaminen suostumuksesta yleiseen etuun heikentää yksilön mahdollisuuksia kieltää henkilötietojensa käsittely samalla kun se taas turvaa henkilötietojen käsittelyä biopankkitoiminnassa sekä tutkimuksessa ja kehitystoiminnassa. Avaan tässä jotain keskeisiä kriittisiä näkökulmia tähän ehdotettuun uudistukseen.

Suostumus vs. vastustamisoikeus

Suostumus ja vastustamisoikeus eroavat toisistaan monin tavoin. Yksilö voi peruuttaa suostumuksen koska tahansa ja syytä ilmoittamatta. Henkilötietojen käsittelyn vastustaminen tietosuoja-asetuksen 21 artiklan perusteella taas edellyttää, että biopankkiin rekisteröity henkilö esittää henkilökohtaisen erityiseen tilanteeseensa liittyvän perusteen, jonka nojalla hän vastustaa häntä koskevien henkilötietojen käsittelyä. Suostumus on ollut lääketieteellisen tutkimuksen keskeinen eettinen periaate jo vuosikymmenien ajan. On nähty erittäin tärkeänä, että jokainen ihminen suostuu tutkimuksiin vapaaehtoisesti ja saa muuttaa mieltään koska tahansa, ilman että joutuu perustelemaan päätöstään. Tämän on nähty turvaavan tutkittavien oikeuksia tilanteessa, jossa on selvä valta-asetelma. Tutkittavan voi esimerkiksi olla vaikea perustella tunteitaan, mielipidettään tai päätöstään asiantuntijalle.

Jos suostumuksesta luovutaan, tulisi vastustamisoikeus olla jokaiselle biopankkiin rekisteröidylle yhtä helppo ja yksinkertainen vaihtoehto, jota ei tarvitse kenellekään perustella. Mutta mikä tulkitaan tietosuoja-asetuksen mukaiseksi ”henkilökohtaiseksi erityiseksi tilanteeksi”? Tätä ei ole missään tarkkaan määritelty, vaikka joitain ennakkotapauksia Suomessakin on. Verotietojen julkistamista sai vastustaa ja tällöin sopivaksi perusteeksi katsottiin esimerkiksi itselle tai läheiselle aiheutuva vaara. Pelkkä toisiin aatteisiin tuleminen ei siis ehkä riitä perusteeksi. Biopankkilaki ei ole sovelias paikka testata tätä määrittelyä. Henkilökohtaisia ja sensitiivisiä tietoja on tarkoitus tallentaa vuosikymmeniksi, ja on kohtuutonta, eriarvoistavaa ja epäeettistä, jos yksilö joutuu perustelemaan omaa vastustamisoikeuttaan. Miksi kenenkään kuuluisi avata biopankille esimerkiksi omaa vakaumustaan tai elämäntilannettaan? Perusteluiden vaatiminen poikkeaa suuresti lääketieteellisen tutkimuksen eettisestä perusperiaatteesta, että ihminen voi koska tahansa, ilman syytä lopettaa tutkimukseen osallistumisen.

Toinen haaste vastustamisoikeuteen liittyy sen ehdollisuuteen. Henkilötietojen käsittelyä voi vastustaa, mutta jos biopankilla on käsittelyn jatkamiseen huomattavan tärkeä ja perusteltu syy, voidaan vastustamisesta poiketa ja syrjäyttää rekisteröidyn edut, oikeudet ja vapaudet. Eli käytännössä tämä mahdollistaa näytteiden ja tietojen käytön, vaikka rekisteröity olisi toisin biopankille esittänyt. Hallituksen esityksessä sanotaan, että vastustamisoikeudesta poikkeaminen on asetettu kohtuullisen korkealle. Mutta mitä tämä käytännössä tarkoittaa? Tätäkään ei ole missään tarkoin määritelty. Riittääkö tieteellinen tai kansanterveydellinen etu poikkeamisen perusteeksi? Millä perusteella rekisteröidyn oikeudet voidaan jatkossa sivuuttaa? Näistä perusteista samoin kuin siitä mikä on riittävä henkilökohtainen erityinen tilanne pitäisi olla tieto saatavilla ennen kuin yksilö antaa suostumuksensa näytteenottoon.

On tärkeää muistaa, että biopankkinäytteet ja tiedot tallennetaan pitkäaikaiseen, tulevaisuuden tarpeisiin vastaavaan käyttöön. Nykymaailma antaa kuitenkin meille jo paljon vinkkejä siitä, kuinka politiikka, tilanteet ja arvot voivat muuttua nopeastikin. Ihmisillä tulee olla oikeus irtautua biopankeista ja tieto siitä, miten se onnistuu, jos he kokevat biopankkien toiminnan esimerkiksi omien arvojensa vastaiseksi. Yleinen etu ei välttämättä ole jokaisen yksilön etu vaan se voi olla myös uhka joillekin ihmisille ja yhteisöille.

Geneettinen tieto, toisiokäyttö ja eurooppalainen data-avaruus

Biopankkilain päivittämisen taustalla näyttää siis olevan yksilön itsemääräämisoikeuden suojelun sijasta tutkimus- ja kehityskäytön suojeleminen. Käsittelyperusteen muutos tukee tutkimus- ja kehitystoimintaa ja biopankki-infrastruktuurien toimivuutta. Samalla se avaa reittejä myös laajempaan geneettisten tietojen hyödyntämiseen. Eduskunnassa on parhaillaan käsittelyssä myös ehdotus laiksi Genomikeskuksesta HE 110/2022 vp, jonne olisi tarkoitus tallentaa muun muassa kaikki biopankkien kautta tuotetut geneettiset tiedot. Biopankit toimivat jo nyt keskeisenä väylänä yksilöiden geneettisen tiedon määrittämiseen ja tallentamiseen ja tällä hetkellä suuresta osasta biopankkinäytteistä tehdään jonkinlainen geenianalyysi.

Kun geenidata on kertaalleen otettu osaksi tutkimusinfrastruktuuria ja erilaisia tutkimushankkeita, on sen poistaminen ”kierrosta” jo suostumuksen avulla hankalaa. Jos biopankkisuostumus poistetaan, vaikeutuu rekisteröidyn mahdollisuus entisestään hallinnoida geneettisiä tietojaan. Alaikäisten lasten kohdalla seuraukset voisivat olla kohtalokkaita. Ehdotuksen mukaan huoltaja voi antaa suostumuksen lapsen puolesta näytteenottoon, mutta tämän jälkeen lapsella ei enää myöhemmin olisi käytännön mahdollisuutta saada biopankkinäytettään eikä siitä sekvensoituja geenitietojaan pois sen paremmin biopankista kuin kansainvälisestä hyödyntämisestä.

Geneettinen tieto on luonteeltaan laajaa, sen merkityksiä ja yhteyksiä terveyteen ja sairastamiseen ei tunneta vielä kuin rajallisesti. Lisäksi geenit voivat kertoa yksilöstä ja hänen läheisistään tai yhteisöstään paljon asioita, jotka voivat jo nyt ja tulevaisuudessa aiheuttaa syrjintää ja turvallisuusuhkia. Geneettisiä tietoja ei myöskään voi anonymisoida.

Biopankkiin osallistujan on ylipäätänsä erittäin vaikea hahmottaa, mihin kaikkeen omat näytteet, geneettiset tiedot ja näihin yhdistetyt muut terveystiedot voivat biopankkien kautta levitä. Terveystietojen toisiokäyttö on tämän hetken kuuma puheenaihe Euroopassa, jossa rakennetaan yhteistä terveysdata-avaruutta. Sen tarkoituksena on mahdollistaa kaikkien näiden tietojen sujuva käyttö moniin eri tarkoituksiin halki Euroopan. Tämän kaiken tiedottaminen ja selostaminen ihmiselle, ennen kuin hän antaa suostumuksen näytteenottoon ja tallentamiseen biopankkiin on todella vaikeaa. Muuttuvan toimintaympäristön tuomia haasteita ei voi painottaa liikaa. Tarvitsemme avointa julkista keskustelua ihmisten oikeudesta päättää omien tietojensa käytöstä sekä niistä perusteista, joilla hyödyntämistä oikeutetaan nyt ja tulevaisuudessa.

Artikkeli Uusi hallituksen esitys biopankkilaista murentaa yksilön oikeuksia julkaistiin ensimmäisen kerran Dataliteracy.

Heta Tarkkala: Reflections on making welfare state data a profitable resource in Finland

This lecture with the full title ”From gold mine to a well-oiled machine: Reflections on making welfare state data a profitable resource in Finland” took place on 18 February 2022 as part of the DigiGov Virtual Winter School ”Taming the iMonster: Regulating digital platforms”.

Speaker: Heta Tarkkala (University of Helsinki)

Moderation: Rasmus Kvaal Wardemann (University of Vienna)

Abstract: If data is the new oil, nations may be sitting on goldmines. Long before the Big Data hype, states started producing data on their populations, particularly within health. When few had heard of artificial intelligence, and a neural network was just something in your brain, the logic behind this data was to benefit or manage the public. But with increasing interest and belief in the private sector’s ability to turn data into value, nations are now looking to profit from their population data. In this new landscape, what values are seen as the most important? Public health, or private wealth? In this presentation we’ll take a closer look at the new landscape of data at the intersection of markets and publics. Speaker Heta Tarkkala’s work on the Nordic welfare states reveals a tension between old paradigms of data governance and the emerging platform economy.

Organisation: Research Platform Governance of Digital Practices (University of Vienna)

Text from Research Platform Governance of Digital Practices YouTube page.

Artikkeli Video lecture: From gold mine to a well-oiled machine julkaistiin ensimmäisen kerran Dataliteracy.

Tämä teksti on julkaistu Eduskunnan tulevaisuusvaliokunnan raportissa Tekoälyratkaisut tänään ja tulevaisuudessa (Tulevaisuusvaliokunta 1/2022). Voit lukea koko raportin täältä.

1 Mistä on kyse?

Yleisesti käytössä olevat tietokoneet ja muut tietotekniset laitteet ovat pohjimmiltaan koneita, jotka toistavat niille täsmällisesti ohjelmoituja tietojenkäsittelyoperaatioita erittäin nopeasti. Tekoälyjärjestelmät hyödyntävät näiden laitteiden nopeutta uudenkaltaisissa sovelluksissa, joissa järjestelmän toimintaa ei ole ohjelmoitu yksityiskohtaisesti suoraan vaan esimerkiksi aiemmista esimerkeistä yleistämällä tai monimutkaisen optimointiongelman ratkaisuna. Aiemmista esimerkeistä yleistämiseen perustuva koneoppiminen on mahdollistanut viimeisten kymmenen vuoden aikana valtavia edistysaskelia esimerkiksi konenäössä, puheentunnistuksessa ja luonnollisen kielen ymmärtämisessä ja tuottamisessa tietokoneella.

Keskityn kirjoituksessani kolmeen koneoppimiselle ominaiseen turvallisuuskysymykseen: opetusaineiston tietosuojaan ja yksityisyyden suojaan, tekoälyjärjestelmien tietoturvaan sekä järjestelmien turvallisuuteen vuorovaikutuksessa ihmisten kanssa. Samoja riskejä käsitellään tarkemmin Liikenne- ja viestintävirasto Traficomin tuoreessa selvityksessä. ^¹

Koneoppimista käyttävien tekoälyjärjestelmien kehittämisessä tarvitaan suuria opetusaineistoja. Monet kiinnostavat tekoälyn sovellukset esimerkiksi terveydenhuollossa liittyvät ihmisiin, jolloin tarvittavat opetusaineistot sisältävät henkilötietoja. Näiden aineistojen keräämiseen ja käsittelyyn sekä niistä johdettujen järjestelmien käyttöön liittyy tietosuojariskejä, ja ne saattavat loukata aineiston kohteiden yksityisyyttä.

Tekoälyjärjestelmät ovat tietojärjestelmiä. Kuten kaikissa tietojärjestelmissä, niissä voi olla tietoturvaheikkouksia. Tämä pitää huomioida, jos niitä käytetään turvattomassa ympäristössä, kuten internetissä, tai jos epäluotettavilla tahoilla on mahdollisuus manipuloida niiden kehittämisessä käytettyjä opetusaineistoja tai muita syötteitä.

Tekoälyjärjestelmien ”älykkyys” poikkeaa merkittävästi ihmisen älykkyydestä. Ne voivat tehdä systemaattisesti ihmisen näkökulmasta järjettömiltä vaikuttavia virheitä. Sovelluksissa, joissa virheistä voi olla merkittävää haittaa tai vaaraa, onkin tärkeää rakentaa mekanismeja näiden riskien ehkäisemiseksi hyödyntämällä esimerkiksi ihmisen valvontaa.

1.1 Tekoäly ja tietosuoja sekä yksityisyyden suoja

Tyypillinen oppiva tekoälyjärjestelmä kuvaa syötteitä vasteille, esimerkiksi kuvan tiedoksi siinä näkyvistä liikennemerkeistä tai henkilön terveystiedot arvioksi nykyisestä tai ennusteeksi tulevasta terveydentilasta.

Tällaisten järjestelmien rakentamiseen tarvitaan suuria esimerkkiaineistoja esimerkiksi suuren ihmisjoukon terveystiedoista ja havaitusta terveydentilasta, joista järjestelmä oppii näiden välisen yhteyden. Monissa kiinnostavissa sovelluksissa tarvittavat aineistot sisältävät henkilötietoja, kuten arkaluontoisia terveystietoja. Näiden käsittelyyn liittyy useita tietosuojariskejä, joita ei voida poistaa helposti esimerkiksi poistamalla tiedoista suorat tunnisteet:

1. Jos aineisto kerätään yhteen tietokantaan, riski tietojen paljastumiseksi kasvaa, mikäli tietokannan suojaus pettää.
2. Aineiston osia voi paljastua järjestelmän opetuksen aikana opetukseen osallistuville ulkopuolisille tahoille.
3. Osia aineistosta voi olla mahdollista selvittää valmiiksi opetetusta järjestelmästä.

Kuvattuja riskejä voidaan ehkäistä erilaisin teknisin ratkaisuin. Järjestelmiä on mahdollista opettaa käyttämällä hajautettua dataa, jolloin vältetään keskitettyyn tietokantaan liittyviä riskejä. Esimerkiksi Google ja Apple ovat opettaneet mobiilikäyttöjärjestelmiinsä käyttäjien kirjoituksia hyödyntäviä malleja, joiden opetuksessa käytetty data on pysynyt käyttäjien laitteilla eikä ole paljastunut edes mallin kehittäjille. Samaa periaatetta voidaan hyödyntää esimerkiksi silloin, kun yhdistetään terveystietoja eri maista, jos esimerkiksi lainsäädäntö ei salli datan luovutusta. ”Algoritmi tulee datan luo” olisikin usein hyvä periaate parantamaan tietosuojaa.

Aineiston paljastumista opetuksen aikana voidaan estää salausmenetelmiä käyttämällä. Sopivilla menetelmillä on mahdollista opettaa järjestelmä salattua dataa käyttämällä siten, että kehittäjä ei voi nähdä dataa. Hintana näillä ratkaisuilla on usein se, että järjestelmän opettamiseen tarvittava laskenta-aika on merkittävästi suurempi.

Aineiston paljastuminen valmiista järjestelmästä on hankalampi ongelma, johon perinteiset salausmenetelmät eivät pure. Eduskunnan tulevaisuusvaliokunnassa esiintyi hiljattain GPT-3-malliin pohjautuva tekstiä tuottava tekoälyjärjestelmä. Tutkijat ovat osoittaneet, että GPT-3:n edeltäjä GPT-2 on mahdollista houkutella toistamaan täydellinen kopio opetusaineistossa esiintyneistä henkilötiedoista. ² Sama ilmiö on havaittu muillakin testatuilla järjestelmillä. Ilmiötä voidaan estää hyödyntämällä differentiaalista tietosuojaa, mutta hintana on usein se, että mallin tarkkuus heikkenee. Ilmiön tarkempaan ymmärtämiseen tarvitaan lisätutkimusta. Henkilötietoja tai muita luottamuksellisia tietoja käyttämällä opetettujen tekoälyjärjestelmien jakamisessa on kuitenkin syytä olla varovainen.

1.2 Tekoälyn tietoturva

Tekoälyjärjestelmät ovat tietojärjestelmiä ja siten alttiita samoille tietoturvariskeille kuin muutkin tietojärjestelmät. Erityisesti opetettaviin järjestelmiin liittyy lisäksi niille ominaisia riskejä, joista on seuraavassa muutama esimerkki:

1. Opetusaineistoa manipuloimalla järjestelmän kehittäjä tai ulkopuolinen hyökkääjä voi upottaa järjestelmään takaoven, jota on käytännössä mahdoton havaita mutta joka saa järjestelmän toimimaan valituissa tilanteissa hyökkääjän haluamalla tavalla. Esimerkiksi hakemusten käsittelyyn käytetty järjestelmä voitaisiin manipuloida hyväksymään tai hylkäämään aina hakemukset, joissa on tietty harmittomalta vaikuttava avainsana tai muu piirre.
2. Valmiista tekoälyjärjestelmästä on mahdollista löytää heikkouksia, joissa jopa ihmiselle huomaamattomat muutokset saavat järjestelmän toimimaan täysin eri tavalla. Tutkijat ovat kehittäneet esimerkiksi liikennemerkkeihin kiinnitettäviä tarroja, jotka eivät erityisesti häiritse ihmistä mutta joiden takia liikennemerkkien tunnistukseen käytetyt järjestelmät alkavat luulla stop-merkkiä nopeusrajoituksen merkiksi. ³ Muiltakin aloilta on vastaavia esimerkkejä siitä, miten on mahdollista tietoisesti kehittää tapoja, jotka eivät hämäisi ihmistä mutta joilla tekoälyä on mahdollista huijata.
3. Mikäli järjestelmä oppii adaptiivisesti toiminnan aikana, käyttäjät voivat ohjata sen toimintaa epätoivottuun suuntaan. Esimerkiksi sosiaalisen median keskusteluista oppinut Microsoftin Twitter-botti muuttui alle vuorokaudessa ystävällisestä aggressiiviseksi rasistiksi muiden käyttäjien manipuloinnin vuoksi. ⁴

Yllä kuvattuja riskejä voidaan ehkäistä yhdistelmällä teknisiä ja järjestelmätason ratkaisuja. Tehokkain tapa ehkäistä opetusaineiston manipulointia on käytetyn aineiston tarkka laadunvalvonta. Valmiin järjestelmän käytössä tämä ei ole yhtä helppoa, jolloin on tärkeää lisäksi vahvistaa järjestelmää niin, että se ei olisi niin altis huijausyrityksille (vrt. liikennemerkkeihin liimattavat tarrat edellä). Järjestelmien vahvistamiseen soveltuvat teknologiat ovat tällä hetkellä hyvin aktiivisen tutkimuksen kohteena, eikä ole vielä selvää, mikä on lopulta mahdollista ja mikä ei. Kuten monessa turvallisuuskysymyksessä, tässäkin on riskinä hyökkääjien ja puolustajien välinen varustelukilpailu, jossa kehittyneempää puolustusjärjestelmää seuraa sen kiertävä uusi, vielä edistyneempi hyökkäys.

Useimmat koneoppimiseen pohjautuvat tekoälyjärjestelmät eivät opi enää käytön aikana. Tämä toisaalta helpottaa niiden toiminnan ymmärtämistä, toisaalta rajoittaa mahdollisuuksia sopeutua muuttuvaan ympäristöön. Käytön aikana tapahtuvan oppimisen turvallisuus on toistaiseksi hyvin nuori tutkimusala. Tehokkaita ratkaisuja tämän alueen ongelmiin saadaan todennäköisesti odottaa vielä useita vuosia.

1.3 Ihminen tekoälyn valvojana ja yhteistyökumppanina

Tekoälyjärjestelmiä käytetään yhä enemmän sovelluksissa, joilla on merkittäviä vaikutuksia esimerkiksi ihmisten talouteen, hyvinvointiin ja terveyteen. Turvallinen tekoäly vaatii mekanismeja, joilla varmistetaan, että nämä vaikutukset eivät ole haitallisia. Nämä kysymykset ovat läheisessä yhteydessä tekoälyn vastuullisuuteen ja etiikkaan, mutta osa kysymyksistä liittyy myös turvallisuuteen: miten hallitaan autonomisten ajoneuvojen liikenneturvallisuusriskejä tai varmistetaan, ettei tekoälyn ehdottama hoitotoimenpide aiheuta tarpeetonta vaaraa?

Tekoälyjärjestelmille ja ihmisille on yhteistä se, että molemmat tekevät virheitä ja erehdyksiä. Tekoälyn ja ihmisten tekemät virheet ovat kuitenkin usein erilaisia, jolloin niitä voidaan ehkäistä koneen ja ihmisen yhteistyöllä. Matkalla on monta haastetta:

• Miten selitetään koneen toimintaa ihmiselle niin, että tämä voi sitä arvioida ja havaita mahdollisia ongelmia?
• Miten kehittää järjestelmiä, jotka ovat ihmiselle helpommin ymmärrettäviä, menettämättä niiden tehokkuutta?
• Miten rakennetaan ihmiselle mahdollisuus valvoa koneen toimintaa niin, että tehtävä pysyy mielekkäänä ja ihminen pystyy oikeasti puuttumaan toimintaan tarpeen vaatiessa riittävän nopeasti?
• Miten järjestetään ihmisohjaus menettämättä liikaa koneen tehokkuushyötyjä?
• Miten koulutetaan ihmisiä seuraamaan koneiden toimintaa tehokkaasti?

Kuten tavalliset tietojärjestelmät, tekoälyjärjestelmät eivät opi virheistään, ellei niitä ole erityisesti siihen suunniteltu. Yleisin tapa korjata virheitä on uuden version julkaisu ja käyttöönotto. Tämä rajoittaa mahdollisuuksia nopeaan reagointiin, erityisesti jos käyttäjä ja kehittäjä ovat erillisiä tahoja. Aiemmin mainittu aktiivinen oppiminen käytön aikana mahdollistaisi teoriassa nopeamman reagoinnin, mutta näiden menetelmien turvallisuudessa on vielä paljon avoimia ongelmia.

2 Tekoäly muutosvoimana

Erilaiset tekoälyjärjestelmät ovat viime vuosina tulleet yhä enemmän osaksi ihmisten arkea erilaisissa nettipalveluissa ja elektronisissa laitteissa. Niiden yleistymisen voi olettaa jatkuvan ja laajenevan uusille aloille. Paljon potentiaalia on esimerkiksi terveydenhuollossa. Toimiessaan nämä järjestelmät sujuvoittavat arkea ja tehostavat palveluita, mutta samalla ne luovat uusia turvallisuusuhkia.

Tekoälyjärjestelmät ovat ensisijaisesti tietojärjestelmiä, ja näihin molempiin pätevät monet samat lainalaisuudet. Perinteisten tietojärjestelmien turvallisuudesta muodostuu valitettavan usein ”kisa pohjalle”, jossa järjestelmien rakentajat kilpailevat kustannuksia leikatakseen säästämällä turvallisuudesta, koska ostajat eivät osaa sitä vaatia eivätkä ole valmiita siitä maksamaan. Yksi osa ongelmaa on se, että turvallisuuden puutteet koituvat usein muiden vahingoksi. Kuinka moni auton ostaja olisi vapaaehtoisesti valmis maksamaan enemmän autosta, joka olisi kolaritilanteessa turvallisempi muille, esimerkiksi jalankulkijoille?

Turvallisuuteen liittyvissä sovelluksissa hyökkääjän ja puolustajan välille muodostuu helposti varustelukierre, jossa paremman puolustuksen hyöty häviää paremman hyökkäyksen edessä, mikä edellyttää vielä parempaa puolustusta ja niin edelleen. Tällaisia kierteitä voi syntyä myös silloin, kun tekoälyn antamaa turvaa murretaan ja puolustetaan. Tekoäly on vahva työkalu kisan molemmilla puolilla, jolloin molempien osapuolten voi olla käytännössä pakko hyödyntää sitä pärjätäkseen kilpailussa. Tieteellinen perustutkimus voi joissain tilanteissa tarjota ulospääsyn varustelukierteestä. Esimerkiksi differentiaalista tietosuojaa käyttämällä voidaan todistaa matemaattisesti, että yksikään hyökkääjä ei voi loukata käyttäjien tietosuojaa, vaikka tämä käyttäisi mitä tahansa tulevaisuuden teknologiaa. Vastaavasti tekoälyjärjestelmien huijaamista tai kiertämistä vastaan kehitetään teknologioita, joilla voidaan todistaa mallin kestävän varmasti tiettyjä manipulaatioita.

Turvallisten tekoälyteknologioiden kehitys tuottaa todennäköisesti tulevaisuudessa helppokäyttöisiä työkaluja, joilla järjestelmien turvallisuutta voidaan vahvistaa ja varmistaa. Turvallisen tekoälyn käytössä tullaan kuitenkin todennäköisesti törmäämään vaikeisiin arvovalintoihin, koska valinnoilla on hintansa. Tietosuojaa kunnioittava tai manipulaatioita kestävä järjestelmä tuottaa usein optimiolosuhteissa vähemmän tarkkoja ennusteita, jolloin järjestelmän tuottama hyöty pienenee. Mikä pahempaa, tämä tarkkuuden lasku vaikuttaisi kohdistuvan helposti voimakkaampana vähemmistöihin ja yleensä enemmistöstä poikkeaviin yksilöihin, mikä voi loukata yhdenvertaisuutta. Näiden eri arvojen yhteensovittamisesta tarvitaan vilkasta yhteiskunnallista keskustelua, ettei ongelmien ratkaisu jää yksin teknologian kehittäjien vastuulle. Yhteensovittamisessa on paljonkin pelivaraa, koska turvallisuus ei ole päällä tai poissa -tyyppinen ominaisuus, vaan useimmissa teknologioissa on mahdollista säätää suojan tasoa ja siten myös kustannuksia ja sivuvaikutuksien voimakkuutta.

3 Viestit päättäjille ja kansalaisille

Tietoturvan ja -suojan sääntely on tietoyhteiskunnan ympäristönsuojelua. Koska kustannukset kohdistuvat ulkopuolisiin, markkinat eivät sitä ratkaise, vaan tarvitaan ulkopuolista ohjausta ja sääntelyä.

Turvallisen ja eettisen tekoälyn toivottavat ominaisuudet voivat olla ristiriitaisia, jolloin yhden toteuttaminen heikentää muita. Ominaisuudet eivät ole mustavalkoisesti päällä tai poissa, vaan niiden välistä tasapainoa voi yleensä säätää tarkemmin. Tarvitaan sopivasti vapautta ja sääntöjä, jotta löydetään kuhunkin sovellukseen paras ratkaisu. Samalla pitää varmistaa, että tasapainoa muodostettaessa huomioidaan myös muiden kuin järjestelmän kehittäjän ja omistajan etu.

Valmiista tekoälyjärjestelmästä on mahdoton todentaa, toimiiko se joka tilanteessa oikein eikä esimerkiksi sisällä piilotettua takaovea. Luotettavuuden varmistamiseksi on siksi tärkeää varmistaa prosessi, jolla järjestelmä on rakennettu.

Tekoälyjärjestelmät eivät ole erehtymättömiä, mutta eivät ole ihmisetkään. Näiden kahden tekemät virheet ovat luonteeltaan hyvin erilaisia. Tärkeissä sovelluksissa käytettäviä tekoälyjärjestelmiä tulee valvoa tavalla, joka on tarkoituksenmukainen kyseisessä sovelluksessa eikä turhaan nosta valvonnan kustannuksia mahdollisten virheiden haittoja suuremmiksi.

Datan luovuttamisen sijaan kannattaa suosia järjestelmiä, joissa koodi tulee valvotusti datan luo. Esimerkiksi sen sijaan, että terveystietoja luovutettaisiin ulkopuolisille, olisi parempi suosia ratkaisuja, joissa dataa ei luovuteta vaan sen tarvitsijat pääsevät käsittelemään tarvitsemiaan osia turvallisesti suojatussa ympäristössä.

Datan keskittämisen sijaan kannattaa mahdollisuuksien mukaan edistää datan hajauttamista tietosuojariskien pienentämiseksi. Suunniteltu kansallinen genomitietorekisteri on esimerkki erittäin suuririskisestä hankkeesta, jonka hyödyistä on erimielisyyttä.

Tekoälyn tietoturvan ja tietosuojan osaamista tulee ylläpitää ja kehittää aktiivisesti kaikilla tasoilla. Turvaa ei usein voi lisätä jälkikäteen valmiiseen järjestelmään, joten kehittäjien pitää osata rakentaa se järjestelmän sisään alusta asti, mikä vaatii laajaa koulutusta. Toisaalta tarvitaan uusien, turvallisempien menetelmien tutkimusta. Vain panostamalla alan perustutkimukseen Suomessa voidaan varmistaa paras osaaminen ja korkeatasoisin uusien menetelmien opetus.

Lähteet

1. 1. A. Vähä-Sipilä, S. Marchal & M. Aksela. Tekoälyn soveltamisen kyberturvallisuus ja riskienhallinta. Traficomin tutkimuksia ja selvityksiä 9/2021
   2. N. Carlini et al. Extracting Training Data from Large Language Models. In Proceedings of the 30th USENIX Security Symposium, 2021.
   3. K. Eykholt et al. Robust physical-world attacks on deep learning visual classification. In Proceedings of the 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition CVPR 2018). IEEE, 2018.
   4. O. Schwartz. “In 2016, Microsoft’s Racist Chatbot Revealed the Dangers of Online Conversation”. IEEE Spectrum 25.11.2019. Viitattu 26.11.2021. 124
   5. US Census Bureau. 2020 Census Data Products: Disclosure Avoidance Modernization. Viitattu 26.11.2021.

Lue koko raportti täältä: Ailisto, Heikki et al.: Tekoälyratkaisut tänään ja tulevaisuudessa. Helsinki, Tulevaisuusvaliokunta, 2022. 183 s. Eduskunnan tulevaisuusvaliokunnan julkaisu 1/2022. 

Artikkeli Tekoälystä tietoturvallista julkaistiin ensimmäisen kerran Dataliteracy.