DataLit-hanke järjestää yhdessä Generation AI-hankkeen kanssa kirjan ”50 myyttiä tekoälystä ja datasta” julkaisutilaisuuden tiistaina 20.1. keskuskirjasto Oodissa. Kirjassa keskustellaan sekä datasta että tekoälystä monitieteellisestä näkökulmasta yleistajuisesti, kaikille kiinnostuneille sopivalla tavalla. Kirja tuo esille tekoälyyn ja dataan liitettyjen teknisten käsitysten ohelle niin yhteiskuntatieteellisen, kasvatustieteellisen kuin oikeustieteellisen näkökulman.

Julkaisutilaisuus järjestetään 20.1.2026 Keskustakirjasto Oodin Saarikoski-mattolla (3. krs) klo 17-18.

Tilaisuus on avoin kaikille aiheesta kiinnostuneilla. Keskustelemassa on kirjan kirjoittajia eri tieteenaloilta DataLit -ja Generation AI – hankkeesta.

Artikkeli Kirjan 50 myyttiä tekoälystä ja datasta julkaisutilaisuus julkaistiin ensimmäisen kerran Dataliteracy.

Teksti: Petri Ylikoski

Tekoäly ja teknologinen muutos

Tekoälyn kehitys on sekä kiehtovaa että hämmentävää. Asiaa ei auta, että jostakin syystä tekoälystä uutisoidaan eri tavoin kuin muista teknologioista. Tekoälystä kirjoitetaan tekijänä ja toimijana, kun muita teknologioita yleensä tarkastellaan selvästi välineinä. Fantasia tekoälystä toimijana haittaa nykyisen tekoälyn ymmärtämistä ja kätkee taakseen sovelluksien takana olevan ihmistyön. Tekoälyyn kannattaa suhtautua samalle tavoin kuin muihinkin uusin teknologioihin ja olla varovainen yksityiskohtaisten tulevaisuuden ennustusten kanssa. Esimerkiksi käy autonomisten ajoneuvojen kehittäminen. Teknologiayhtiöiden johtajat ovat vuosia ennustaneet, että täysin autonomiset ajoneuvot olisivat todellisuutta aivan lähitulevaisuudessa. Mutta vuodet ovat kuluneet ja ennusteet ovat osoittautuneet toiveajatteluksi. Kadut eivät ole täynnä robottitakseja, ja sellaiset saattavat pysyä kokeiluasteella hyvin pitkään, ellei niitä sitten lopeteta kokonaan kalliiden kustannusten vuoksi. (Brooks 2024.)

Tekoälyn kehitystä ei tule ajatella yhteiskunnallisessa tyhjiössä. Tekoälyn sovellutukset ovat sosio-teknisiä järjestelmiä. Ne pitävät sisällään tietojärjestelmien lisäksi ihmiset ja organisaatiot, jotka niitä kehittävät, käyttävät ja mahdollisesti ovat niiden käytön kohteina. Kyse on yhteiskunnallisesta ilmiöstä, jonka tuleva kehitys tulee riippumaan huomattavasti markkinakilpailusta, oikeudellisesta säätelystä ja viime kädessä siitä, kuinka käyttäjät ottavat järjestelmät haltuun. Tämä on erityisen tärkeää pitää mielessä pohdittaessa tekoälyn vaikutuksia työelämään ja asiantuntijatyöhön. Vielä ei tiedetä, mitkä ovat parhaita tapoja käyttää uusia välineitä ja millaisia käyttöjä tulisi ehdottomasti välttää. Emme myöskään tiedä, miten parhaiten toteuttaa ihmisen ja tekoälyn yhteistoiminta. Samoin kuin aikaisempien teknologioiden – kuten sähkön ja internetin – käyttöönoton kohdalla, odotettavissa on varsin pitkä kokeilu- ja oppimisjakso ennen kuin yksilöt ja organisaatiot ovat löytäneet parhaat tavat hyödyntää ja elää yhdessä uusien teknologioiden kanssa.

Kokeilujen myötä myös organisaatiot ja työtehtävät tulevat muuttumaan, eikä välttämättä parempaan suuntaan. Teknologinen muutos hävittää yllättävän harvoin kokonaisia ammatteja. Useimmiten muutos tapahtuu työtehtävien tasolla ja siinä, kuinka paljon työntekijöitä tarvitaan tehtävien suorittamiseen. Seuraavassa keskityn tarkastelemaan asioita työtehtävien muutoksen tasolla. Lähden liikkeelle tekoälyteknologioiden ominaisuuksista ja etenen sitten niiden käytön seurauksiin pitäen silmällä erityisestä asiantuntijatehtäviä.

Kaikki perustuu dataan

Sana-assosiaation perusteella tekoälyn salaisuus olisi sen älykkyydessä tai kyvyssä järkeillä. Mutta tosiallisesti kaiken perusta on data. Koneoppiminen ja muut tekoälymenetelmät perustuvat pohjimmiltaan datan säännönmukaisuuksien tunnistamiseen. Jos aiheesta ei ole dataa, ei tekoälystä ole siihen apua. Puutteellinen, epäedustava, systemaattisia virheitä sisältävä tai epätarkoituksenmukainen data vaarantaa tekoälyn soveltamisen, sillä se johtaa virhediagnooseihin, epäluotettaviin ennusteisiin ja syrjiviin päätöksiin (Hand 2020). Viime vuosikymmenten tekoälyn kehitys perustuukin pitkälti tietokoneiden laskentatehon ja saatavilla olevan datan määrän nopeaan kasvuun. Mitä tästä datan keskeisyydestä seuraa?

Yksi seuraus on, että datan tuottaminen ja hallinta ovat yhä keskeisempiä organisaatioiden toimintoja. Tämä tuottaa monia uusia dataan liittyviä työtehtäviä. Datan keräämisen ja käytön yhä laajemman oikeudellisen säätelyn myötä datan turvallisuudesta huolehtiminen tulee yhä tärkeämmäksi, erityisesti siten, että datan kohteiden yksityisyys tulee turvatuksi. Jotta eri lähteistä olevaa dataa voidaan käyttää, täytyy myös tietojärjestelmien ja niiden sisältämän datan olla yhteensopivaa. Tämä merkitsee suurta määrää työtä, joka liittyy yhtenäisten standardien luomiseen. Datan keräämisen ja käytön prosesseilta vaaditaan yhä suurempaa vastuullisuutta ja läpinäkyvyyttä, mikä merkitsee, että erilaiset datan, mallien ja prosessien auditointitehtävät ovat suuri tulevaisuuden kasvuala. Mitkään näistä uusista tehtävistä eivät ole puhtaasti tietoteknisiä asiantuntijatehtäviä, vaan ne vaativat usein oikeudellista ja sisällöllistä osaamista.

Vaikka datasta puhutaan uutena öljynä, sitä ajatellaan usein abstraktina informaationa. Moni tekoälyhanke on lähtenyt liikkeelle ajatuksesta, että tekoäly auttaa nopeasti säästämään kustannuksia tai tehostamaan toimintaa, mutta niissä on opittu kantapään kautta, että käyttökelpoinen data edellyttää usein paljon työtä ja resursseja. Datan tuottaminen ja sen turvallinen hallinnointi edellyttävät soveltuvan infrastruktuurin ja sen jatkuvan ylläpidon. Toiseksi, suuri määrä dataa ei riitä, sen tulee olla myös laadukasta ja relevanttia. Vaikka data syntyisi muun toiminnan sivutuotteena, sen laadun parantaminen saattaa edellyttää muutoksia työtehtäviin ja niiden sisältöön. Dataa täytyy kerätä, käsitellä ja kuratoida. Datan käyttökelpoisuuden arvioiminen edellyttää asianmukaista metadataa, tietoa datan alkuperästä ja käsittelytavoista. Tällainen datatyö jää usein näkymättömäksi, sillä se kasvaa pikkuhiljaa monien uudistusten myötä eikä sitä varten palkata erityistä henkilökuntaa. Asiantuntijatehtävissä työskentelevät saavat kuin vaivihkaa osansa näistä tehtävistä.

Esimerkkinä voi miettiä kuinka paljon esimerkiksi lääkäreiden ja sairaanhoitajien työstä nykyään liittyy datan syöttämiseen erilaisiin järjestelmiin (Bossen ym. 2019). Tulevaisuudessa automaatio ja erilaiset sensorit saattavat auttaa asioiden kirjaamisessa ja dokumentoinnissa, mutta ne tuovat mukanaan uusia tehtäviä, kuten sensorien ja järjestelmien ylläpito ja oikean toiminnan varmistaminen. Nämä datatyötehtävät tulevat tyypillisesti aikaisempien tehtävien lisäksi ilman, että tätä otetaan täysin huomioon töiden mitoituksessa. Usein tämä tarkoittaa, että työntekijällä on vähemmän aikaan varsinaisten tehtäviensä tekemiseen. Esimerkiksi hoitajilla ja lääkäreillä on yhä vähemmän aikaa potilaiden kanssa vuorovaikuttamiseen, kun he kasvavassa määrin tekevät datan keräämiseen ja ylläpitoon liittyviä tehtäviä. Tällaiset datatyön tuottamat vaihtoehtoiskustannukset olisikin syytä ottaa huomioon tietojärjestelmiä rakennettaessa.

Läpinäkyvyyden haaste

Monet tekoälyjärjestelmien tuottamat haasteet ovat tuttuja jo vanhemmista tietojärjestelmistä, jollaisia kaikki nykyaikaiset organisaatiot soveltavat. Tällaiset järjestelmät ovat usein vuosien kehitystyön seurauksena hyvin monimutkaisia, ja siksi on monesti vaikeaa arvioida niiden luotettavuutta ja ymmärtää niiden toimintaa. Tämä tuottaa ongelmia myös hallittavuudelle ja yhteensopivuudelle. Tekoälyn lisääminen järjestelmiin ei ole yksinkertaista ja voi tehdä järjestelmistä vielä vaikeampia ymmärtää. Uudet teknologiat rakentuvat yleensä vanhempien päälle, eivätkä tekoälyjärjestelmät ole poikkeus. Tekoälyn lisääminen saattaa parantaa käytettävyyttä, mutta se ei väistämättä ratkaise järjestelmien monimutkaisuutta ja sen tuottamia ongelmia.

Tekoälyjärjestelmät tuovat mukanaan myös uusia läpinäkyvyyden ja ymmärrettävyyden haasteita. Nämä tulevat esiin, kun tarkastellaan tekoälyn käyttöä päätöksenteossa (Levy ym. 2021). Automaattisessa päätöksenteossa voidaan erotella sääntöpohjaiset ja koneoppimiseen perustuvat ratkaisut. Sääntöpohjaisissa järjestelmissä tietokoneelle annetaan selkeät säännöt, joiden perusteella käsitellä tapauksia. Tällaiset järjestelmät eivät edellytä varsinaista tekoälyä, ja niiden keskeisiä riskejä ovat virheellisestä datasta tai ohjelmointivirheistä aiheutuvat virheelliset päätökset. Sen sijaan koneoppimiseen perustuvissa järjestelmissä on kaksi lisähaastetta. Ensinnäkin tällaiset järjestelmät tekevät päätöksiä perustuen sääntöihin, jotka ne ovat yleistäneet opetusaineistona käytetystä datasta. Tästä seuraa, että mikäli järjestelmän opettamisessa käytetty data on vinoutunutta esimerkiksi syrjivien käytäntöjen vuoksi, saattaa järjestelmä oppia nämä samat vinoumat ja ryhtyä toistamaan vastaavaa syrjivää käyttäytymistä. Samoin vinoumat voivat olla tulosta huonolaatuisesta tai epäedustavasta datasta. Joissakin tilanteissa järjestelmä tuottaa selkeästi vinoutuneita päätöksiä, joten voidaan päätellä, että jossakin on vikaa. Ongelman lähteen paikallistaminen onkin sitten vaikeampaa.

Järjestelmä voi olla myös vinoutunut ilman että se tuottaa helposti havaittavia räikeitä virhepäätöksiä. Tämä mahdollisuuden selvittäminen on vaikeaa, sillä tässä vaiheessa astuu kuvaan toinen tärkeä koneoppimismallien ominaisuus, niiden läpinäkymättömyys (Rosenfeld & Richardson 2019). Periaatteet, jotka malli on itselleen omaksunut, ovat käyttäjälle vaikeita tai mahdottomia ymmärtää. Tämä on haaste mallin kehittäneelle ohjelmoijalle, mutta vielä suurempi haaste järjestelmän käyttäjälle, joka ei ole tekoälyn asiantuntija. Haaste on merkittävä useasta syystä. Ensinnäkin järjestelmän käyttäjän tulisi pystyä arvioimaan milloin järjestelmä toimii tarkoitetulla tavalla ja milloin sen toiminnassa on jokin virhe. Tekoälymallia ei voi pitää oraakkelina, joka on aina oikeassa. Toiseksi kehittyneissä demokratioissa on totuttu ajattelemaan, että ihmistä koskevat päätökset tulee pystyä oikeuttamaan viittaamalla päätöksenteossa käytettyihin periaatteisiin. Tämä ei ole mahdollista koneoppimismallien tapauksessa. Emme tiedä tarkalleen, mihin perustuen tekoälymalli teki päätöksen, joten emme myöskään tiedä, ovatko ne hyväksyttäviä perusteita. Tämä muodostaa merkittävän haasteen tekoälyn käytölle automaattisessa päätöksenteossa, erityisesti julkisella sektorilla.

Päätöksenteossa käytettävien tekoälymallien läpinäkyvyys ja selitettävyys on elintärkeää oikeusvaltiossa. Mallien toimivuutta voidaan arvioida esimerkiksi tarkkailemalla niiden seurauksia eli sitä, kuinka ne käsittelevät erityyppisiä esimerkkitapauksia. Myös mallien vertailuun ja testaamiseen voidaan kehittää erilaisia tekoälyä hyödyntäviä välineitä. Huomattavaa on, että tällainen työ edellyttää varsin paljon sisällöllistä asiantuntemusta, joka ylittää puhtaan data-analyytikon perustaidot. Tarvitaan asiantuntijoita, jotka ymmärtävät, kuinka järjestelmän tulisi toimia ja ymmärtävät tekoälyjärjestelmän toimintaperiaatteet. Organisaatioilla tulisikin olla asiantuntijoita, jotka kykenevät osallistumaan uusien järjestelmien hankintaan ja rakentamiseen. Yhtä lailla on tärkeää, että organisaatiot kykenevät säilyttämään tällaiset asiantuntijat, sillä käyttäjien puutteellinen ymmärrys järjestelmästä on tärkeä läpinäkymättömyyden lähde.

Tekoälyjärjestelmien huono läpinäkyvyys tuleekin olemaan tulevaisuudessa merkittävä haaste ja rajoite niiden käyttöönotolle. Tekoälymallinen periaatteellisen läpinäkymättömyyden lisäksi hankaluuksia tuottavat liikesalaisuudet. Useimmat tekoälyjärjestelmät ovat yksityisten yritysten kehittämiä, joten niiden toiminnan yksityiskohdat ja koulutusdata ovat liikesalaisuuksia. Tämä tekee mallien arvioinnin vaikeaksi, ja kokemus osoittaa, että pelkkien myyntipuheiden perusteella ei tulisi tehdä tärkeitä päätöksiä. Tässä suuri syy sille, miksi erilaisten auditointikäytäntöjen ja standardien kehittyminen on aivan ensiarvoisen tärkeää.

Omanlaisensa läpinäkyvyyden haasteen muodostaa myös tekoälyvälineiden suuri määrä. Tästä on kokemuksia esimerkiksi laskennallisessa yhteiskuntatieteessä, jossa jatkuva virta uusia menetelmiä tekee todella vaikeaksi muodostaa käsitystä yksittäisten menetelmien luotettavuudesta. Kun yksittäistä menetelmää käytetään vain kourallisessa tutkimuksia, on lähes mahdotonta muodostaa käsitystä käytetyn menetelmän vahvuuksista ja heikkouksista. Menetelmien käyttäjät, tai tuloksien uskottavuuden arvioijat, eivät yleensä tunne menetelmien yksityiskohtia, joten monien tutkimusprosessissa tehtyjen oletusten merkitys tuloksille jää hämärän peittoon. Tämä merkitsee, että tutkimustulosten luotettavuus epävarma. Vastaavassa tilanteessa on moni uusien tekoälyvälineiden käyttäjä. Kuinka valita omaan tarkoitukseen sopiva väline? Miten arvioida kilpailevia välineitä? Kuinka paljon voin luottaa välineeni tuloksiin?

Tekoäly osana organisaatiota

Tekoälyä on useimmiten luontevinta ajatella tukiälynä, jossa ohjelmisto toimii ihmisen apuna. Tällöin tekoäly on väline, jonka hyödyllisyyden määrittää käyttäjän kyky käyttää sitä. Kaikissa tilanteissa tämä ei aina kovin hyvin kuvaa tekoälyn ja käyttäjän suhdetta. Joissakin sovelluksissa on pikemminkin kyse ihmisavusteisesta tekoälystä. Tällöin ohjelmisto suorittaa sellaisia tehtäviä, joita käyttäjä ei kykene tai halua toteuttaa. Ohjelmisto tarvitsee tällöin ihmistä joidenkin avustavien tehtävien suorittamiseen ja viime kädessä valvomaan prosessin ja tuotosten tarkoituksenmukaisuutta. Tämä asetelma ei toki ole uusi vaan tuttu tehtaista, joissa tuotantoprosessi on rakennettu koneiden ympärille.

Erikoistapaus ihmisavusteisesta tekoälystä on tekoälyohjelmistojen käyttö organisaation ja työntekijöiden johtamiseen. Tällöin ohjelmisto korvaa perinteisesti esimiesten tekemän työntekijöiden valvonnan, työnohjauksen ja arvioinnin. Esimerkiksi käyvät Amazonin jakelukeskukset, joissa ihmisiä tarvitaan pakettien siirtelyyn ja keräilyyn, sillä tällaiset tehtävät ovat liian vaikeita roboteille. Sen sijaan töiden johtaminen on pitkälti delegoitu tekoälyjärjestelmälle. Järjestelmä jakaa työntekijöille työtehtävät, seuraa heidän työskentelynsä tehokkuutta ja jopa tarvittaessa irtisanoo työntekijän (Crawford 2021). Vastaavan esimerkin tarjoavat puhelinpalvelukeskukset, joissa tietokonejärjestelmä seuraa työntekijöiden työtahdin lisäksi näiden käyttämää sanastoa ja puheäänen tunneilmaisua. Järjestelmä antaa tarvittaessa ohjaavaa palautetta kertoen, millaisia ilmauksia tulisi lisätä tai välttää asiakkaiden kanssa keskusteltaessa ja millä tavalla työntekijän tunneilmaisua tulisi korjata.

Tekoälyohjelmisto kohtelee työntekijöitä oletettavasti tasapuolisemmin, koska sillä ei ole henkilökohtaisia suhteita alaisiin. Mutta toisaalta järjestelmä saattaa olla työntekijöiden manipuloitavissa, millä saattaa olla merkittäviä vaikutuksia työmoraaliin. Toinen ongelma on, että esimerkiksi ohjelmistoihin saattaa olla sisäänrakennettuna kyseenalaisia oletuksia ihmisten käyttäytymisestä. Esimerkiksi yllä mainittu tunneilmaisun tunnistaminen saattaa perustua mallille, joka on tieteelliseltä kannalta kyseenalainen ja vinoutunut (Crawford 2021). Tällä saattaa olla merkittäviä sosiaalisista vuorovaikutusta vääristäviä vaikutuksia. On toki odotettavissa, että ajan myötä tällaiset ongelmat havaitaan ja korjataan, mutta siihen voi mennä pitkä aika, varsinkin jos ohjelmistojen toimintaperiaatteet ovat tarkoin varjeltuja liikesalaisuuksia.

Tekoälyjohtaminen on uusi asia, ja on vaikea ennustaa, millä tavoin se tulee kehittymään. Edellä kuvattuja varsin dystooppisia johtamisjärjestelmiä tuskin ulotetaan kovin pian asiantuntijatyöhön. Työnantajat ovat tähän asti välttäneet asiantuntijoiden työn mikromanagerointia, mutta jollakin tavoin tekoälyavusteinen johtaminen tulee ulottumaan myös asiantuntijatyötä tekeviin. Ja sikäli, kun asiantuntijalle kuuluu keskijohdon tehtäviä, voi hän jatkossa olla yhä enemmän johtamisjärjestelmää avustava tai täydentävä työntekijä kuin varsinainen esimies.

Asiantuntijuuden tulevaisuus

Aivan viime vuosiin asti tekoälyn ja yleisemmin tietotekniikan kehitys on suosinut asiantuntijoita. Uudet välineet ovat korvanneet ihmistyön rutiininomaisissa toistuvissa tehtävissä jättäen jäljelle tehtäviä, jotka edellyttävät luovuutta, ongelmanratkaisua ja asiantuntemusta. Vastaavasti välineiden kehittäminen ja käyttö ovat luoneet aivan uusia asiantuntijatehtäviä. Tähän asti tekoälyn kehitys onkin ollut pikemminkin uusi resurssi asiantuntijatyöhön kuin uhka. Parin viime vuoden aikana generatiivinen tekoäly on kuitenkin noussut haastamaan tätä tilannetta.

Generatiivisella tekoälyllä tarkoitetaan tekoälymalleja, jotka on suunniteltu tuottamaan uutta sisältöä, oli kyseessä siten teksti, ääni, kuva tai videomateriaali. Tunnettuja esimerkkejä generatiivisesta tekoälystä ovat kielimalli ChatGPT ja kuvia tuottava Midjourney. Generatiivisen tekoälyn taustalla on todella suuren aineistoon perustuva perustamalli, jota käyttäjän kanssa vuorovaikuttava botti – kuten ChatGPT – käyttää hyväkseen. Vaikka ChatGPT on periaatteessa malli, joka ennustaa tekstin seuraavia sanoja, on se osoittautunut hyödylliseksi hyvin erilaisten tekstien tuottamisessa, kääntämisessä ja sisällön jäsentämisessä. Generatiiviseen tekoälyyn liittyy monia periaatteellisia luotettavuuteen, tietoturvaan ja tekijänoikeuksiin liittyviä ongelmia ja on avoin kysymys, kuinka ne ratkaistaan. Näistä ratkaisuista tulee riippumaan, mihin suuntaan generatiivinen tekoäly kehittyy. En lähde arvailemaan tulevaisuutta tässäkään, vaan kuvailen millaisia tutkimustuloksia generatiivisen tekoälyn käytöstä on saatu.

Yksi alue, jolla generatiiviselle tekoälylle perustuvat työvälineet ovat jo laajassa käytössä, on ohjelmointityö. Microsoftin Copilot on ollut käytössä runsaan vuoden, ja se on selvitysten mukaan lisännyt merkittävässä määrin koodauksen nopeutta avustamalla usein toistuvien rutiinitehtävien hoitamista. Myös ohjelmoijien työtyytyväisyyden kerrotaan kasvaneen, kun rutiinitehtävistä irtautuminen mahdollistaa paremman keskittymisen olennaiseen. Tuottavuuden parantuminen onkin varsin odotettu vaikutus. Mutta mitä pidemmälle meneviä seurauksia uusilla generatiivisilla työvälineillä voisi olla?

Kiinnostava kysymys on, kenelle uusista välineistä on eniten hyötyä. Tähän asti välineet ovat suosineet osaavampia työntekijöitä, sillä heillä on paremmat mahdollisuudet hyödyntää uusia välineitä. Näyttää siltä, että ainakin joissakin tehtävissä generatiivinen tekoäly vähentää työntekijöiden välisiä eroja. Tutkittaessa generatiiviselle tekoälylle perustuvan avustajan vaikutusta asiakaspalvelijoiden työhön, havaittiin että suurimman hyödyn uudesta välineestä saivat uudet ja vähemmän taitavat työntekijät, kun taas kokeneet ja taitavat työntekijät eivät juuri hyötyneet välineestä (Brynjolfsson 2023). Tekoälyassistentin avustamana heikommat työntekijät selvisivät tehtävistään nopeammin, joutuivat pyytämään apua vähemmän ja asiakastyytyväisyys kasvoi. Tutkijoiden mukaan tämä perustui siihen, että assistentti antoi näiden työntekijöiden käyttöön kokeneempien työntekijöiden hiljaista tietoa, joka kavensi työntekijöiden välisiä tuottavuuseroja. On avoin kysymys, kuinka yleistettävissä tämä tulos on, mutta voi olettaa, että hyvin suunnitellut tekoälyvälineet nopeuttavat uusien tehtävien oppimista. Kiinnostava kysymys on, johtaako tämä siihen, että kokeneet työntekijät eivät enää ole työnantajalle yhtä arvokas resurssi.

Toinen kiinnostava kysymys on, mitä tapahtuu asiantuntijan taidoille ja tiedoille, kun ohjelmisto hoitaa yhä suuremman osan tehtävistä? Yksi mahdollisuus on, että työntekijälle jää enemmän aikaa keskittyä vaativiin tehtäviin ja pitää huoli tuotosten laadusta. Tämä vaikutus saattaa olla kuitenkin vain hetkellinen, sillä tuottavuuden kasvaessa myös odotukset kasvavat. Tällöin uuden teknologian seuraus on aikaisempaa tiukempi työtahti, joka merkitsee, että on vähemmän mahdollisuuksia perehtyä asioihin perusteellisesti.

Toinen kysymys liittyy siihen, mitä tapahtuu, kun kone hoitaa tehtävät ja työntekijän tehtäväksi jää valvoa mahdollisten virheiden varalta. Ihmiset eivät ole kovin hyviä tällaisissa tehtävissä. Esimerkit lentokoneista ja itseohjautuvista autoista osoittavat, että jos ihmisen tehtävä on vain valvoa itsenäisesti toimivaa järjestelmää, hänen huomiokykynsä herpaantuu, eikä hän pysty tai osaa reagoida tilanteissa, jossa sitä tarvittaisiin. Tässä onkin yksi tekoälyn ja ihmisen vuorovaikutuksen keskeisistä haasteista: kuinka suunnitella vuorovaikutus siten, että yhteistoiminta toimii mahdollisimman hyvin. Tältä kannalta tekoälyjärjestelmä, joka tekee tunnistettavia virheitä voisi olla parempi kuin sellainen, joka on suunniteltu tekemään mahdollisimman vähän virheitä (Dell’Acqua ym. 2023). Tällöin työntekijä ei voi tuudittautua ajatukseen, että kone hallitsee asian. Joka tapauksessa ihmisen ja koneen toimiva yhteistyö on tekoälyn kehittämisen suurimpia haasteita.

Automaatiolla voi olla vaikutuksia myös pidemmällä aikavälillä. Jos esimerkiksi tekoälyjärjestelmä korvaa ihmisen ongelmien tunnistamisessa tai vaikkapa lääketieteellisten kuvien tunnistamisessa, merkitsee tämä sitä, että ihmisasiantuntija ei enää saa harjoitusta tällaisissa tunnistamistehtävissä. Hänen kykynsä rapautuvat (Rinta-Kahila ym. 2023), tai myöhempien työntekijäsukupolvien kohdalla, eivät kehity lainkaan. Tällöin hänellä ei ole kykyä toimia myöskään niissä hankalissa tapauksissa, joissa tekoälyjärjestelmää ei voida luotettavasti käyttää. Kykyjen rapautumisen vuoksi ajattelumalli, jossa kone hoitaa rutiinitehtävät ja asiantuntija hoitaa vaikeat tapaukset, voi olla vaarallinen. Organisaatioiden tasolla käyttämättömien kykyjen rapautuminen voi tarkoittaa, että ne pikkuhiljaa menettävät inhimillistä pääomaansa. Tämä voi tulla esiin, kun esimerkiksi järjestelmiä vaihdetaan tai niissä on toimintahäiriöitä: työntekijät eivät enää pystykään niihin tehtäviin, jotka heidän oletetaan hallitsevan. Automaation toimiessa ja kannustimien puuttuessa osaamisen ylläpito ja päivittäminen on jäänyt tekemättä. Tässä jälleen hankala haaste tekoälyjärjestelmien kehittäjille: kuinka kehittää järjestelmiä, jotka eivät tuhoa inhimillistä asiantuntemusta, jota saatetaan vielä tarvita järjestelmien toiminnan arviointiin, uudelleen suunnitteluun tai sijaistamiseen.

Datalukutaito

Asiantuntijatyö tulee tekoälyn myötä muuttumaan. Yhä tärkeämmäksi tulee tietää, mihin erilaisia tekoälyvälineitä voi käyttää ja mitkä ovat niiden rajoitukset. Välineiden käytettävyys tulee paranemaan, mikä entisestään korostaa näiden välineiden ymmärtämisen tärkeyttä. Tästä syystä perinteisten analyyttisten ja kriittisten ajattelun taitojen merkitys tulee entisestään kasvamaan. On kyettävä näkemään kielimallin tuottaman hyvin jäsennetyn ja kauniisti kirjoitetun tekstin läpi ja arvioida sen argumentaation vahvuutta. Yleisemmin tarvitaan kykyä kriittisesti arvioida ja käsitellä tietoväittämiä.

Erityisen tärkeäksi tulee nousemaan datalukutaito. Sen perustana on ymmärrys siitä, kuinka dataa kerätään, prosessoidaan, analysoidaan, tulkitaan ja esitetään. Tämän päälle rakentuu tieto, kuinka data voi toimia näyttönä ja kuinka tekoäly käyttää hyväkseen datasta löydettäviä tilastollisia säännönmukaisuuksia. On tärkeää oivaltaa, että datalukutaito ei rajoitu datan käytön teknisiin ja tiedollisiin ulottuvuuksiin. Yhtä lailla tärkeää on ymmärrys datan käyttöä ohjaavista lainsäädännöllisistä ja eettisistä periaatteista. Datan – ja tekoälyn – kestävä käyttö edellyttää näiden eri ulottuvuuksien kokonaisvaltaista jäsentämistä.

Datalukutaitoa voidaan ajatella sekä kaikkien jakamana kansalaistaitona että tiettyjen tehtävien edellyttäminä taitoina. Jälkimmäisessä merkityksessä voimme pohtia, millaista datalukutaitoa tietyssä asiantuntijatehtävässä edellytetään, olisi sitten kyseessä rekisteriä ylläpitävä viranomainen, yhteiskuntatieteilijä, valmisteleva virkamies tai poliittinen päättäjä. Datalukutaitoa tarvitsevat myös yritysjohtajat, terveydenhuollon ammattilaiset ja kunnalliset päättäjät. Datalukutaito on edellytys realistisille odotuksille tekoälyn mahdollisuuksista ja vaaroista.

Yhteiskunnallisesti kestävä tekoäly ei perustu vain tekoälykehittäjien asiantuntemukselle. Tarvitaan laaja-alaista ihmisen psykologiaa, organisaatioiden ja markkinoiden toimintaa, lainsäädäntöä ja politiikkaa koskevaa asiantuntemusta. Edessä on suuria yhteiskunnallisia muutoksia ja kokeiluja, joista monet perustuvat epärealistisiin odotuksiin tekoälyn kyvyistä. Onkin syytä varautua siihen, että monet lähitulevaisuudessa käyttöön otettavat tekoälyä hyödyntävät järjestelmät eivät toimi tarkoitetulla tavalla. Onkin tärkeää pitää silmällä mitkä ovat todellisia uhkia. Jotkut uskovat, että tekoälyn suurin uhka on, että ihmistä huomattavasti älykkäämmät koneet tulevat hallitsemaan elämäämme. Läheisempi uhkakuva on sellainen, jossa yhteiskuntamme on riippuvainen tekoälyjärjestelmistä, jotka käyttävät epämääräistä dataa, joiden kehittäjät eivät ymmärrä niiden käyttötarkoitusta ja joiden käyttäjät eivät ymmärrä niiden toimintaa. Eläisimme huonosti toimivien mutta vaikeasti korvattavien järjestelmien armoilla ilman aitoa demokraattista kontrollia. Tällaisen dystopian välttäminen olisi hieno asia.

Lähteet:

Brooks, Rodney 2024 blog: PREDICTIONS SCORECARD, 2024 JANUARY 01 https://rodneybrooks.com/predictions-scorecard-2024-january-01/

Bossen, C., Pine, K. H., Cabitza, F., Ellingsen, G., & Piras, E. M. (2019). Data work in healthcare: An Introduction. Health Informatics Journal, 25(3), 465–474. https://doi.org/10.1177/1460458219864730

Brynjolfsson, E., Li, D., & Raymond, L. 2023.

Generative AI at Work (arXiv:2304.11771). arXiv. http://arxiv.org/abs/2304.11771

Crawford, Kate 2021: Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.

Dell’Acqua, F., McFowland, E., Mollick, E. R., Lifshitz-Assaf, H., Kellogg, K., Rajendran, S., Krayer, L., Candelon, F., & Lakhani, K. R. 2023: Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.4573321

Hand, David J. 2020: Dark Data. Why You Don’t Know Matters. Princeton University Press.

Levy, K., Chasalow, K. E., & Riley, S. (2021). Algorithms and Decision-Making in the Public Sector. Annual Review of Law and Social Science. https://doi.org/10.1146/annurev-lawsocsci-041221-023808

Rinta-Kahila, T., Penttinen, E., Salovaara, A., Soliman, W., & Ruissalo, J. (2023). The Vicious Circles of Skill Erosion: A Case Study of Cognitive Automation. Journal of the Association for Information Systems, 24(5), 1378–1412. https://doi.org/10.17705/1jais.00829

Rosenfeld, A., & Richardson, A. (2019). Explainability in human–agent systems. Autonomous Agents and Multi-Agent Systems, 33(6), 673–705. https://doi.org/10.1007/s10458-019-09408.

Artikkelin on kirjoittanut tieteen- ja teknologiantutkimuksen professori Helsingin yliopistossa Petri Ylikoski. Artikkeli on viides osa Akava Worksin ”Näkökulmia tekoälyyn” -artikkelisarjassa.

Kuva: DALL-E -tekoälysovelluksen tuottama kuva artikkelin teemoista.

Artikkeli Näkökulmia tekoälyyn: Tekoäly ja asiantuntijatyön muutos julkaistiin ensimmäisen kerran Dataliteracy.

Tämä teksti on julkaistu Eduskunnan tulevaisuusvaliokunnan raportissa Tekoälyratkaisut tänään ja tulevaisuudessa (Tulevaisuusvaliokunta 1/2022). Voit lukea koko raportin täältä.

1 Mistä on kyse?

Yleisesti käytössä olevat tietokoneet ja muut tietotekniset laitteet ovat pohjimmiltaan koneita, jotka toistavat niille täsmällisesti ohjelmoituja tietojenkäsittelyoperaatioita erittäin nopeasti. Tekoälyjärjestelmät hyödyntävät näiden laitteiden nopeutta uudenkaltaisissa sovelluksissa, joissa järjestelmän toimintaa ei ole ohjelmoitu yksityiskohtaisesti suoraan vaan esimerkiksi aiemmista esimerkeistä yleistämällä tai monimutkaisen optimointiongelman ratkaisuna. Aiemmista esimerkeistä yleistämiseen perustuva koneoppiminen on mahdollistanut viimeisten kymmenen vuoden aikana valtavia edistysaskelia esimerkiksi konenäössä, puheentunnistuksessa ja luonnollisen kielen ymmärtämisessä ja tuottamisessa tietokoneella.

Keskityn kirjoituksessani kolmeen koneoppimiselle ominaiseen turvallisuuskysymykseen: opetusaineiston tietosuojaan ja yksityisyyden suojaan, tekoälyjärjestelmien tietoturvaan sekä järjestelmien turvallisuuteen vuorovaikutuksessa ihmisten kanssa. Samoja riskejä käsitellään tarkemmin Liikenne- ja viestintävirasto Traficomin tuoreessa selvityksessä. ^¹

Koneoppimista käyttävien tekoälyjärjestelmien kehittämisessä tarvitaan suuria opetusaineistoja. Monet kiinnostavat tekoälyn sovellukset esimerkiksi terveydenhuollossa liittyvät ihmisiin, jolloin tarvittavat opetusaineistot sisältävät henkilötietoja. Näiden aineistojen keräämiseen ja käsittelyyn sekä niistä johdettujen järjestelmien käyttöön liittyy tietosuojariskejä, ja ne saattavat loukata aineiston kohteiden yksityisyyttä.

Tekoälyjärjestelmät ovat tietojärjestelmiä. Kuten kaikissa tietojärjestelmissä, niissä voi olla tietoturvaheikkouksia. Tämä pitää huomioida, jos niitä käytetään turvattomassa ympäristössä, kuten internetissä, tai jos epäluotettavilla tahoilla on mahdollisuus manipuloida niiden kehittämisessä käytettyjä opetusaineistoja tai muita syötteitä.

Tekoälyjärjestelmien ”älykkyys” poikkeaa merkittävästi ihmisen älykkyydestä. Ne voivat tehdä systemaattisesti ihmisen näkökulmasta järjettömiltä vaikuttavia virheitä. Sovelluksissa, joissa virheistä voi olla merkittävää haittaa tai vaaraa, onkin tärkeää rakentaa mekanismeja näiden riskien ehkäisemiseksi hyödyntämällä esimerkiksi ihmisen valvontaa.

1.1 Tekoäly ja tietosuoja sekä yksityisyyden suoja

Tyypillinen oppiva tekoälyjärjestelmä kuvaa syötteitä vasteille, esimerkiksi kuvan tiedoksi siinä näkyvistä liikennemerkeistä tai henkilön terveystiedot arvioksi nykyisestä tai ennusteeksi tulevasta terveydentilasta.

Tällaisten järjestelmien rakentamiseen tarvitaan suuria esimerkkiaineistoja esimerkiksi suuren ihmisjoukon terveystiedoista ja havaitusta terveydentilasta, joista järjestelmä oppii näiden välisen yhteyden. Monissa kiinnostavissa sovelluksissa tarvittavat aineistot sisältävät henkilötietoja, kuten arkaluontoisia terveystietoja. Näiden käsittelyyn liittyy useita tietosuojariskejä, joita ei voida poistaa helposti esimerkiksi poistamalla tiedoista suorat tunnisteet:

1. Jos aineisto kerätään yhteen tietokantaan, riski tietojen paljastumiseksi kasvaa, mikäli tietokannan suojaus pettää.
2. Aineiston osia voi paljastua järjestelmän opetuksen aikana opetukseen osallistuville ulkopuolisille tahoille.
3. Osia aineistosta voi olla mahdollista selvittää valmiiksi opetetusta järjestelmästä.

Kuvattuja riskejä voidaan ehkäistä erilaisin teknisin ratkaisuin. Järjestelmiä on mahdollista opettaa käyttämällä hajautettua dataa, jolloin vältetään keskitettyyn tietokantaan liittyviä riskejä. Esimerkiksi Google ja Apple ovat opettaneet mobiilikäyttöjärjestelmiinsä käyttäjien kirjoituksia hyödyntäviä malleja, joiden opetuksessa käytetty data on pysynyt käyttäjien laitteilla eikä ole paljastunut edes mallin kehittäjille. Samaa periaatetta voidaan hyödyntää esimerkiksi silloin, kun yhdistetään terveystietoja eri maista, jos esimerkiksi lainsäädäntö ei salli datan luovutusta. ”Algoritmi tulee datan luo” olisikin usein hyvä periaate parantamaan tietosuojaa.

Aineiston paljastumista opetuksen aikana voidaan estää salausmenetelmiä käyttämällä. Sopivilla menetelmillä on mahdollista opettaa järjestelmä salattua dataa käyttämällä siten, että kehittäjä ei voi nähdä dataa. Hintana näillä ratkaisuilla on usein se, että järjestelmän opettamiseen tarvittava laskenta-aika on merkittävästi suurempi.

Aineiston paljastuminen valmiista järjestelmästä on hankalampi ongelma, johon perinteiset salausmenetelmät eivät pure. Eduskunnan tulevaisuusvaliokunnassa esiintyi hiljattain GPT-3-malliin pohjautuva tekstiä tuottava tekoälyjärjestelmä. Tutkijat ovat osoittaneet, että GPT-3:n edeltäjä GPT-2 on mahdollista houkutella toistamaan täydellinen kopio opetusaineistossa esiintyneistä henkilötiedoista. ² Sama ilmiö on havaittu muillakin testatuilla järjestelmillä. Ilmiötä voidaan estää hyödyntämällä differentiaalista tietosuojaa, mutta hintana on usein se, että mallin tarkkuus heikkenee. Ilmiön tarkempaan ymmärtämiseen tarvitaan lisätutkimusta. Henkilötietoja tai muita luottamuksellisia tietoja käyttämällä opetettujen tekoälyjärjestelmien jakamisessa on kuitenkin syytä olla varovainen.

1.2 Tekoälyn tietoturva

Tekoälyjärjestelmät ovat tietojärjestelmiä ja siten alttiita samoille tietoturvariskeille kuin muutkin tietojärjestelmät. Erityisesti opetettaviin järjestelmiin liittyy lisäksi niille ominaisia riskejä, joista on seuraavassa muutama esimerkki:

1. Opetusaineistoa manipuloimalla järjestelmän kehittäjä tai ulkopuolinen hyökkääjä voi upottaa järjestelmään takaoven, jota on käytännössä mahdoton havaita mutta joka saa järjestelmän toimimaan valituissa tilanteissa hyökkääjän haluamalla tavalla. Esimerkiksi hakemusten käsittelyyn käytetty järjestelmä voitaisiin manipuloida hyväksymään tai hylkäämään aina hakemukset, joissa on tietty harmittomalta vaikuttava avainsana tai muu piirre.
2. Valmiista tekoälyjärjestelmästä on mahdollista löytää heikkouksia, joissa jopa ihmiselle huomaamattomat muutokset saavat järjestelmän toimimaan täysin eri tavalla. Tutkijat ovat kehittäneet esimerkiksi liikennemerkkeihin kiinnitettäviä tarroja, jotka eivät erityisesti häiritse ihmistä mutta joiden takia liikennemerkkien tunnistukseen käytetyt järjestelmät alkavat luulla stop-merkkiä nopeusrajoituksen merkiksi. ³ Muiltakin aloilta on vastaavia esimerkkejä siitä, miten on mahdollista tietoisesti kehittää tapoja, jotka eivät hämäisi ihmistä mutta joilla tekoälyä on mahdollista huijata.
3. Mikäli järjestelmä oppii adaptiivisesti toiminnan aikana, käyttäjät voivat ohjata sen toimintaa epätoivottuun suuntaan. Esimerkiksi sosiaalisen median keskusteluista oppinut Microsoftin Twitter-botti muuttui alle vuorokaudessa ystävällisestä aggressiiviseksi rasistiksi muiden käyttäjien manipuloinnin vuoksi. ⁴

Yllä kuvattuja riskejä voidaan ehkäistä yhdistelmällä teknisiä ja järjestelmätason ratkaisuja. Tehokkain tapa ehkäistä opetusaineiston manipulointia on käytetyn aineiston tarkka laadunvalvonta. Valmiin järjestelmän käytössä tämä ei ole yhtä helppoa, jolloin on tärkeää lisäksi vahvistaa järjestelmää niin, että se ei olisi niin altis huijausyrityksille (vrt. liikennemerkkeihin liimattavat tarrat edellä). Järjestelmien vahvistamiseen soveltuvat teknologiat ovat tällä hetkellä hyvin aktiivisen tutkimuksen kohteena, eikä ole vielä selvää, mikä on lopulta mahdollista ja mikä ei. Kuten monessa turvallisuuskysymyksessä, tässäkin on riskinä hyökkääjien ja puolustajien välinen varustelukilpailu, jossa kehittyneempää puolustusjärjestelmää seuraa sen kiertävä uusi, vielä edistyneempi hyökkäys.

Useimmat koneoppimiseen pohjautuvat tekoälyjärjestelmät eivät opi enää käytön aikana. Tämä toisaalta helpottaa niiden toiminnan ymmärtämistä, toisaalta rajoittaa mahdollisuuksia sopeutua muuttuvaan ympäristöön. Käytön aikana tapahtuvan oppimisen turvallisuus on toistaiseksi hyvin nuori tutkimusala. Tehokkaita ratkaisuja tämän alueen ongelmiin saadaan todennäköisesti odottaa vielä useita vuosia.

1.3 Ihminen tekoälyn valvojana ja yhteistyökumppanina

Tekoälyjärjestelmiä käytetään yhä enemmän sovelluksissa, joilla on merkittäviä vaikutuksia esimerkiksi ihmisten talouteen, hyvinvointiin ja terveyteen. Turvallinen tekoäly vaatii mekanismeja, joilla varmistetaan, että nämä vaikutukset eivät ole haitallisia. Nämä kysymykset ovat läheisessä yhteydessä tekoälyn vastuullisuuteen ja etiikkaan, mutta osa kysymyksistä liittyy myös turvallisuuteen: miten hallitaan autonomisten ajoneuvojen liikenneturvallisuusriskejä tai varmistetaan, ettei tekoälyn ehdottama hoitotoimenpide aiheuta tarpeetonta vaaraa?

Tekoälyjärjestelmille ja ihmisille on yhteistä se, että molemmat tekevät virheitä ja erehdyksiä. Tekoälyn ja ihmisten tekemät virheet ovat kuitenkin usein erilaisia, jolloin niitä voidaan ehkäistä koneen ja ihmisen yhteistyöllä. Matkalla on monta haastetta:

• Miten selitetään koneen toimintaa ihmiselle niin, että tämä voi sitä arvioida ja havaita mahdollisia ongelmia?
• Miten kehittää järjestelmiä, jotka ovat ihmiselle helpommin ymmärrettäviä, menettämättä niiden tehokkuutta?
• Miten rakennetaan ihmiselle mahdollisuus valvoa koneen toimintaa niin, että tehtävä pysyy mielekkäänä ja ihminen pystyy oikeasti puuttumaan toimintaan tarpeen vaatiessa riittävän nopeasti?
• Miten järjestetään ihmisohjaus menettämättä liikaa koneen tehokkuushyötyjä?
• Miten koulutetaan ihmisiä seuraamaan koneiden toimintaa tehokkaasti?

Kuten tavalliset tietojärjestelmät, tekoälyjärjestelmät eivät opi virheistään, ellei niitä ole erityisesti siihen suunniteltu. Yleisin tapa korjata virheitä on uuden version julkaisu ja käyttöönotto. Tämä rajoittaa mahdollisuuksia nopeaan reagointiin, erityisesti jos käyttäjä ja kehittäjä ovat erillisiä tahoja. Aiemmin mainittu aktiivinen oppiminen käytön aikana mahdollistaisi teoriassa nopeamman reagoinnin, mutta näiden menetelmien turvallisuudessa on vielä paljon avoimia ongelmia.

2 Tekoäly muutosvoimana

Erilaiset tekoälyjärjestelmät ovat viime vuosina tulleet yhä enemmän osaksi ihmisten arkea erilaisissa nettipalveluissa ja elektronisissa laitteissa. Niiden yleistymisen voi olettaa jatkuvan ja laajenevan uusille aloille. Paljon potentiaalia on esimerkiksi terveydenhuollossa. Toimiessaan nämä järjestelmät sujuvoittavat arkea ja tehostavat palveluita, mutta samalla ne luovat uusia turvallisuusuhkia.

Tekoälyjärjestelmät ovat ensisijaisesti tietojärjestelmiä, ja näihin molempiin pätevät monet samat lainalaisuudet. Perinteisten tietojärjestelmien turvallisuudesta muodostuu valitettavan usein ”kisa pohjalle”, jossa järjestelmien rakentajat kilpailevat kustannuksia leikatakseen säästämällä turvallisuudesta, koska ostajat eivät osaa sitä vaatia eivätkä ole valmiita siitä maksamaan. Yksi osa ongelmaa on se, että turvallisuuden puutteet koituvat usein muiden vahingoksi. Kuinka moni auton ostaja olisi vapaaehtoisesti valmis maksamaan enemmän autosta, joka olisi kolaritilanteessa turvallisempi muille, esimerkiksi jalankulkijoille?

Turvallisuuteen liittyvissä sovelluksissa hyökkääjän ja puolustajan välille muodostuu helposti varustelukierre, jossa paremman puolustuksen hyöty häviää paremman hyökkäyksen edessä, mikä edellyttää vielä parempaa puolustusta ja niin edelleen. Tällaisia kierteitä voi syntyä myös silloin, kun tekoälyn antamaa turvaa murretaan ja puolustetaan. Tekoäly on vahva työkalu kisan molemmilla puolilla, jolloin molempien osapuolten voi olla käytännössä pakko hyödyntää sitä pärjätäkseen kilpailussa. Tieteellinen perustutkimus voi joissain tilanteissa tarjota ulospääsyn varustelukierteestä. Esimerkiksi differentiaalista tietosuojaa käyttämällä voidaan todistaa matemaattisesti, että yksikään hyökkääjä ei voi loukata käyttäjien tietosuojaa, vaikka tämä käyttäisi mitä tahansa tulevaisuuden teknologiaa. Vastaavasti tekoälyjärjestelmien huijaamista tai kiertämistä vastaan kehitetään teknologioita, joilla voidaan todistaa mallin kestävän varmasti tiettyjä manipulaatioita.

Turvallisten tekoälyteknologioiden kehitys tuottaa todennäköisesti tulevaisuudessa helppokäyttöisiä työkaluja, joilla järjestelmien turvallisuutta voidaan vahvistaa ja varmistaa. Turvallisen tekoälyn käytössä tullaan kuitenkin todennäköisesti törmäämään vaikeisiin arvovalintoihin, koska valinnoilla on hintansa. Tietosuojaa kunnioittava tai manipulaatioita kestävä järjestelmä tuottaa usein optimiolosuhteissa vähemmän tarkkoja ennusteita, jolloin järjestelmän tuottama hyöty pienenee. Mikä pahempaa, tämä tarkkuuden lasku vaikuttaisi kohdistuvan helposti voimakkaampana vähemmistöihin ja yleensä enemmistöstä poikkeaviin yksilöihin, mikä voi loukata yhdenvertaisuutta. Näiden eri arvojen yhteensovittamisesta tarvitaan vilkasta yhteiskunnallista keskustelua, ettei ongelmien ratkaisu jää yksin teknologian kehittäjien vastuulle. Yhteensovittamisessa on paljonkin pelivaraa, koska turvallisuus ei ole päällä tai poissa -tyyppinen ominaisuus, vaan useimmissa teknologioissa on mahdollista säätää suojan tasoa ja siten myös kustannuksia ja sivuvaikutuksien voimakkuutta.

3 Viestit päättäjille ja kansalaisille

Tietoturvan ja -suojan sääntely on tietoyhteiskunnan ympäristönsuojelua. Koska kustannukset kohdistuvat ulkopuolisiin, markkinat eivät sitä ratkaise, vaan tarvitaan ulkopuolista ohjausta ja sääntelyä.

Turvallisen ja eettisen tekoälyn toivottavat ominaisuudet voivat olla ristiriitaisia, jolloin yhden toteuttaminen heikentää muita. Ominaisuudet eivät ole mustavalkoisesti päällä tai poissa, vaan niiden välistä tasapainoa voi yleensä säätää tarkemmin. Tarvitaan sopivasti vapautta ja sääntöjä, jotta löydetään kuhunkin sovellukseen paras ratkaisu. Samalla pitää varmistaa, että tasapainoa muodostettaessa huomioidaan myös muiden kuin järjestelmän kehittäjän ja omistajan etu.

Valmiista tekoälyjärjestelmästä on mahdoton todentaa, toimiiko se joka tilanteessa oikein eikä esimerkiksi sisällä piilotettua takaovea. Luotettavuuden varmistamiseksi on siksi tärkeää varmistaa prosessi, jolla järjestelmä on rakennettu.

Tekoälyjärjestelmät eivät ole erehtymättömiä, mutta eivät ole ihmisetkään. Näiden kahden tekemät virheet ovat luonteeltaan hyvin erilaisia. Tärkeissä sovelluksissa käytettäviä tekoälyjärjestelmiä tulee valvoa tavalla, joka on tarkoituksenmukainen kyseisessä sovelluksessa eikä turhaan nosta valvonnan kustannuksia mahdollisten virheiden haittoja suuremmiksi.

Datan luovuttamisen sijaan kannattaa suosia järjestelmiä, joissa koodi tulee valvotusti datan luo. Esimerkiksi sen sijaan, että terveystietoja luovutettaisiin ulkopuolisille, olisi parempi suosia ratkaisuja, joissa dataa ei luovuteta vaan sen tarvitsijat pääsevät käsittelemään tarvitsemiaan osia turvallisesti suojatussa ympäristössä.

Datan keskittämisen sijaan kannattaa mahdollisuuksien mukaan edistää datan hajauttamista tietosuojariskien pienentämiseksi. Suunniteltu kansallinen genomitietorekisteri on esimerkki erittäin suuririskisestä hankkeesta, jonka hyödyistä on erimielisyyttä.

Tekoälyn tietoturvan ja tietosuojan osaamista tulee ylläpitää ja kehittää aktiivisesti kaikilla tasoilla. Turvaa ei usein voi lisätä jälkikäteen valmiiseen järjestelmään, joten kehittäjien pitää osata rakentaa se järjestelmän sisään alusta asti, mikä vaatii laajaa koulutusta. Toisaalta tarvitaan uusien, turvallisempien menetelmien tutkimusta. Vain panostamalla alan perustutkimukseen Suomessa voidaan varmistaa paras osaaminen ja korkeatasoisin uusien menetelmien opetus.

Lähteet

1. 1. A. Vähä-Sipilä, S. Marchal & M. Aksela. Tekoälyn soveltamisen kyberturvallisuus ja riskienhallinta. Traficomin tutkimuksia ja selvityksiä 9/2021
   2. N. Carlini et al. Extracting Training Data from Large Language Models. In Proceedings of the 30th USENIX Security Symposium, 2021.
   3. K. Eykholt et al. Robust physical-world attacks on deep learning visual classification. In Proceedings of the 2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition CVPR 2018). IEEE, 2018.
   4. O. Schwartz. “In 2016, Microsoft’s Racist Chatbot Revealed the Dangers of Online Conversation”. IEEE Spectrum 25.11.2019. Viitattu 26.11.2021. 124
   5. US Census Bureau. 2020 Census Data Products: Disclosure Avoidance Modernization. Viitattu 26.11.2021.

Lue koko raportti täältä: Ailisto, Heikki et al.: Tekoälyratkaisut tänään ja tulevaisuudessa. Helsinki, Tulevaisuusvaliokunta, 2022. 183 s. Eduskunnan tulevaisuusvaliokunnan julkaisu 1/2022. 

Artikkeli Tekoälystä tietoturvallista julkaistiin ensimmäisen kerran Dataliteracy.

Kenen tekoäly? 21.9. klo 17

Miten ja kenen ehdoilla tekoälyä kehitetään nyt ja tulevaisuudessa – ja miksi sen pitäisi kiinnostaa meistä jokaista?

Voit katsoa ja kuunnella tallenteen:

YouTube: https://www.youtube.com/watch?v=TfVJJRjVRR4

Puhutko dataa? 23.9. klo 17

Maailmamme on täynnä dataa ja algoritmeja – terveyssovelluksista asuntolainahakemuksiin. On aika opetella uusi kansalaistaito: datalukutaito. Tule mukaan opettelemaan uutta kansalaistaitoa!

Voit katsoa ja kuunnella tallenteen:

YouTube: https://youtu.be/CsVZ0q4xk4E

Molemmat keskustelut myös podcasteina Soundcloudissa: https://soundcloud.com/tiedekulma/

Artikkeli Puhutko dataa? julkaistiin ensimmäisen kerran Dataliteracy.