#32 – Tekoälyn eettiset periaatteet OP:lla
OP Tech Podcastin 32. jakson aiheena ovat tekoälyn etiikka ja periaatteet OP Ryhmässä. Kristian Luoman kanssa aiheesta keskustelee OP:n Product Owner Hugo Gävert, joka työskentelee OP Ryhmän Finanssiäly-osaamiskeskuksessa, jossa Data Scientistit työstävät erilaisia tekoälyyn liittyviä hankkeita ja vastaavat OP:n tekoälyvisiosta sekä sen toteutuksesta.
Tässä jaksossa Kristian ja Hugo keskustelevat muun muassa siitä,
- mitä on tekoälyn etiikka,
- miten eettisesti vastuullista toimintaa arvioidaan sekä
- onko tekoäly luotettavaa ja kannattaako sitä hyödyntää.
Katso tästä, mitä edellinen jakso käsitteli >>
Mitä on tekoälyn etiikka?
”Nopeasti määriteltynä tekoälyn voidaan ajatella olevan esimerkiksi algoritmi tai jonkinlainen isompi järjestelmä, kuten Amazonin Alexa tai Applen Siri. Edellä mainitut ovat koneita, jotka osoittavat jollain tapaa älykkyyttä. Pankkipuolella tarkoitamme tekoälyllä useimmiten algoritmeja”, Hugo avaa ja jatkaa:
”Etiikka ja moraalikäsitykset eivät ole missään nimessä mustavalkoisia ja vaihtelevat esimerkiksi kulttuureittain. Niistä on kuitenkin hyvä keskustella ja yrittää ymmärtää, jotta kaikki pääsevät samalle sivulle.”
”OP on itse asiassa ensimmäisiä yrityksiä Suomessa, joka määritti omat linjauksensa siitä, millä tavalla teemme eettisesti kestävällä pohjalla olevaa analytiikkaa sekä tekoälyratkaisuja. Linjauksista löytyy muun muassa ihmisläheisyys, joka on meille luonnollista, kun teemme asiakkaidemme tarpeesta ratkaisuja hyödyntäen dataa sekä analytiikkaa palvellaksemme heitä paremmin”, Hugo kertoo.
”Toisena linjauksena ovat läpinäkyvyys ja avoimuus. Pyrimme siis kertomaan melko avoimesti, milloin teemme jonkinlaista automaattista päätöksentekoa ja mitä dataa siihen käytämme. Kolmantena arvioimme ratkaisujen vaikutuksia sekä asiakkaille että laajemmallakin tasolla. Huolehdimme myös omistajuudesta eli määritämme algoritmeille ja tuotteille omistajat”, hän jatkaa.
”Viimeinen kohta, yksityisyydensuoja, on itsestäänselvyys ja muistuttamassa meitä siitä, että datan ollessa keskiössä, siihen liittyy aina yksityisyydensuoja. Linjaukset löytyvät tarkemmin OP Ryhmän vastuullisuussivuilta.”
Kannattaako tekoälyä hyödyntää ja voiko siihen luottaa?
”Tekoälyyn voi ehdottomasti luottaa. Luottamus kohdistuu oikeastaan tekoälyprojektin tai -mallin rakentajiin, eli Data Scientisteihin sekä taustalla olevaan liiketoimintaan ja heidän arvoihinsa”, Hugo sanoo.
”Tekoälyn opetuksessa monesti yhdistetään, että tekoäly on sama asia kuin koneoppiminen – ja aika monessa tapauksessa se onkin, kun toimimme deep learning -verkkojen parissa. Silloin opetamme tekoälyä tekemään datan mukaan päätöksiä.”
”Meidän on oltava tarkkoja siitä, opetammeko tekoälyä tekemään samoja päätöksiä, mitä ihmiset tekevät vai opetammeko tekoälyä esimerkiksi tunnistamaan sellaiset henkilöt, jotka tulevat maksamaan lainan takaisin varmasti. Mikäli otamme opetusvaiheessa sisään jonkinlaista ihmisten taustaan liittyvää dataa ja yritämme opettaa mallille käytäntöä siitä, myönnetäänkö lainaa vai ei; silloin duplikoimme pankinjohtajan tai muun ihmisen tekemää päätöstä ja opetamme tekoälyä tekemään samanlaisia päätöksiä”, Hugo kertoo.
”Jos nuo päätökset olisivat syrjiviä, opetamme tekoälyä syrjimään. Tässä on siis oltava tarkka siitä, mitä tekoälylle opetetaan. Ja jos olemme tarkkoja, ei ole mitään syytä siihen, miksi emme luottaisi tekoälyyn tai algoritmeihin”, hän summaa.
Kuuntele Hugon ja Kristianin keskustelu kokonaisuudessaan Spotifysta >>
Jakson sisältö:
- Mitä on tekoälyn etiikka?
- Esimerkkejä epäeettisestä toiminnasta maailmalla
- Miten eettisesti vastuullista toimintaa arvioidaan?
- Tekoäly ja syrjivän päätöksenteon mahdollisuus
- Mitä OP:n vastuullisuusperiaate omistajuus tarkoittaa?
- Kannattaako tekoälyä hyödyntää ja voiko siihen luottaa?
Jakson kesto: 17:52 min
Jatketaan keskustelua sosiaalisessa mediassa! Verkostoidu Hugon ja Kristianin kanssa
- Twitterissä: @hgavert & @kluoma
- LinkedInissä: Hugo Gävert & Kristian Luoma