Mitä tapahtuu, kun tekoäly yhdistetään nuorten mielenterveyteen?
Nuorten suosimassa matalan kynnyksen Sekasin-chatissä otettiin käyttöön tekoälyapuri tämän vuoden tammikuussa pitkän kehittämistyön jälkeen.
”Sekasin-botti kehitettiin hyvin käytännöllisistä syistä. Tällä hetkellä voidaan ottaa keskusteluun vain yksi neljästä jonossa olevasta nuoresta ja toki me haluaisimme auttaa useampia”, sanoo Sekasin Kollektiivin toiminnanjohtaja Johanna Virtanen.
Tekoäly otettiin käyttöön ihmisavun rinnalle, ei korvaamaan sitä.
Käytännössä tekoälyapuri tarjoaa tukea nuorelle silloin, kun Sekasin-chatin ihmisapu ei ole pitkän jonon tai yön takia saatavilla. Bottia on koulutettu samoilla sisällöillä kuin chatin päivystäjiä.
Nuoret voivat käydä läpi ajatuksiaan botin kanssa omaa vuoroa odotellessaan, kysyä siltä neuvoa silloin, kun Sekasin-chat on kiinni, tai harjoitella keskustelua niissä hetkissä, kun kynnys ihmisen kanssa juttelemiseen tuntuu liian korkealta.
Jos nuori esimerkiksi kysyy, mikä auttaa ahdistukseen, botti tarjoaa konkreettisia neuvoja ja vastaa siihen hyvin samoilla tiedoilla kuin päivystäjä chatissä.
Huoli valtasi somen
Tekoälyapurin tarkoitus on siis tarjota lisätukea. Tähän asti jonotusta ovat helpottaneet nuorille tarjotut ryhmächatit tai soittolistat.
Silti heti julkaisun jälkeen sekä MIELI ry:n että Sekasin-chatin some täyttyivät huolista, jossa kysyttiin muun muassa, että
Aiotaanko ihmisen tarjoama apu korvata Sekasin-chatissä tekoälyllä?
Onko botin kanssa jutteleminen tietoturvallista? Voiko kirjoittamani asiat päätyä ulkopuoliselle taholle?
Voiko tekoälyn kanssa juttelemisesta olla jotain haittaa nuorelle?
Helsingin yliopiston sosiaalietiikan tutkija Taina Kalliokoski tunnistaa ilmiössä tuttuja elementtejä.
”Keskustelua nuorista ja uudenlaisesta viestintä- ja kommunikaatioteknologiasta on aina sävyttänyt huolipuhe. Jo antiikin filosofian aikaan ajateltiin, että kirjoittaminen pilaa nuorten muistin”, Kalliokoski sanoo.
Huolta nuorista on kannettu myös television, elokuvien sekä internetin tulon yhteyksissä eikä varmasti suotta. Tutkimusten mukaan kaikenlaiset mediasisällöt vaikuttavat lasten ja nuorten tiedolliseen kehitykseen mutta myös tunne-elämään ja identiteetin rakentumiseen.
Usein huolta kannetaan ikätasolle sopimattomista sisällöistä. Tekoälyn kohdalla tarkemmin vielä siitä, osaavatko nuoret tulkita tai ymmärtää, mistä on kyse vai ovatko he vietävissä tai huomaamatta manipuloitavissa.
Huolet heijastuvat Kalliokosken mukaan vanhempien kasvatusvastuusta sekä toisaalta myös sotekriisin aiheuttamista peloista: aiotaanko ihmiskontakteja vähentää auttamistyössä entisestään ja tuoda tilalle tekoäly?
Toiset voivat lisäksi pohtia, millainen ihmiskäsitys, arvot tai käsitys mielenterveydestä tekoälyn taustalla on.
”Kun yhdistetään se, että Sekasin-chattiä käyttävät nuoret ovat kasvu- ja identiteetin rakentamisen iässä siihen, että heillä on mahdollisesti mielenterveyshaasteita, niin ymmärrettävästi halutaan suojella tällä tavalla haavoittuvassa asemassa olevia nuoria.”
Nuorilta positiivista palautetta
Tammikuussa avatun Sekasin-botin kanssa on maaliskuun puoleenväliin mennessä keskusteltu yli 6000 kertaa. Tällä hetkellä keskusteluja käydään hiukan alle 100 päivässä. Valtaosa niistä ajoittuu iltaan Sekasin-chatin ruuhkaisimpiin tunteihin, mutta keskusteluja käydään paljon myös öisin.
”Eniten nuoret keskustelevat botin kanssa pahasta olosta ja ahdistuksesta, ihmissuhteista ja yksinäisyydestä sekä koulutyöstä ja stressistä. Eli melko samoista aiheista kuin Sekasin-chatissäkin”, Virtanen sanoo.
Virtasen mukaan yli puolet botin keskusteluille annetusta palautteesta on positiivista ja alle viidennes negatiivista. Yksittäisistä viesteistä annettu negatiivinen palaute liittyy tyypillisimmin botin käyttämään kieleen.
Hyvin kuuntelee ja hyvin kehitetty botti. Suosittelen etenkin kun chattiin ihmisen kanssa on pitkä jono.
Antoi hyviä kattavia vastauksia. Vaikka onkin botti, niin jäi kuultu, ymmärretty olo! Botille oli helppoa ja nopeaa laittaa matalalla kynnyksellä viestiä!
Auttaa oikeesti hyvin eikä tarvi jonottaa 🙂
Sekasin Kollektiivin Johanna Virtanen uskoo, että nuoret osaavat hyvin navigoida tekoälyn maailmassa.
”Me luotamme siihen, että nuoret tietävät, milloin he kaipaavat oikeaa tietoa ja kysyvät mieluummin Sekasin-botilta kuin esimerkiksi Snapchatista tai ChatGPT:ltä, joita mielenterveyden ammattilaiset eivät ole kouluttaneet. Nuoret myös varmasti tunnistavat, milloin kaipaavat ihmistä rinnalleen. Botti ainakin tunnistaa ja ohjaa sitten eteenpäin”, Virtanen sanoo.
Sekasin-botti ohjaa eteenpäin
Alusta asti Sekasin-botin kehitystyötä vetänyt Project 5/5:n johtaja Saara Huhanantti kertoo, että heti alkumetreillä erityisesti yksi asia kävi selväksi. Kysymys siitä, mitä tekoälyllä voidaan tehdä tai mihin se pystyy, ei ole tässä yhteydessä relevantti. Sen sijaan täytyi ratkaista, mitä juuri Sekasin-chatin yhteydessä halutaan tehdä.
”Teknisesti on mahdollista tehdä täysin ihmisen oloisia tekoälyterapeutteja, jotka puhuvat ihmisen äänellä. Meidän piti aloittaa määrittelemällä, miten me haluamme nuorten mielenterveystyössä tekoälyä käyttää. Siihen määritelmään käytettiin ylivoimaisesti pisin aika.”
Kehitysryhmä tapasi monia eri asiantuntijoita ja tiedeyhteisön edustajia tarkentaakseen esimerkiksi eettisiä periaatteita. Tavoitteena oli hahmottaa, mitä tekoälyn etiikka nuorten mielenterveyden yhteydessä tarkoittaa.
Syntyi viisi tärkeää eettistä kulmakiveä, joihin Sekasin-botin toiminta-ajatus nojaa:
- Ihmisen ja tekoälyn erottaminen toisistaan
- Riskitilanteiden tunnistaminen
- Turvallinen sisältö
- Tietosuoja ja datan käsittely
- Läpinäkyvyys
On tärkeää, että käyttäjälle on päivänselvää, keskusteleeko hän tekoälyn vai ihmisen kanssa. Botti kommunikoi empaattisesti, mutta se ei tarkoituksellisesti muistuta liikaa ihmistä, kuten käytä itsestään minä-muotoa tai luo dialogeja, joihin voisi jäädä koukkuun tai kiintyä.
Nämä asiat ovat Kalliokosken mukaan eettisyyden näkökulmasta erityisen tärkeitä. Hänen mielestään on hyvä erottaa se, että monet muut tekoälyyn pohjautuvat sovellukset toimivat kaupallisin intressein. Silloin käyttäjän halutaan nimenomaan pysyvän alustalla mahdollisimman pitkään tai heidän intressejään pyritään ohjailemaan. Kalliokoski pitää aiheellisena myös sitä, että tekoäly ohjaa alustalta eteenpäin.
”Lapsilla ja nuorilla on oikeus tietää, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Erityisesti kriisitilanteessa olevien nuorten kohdalla on hyvä, jos tekoäly ohjaa myös muuhun elämään kuin palvelun lisääntyvään käyttöön”, Kalliokoski sanoo.
Huhanantin mukaan tämä on ratkaistu Sekasin-botissa siten, että se ehdottaa herkästi keskustelua ihmisen kanssa Sekasin-chatissa tai jossain muualla tai tarjoaa tietokortteja eri aiheista. Varsinaista aikarajaa ei tekoälyapurin kanssa ole asetettu.
”Botin kanssa ei synny samanlaista dialogia kuin ihmisen kanssa. Välillä käyttäjää saattaa enemminkin turhauttaa se, että pitkän ja polveilevan keskustelun käyminen on botin kanssa melko vaikeaa”, Huhanantti sanoo.
Eteenpäin ohjaamisen tärkeys liittyy myös riskien tunnistamiseen, erityisesti itsetuhoisuuteen. Se oli ratkaistava ennakkoon, koska joka kymmenes nuori puhuu Sekasin-chatissä itsetuhoisuudesta.
Ota yhteyttä
Johanna Virtanen
Toiminnanjohtaja, Sekasin Kollektiivi
+358 50 533 9255
etunimi.sukunimi@sekasin.fi
