digitalisaatio & sosiaaliala
MAHDOLLINEN YHTÄLÖ
Viime huhtikuussa hallitustunnustelija Orpo lähetti eduskuntaryhmille listan kysymyksiä vastattavaksi. Tilaisuuteen tarttuivat monet hallitusohjelmaan vaikuttamaan pyrkivät tahot, esimerkiksi Sitra, joka julkaisi omat “oikeat vastauksensa” Orpon kysymyksiin. Lasten, nuorten ja perheiden hyvinvointia koskevaan kysymykseen Sitra vastasi näin: “Ehdotamme, että lainsäädännössä tehtäisiin täyskäännös lastensuojeluun liittyvän datan suhteen. Lainsäädännön tulee jatkossa tukea digitaalisten työkalujen sekä tekoälyn käyttämistä niin kutsutussa varhaisessa puuttumisessa – tällä hetkellä suojellaan dataa lasten ja nuorten sijaan. Muutoksessa on hyödynnettävä oppeja, joita saatiin Espoon kaupungin vuoden 2018 kokeilusta hyödyntää tekoälyä syrjäytymisen havaitsemiseen. Tulosten hyödyntäminen kaatui lakiesteisiin.” Vastaus on monin tavoin oireellinen. Se kertoo kitkasta datan hyödyntämisen ja datan käyttöä rajoittavan, usein yksityisyyden suojaan pohjautuvan sääntelyn välillä. Lisäksi se kuvastaa vankkaa uskoa tekoälyn ennakoivaan voimaan ja käy tyyppiesimerkistä tekoälyn lastensuojeluun tuomista kuvitelluista hyödyistä. Sitran mainitsemassa Espoon kaupungin kokeilussa Tieto kehitti tekoälymallin lastensuojelun asiakkuuden ennustamiseksi. Hankkeesta uutisoitiin aikanaan laajasti. Tällaisissa malleissa on yleensä kyse niin kutsutusta ennakoivasta analytiikasta, ja esimerkkejä sen käytöstä lastensuojelussa löytyy sekä Suomesta että kansainvälisesti [1-3]. Tarkoituksena on yleensä tunnistaa koneen avulla ongelmia etukäteen, jotta niihin voitaisiin puuttua ennalta. Ulkopuolelta katsoen tekoälypohjainen ennakointi istuu lastensuojeluun hyvin: sosiaalityöntekijäthän pyrkivät arvioimaan lapsen olojen turvallisuutta ja ennakoimaan lapsen tulevaisuuteen liittyviä riskejä. Viimeisen vuosikymmenen ajan on uskottu siihen, että jos koneille annetaan riittävästi dataa, ne ovat ennakoinnin tyyppisissä monimutkaisissa tehtävissä ihmistä parempia, tehokkaampia ja puolueettomampia [4,5]. Dataan perustuva ennakointi on noussut keskeiseen rooliin yhteiskunnan eri osa-alueilla [6]. Miksi ei siis laittaisi konetta ennakoimaan myös sosiaalityössä? Sitran ja muiden datan ja tekoälyn voimaan uskovien näkökulmasta tehokkaan ennakoinnin esteenä on lähinnä lainsäädäntö. Sitra siis ehdottaa lainsäädännön muuttamista vastaamaan teknologian tarpeita. Mutta ehkä teknologiaa pitäisi pikemminkin muuttaa vastaamaan ihmisten tarpeita? Tuoreen tutkimukseni [7] perusteella haave koneen tekemästä tehokkaasta ennakoinnista pohjaa virheelliseen käsitykseen siitä, mistä ennakoinnissa on sosiaalityön kaltaisessa ammatissa kyse. Ennakointia koneen avulla Julkisten tietojen ja muiden vastaavien tapausten perusteella voi esittää valistuneen arvauksen siitä, miten tekoälymallin kehittely Espoossa eteni. Ensin yhdistetään ihmisiä koskevia rekisteridatoja eri lähteistä, Espoon tapauksessa sosiaali- ja terveyspalveluista sekä varhaiskasvatuksesta. Saadaan tietokanta, josta voidaan poimia tunnetut lastensuojelun asiakkuudet ja niihin liittyvät muuttujat. Sitten annetaan koneoppijalle tehtäväksi tarkastella, mitkä muuttujat esiintyvät tyypillisesti yhdessä lastensuojelun asiakkuuden kanssa. Tällaisia muuttujia kutsutaan riskitekijöiksi, joita Espoossa löytyi vajaa 300 kappaletta. Muualla riskitekijät ovat liittyneet esimerkiksi aiempiin kontakteihin sosiaalihuollon kanssa, mielenterveysongelmiin, erilaisten tapaamisten perumisiin, väkivaltaan, päihteiden käyttöön tai lapsen terveyteen kuten vaikkapa hampaiden kuntoon ja luunmurtumiin. Tämä riskitekijöiden lista on malli lastensuojelun asiakkuudelle: yksinkertaistaen, mallin perusteella asiakkuus on todennäköinen silloin, kun riittävän monta riskitekijää esiintyy samanaikiasesti. Seuraavaksi voidaan kääntää katse tulevaisuuteen ja tarkastella mallin perusteella muita kuin jo tunnettuja lastensuojelun asiakkaita. Kun perhettä koskevasta datasta löytyy riittävästi riskitekijöitä, lastensuojelun asiakkuuden riski on mallin mukaan koholla. Riskilistat eivät ole sosiaalityölle uusi apuväline, sillä sellaisia on laadittu pitkään esimerkiksi asiantuntijakonsensukseen tai aktuaarisiin malleihin perustuen [8]. Tekoälyllä toteutetun ennakointimallin varsinainen lupaus ei kuitenkaan ole riskilistoissa, vaan yksittäiselle asiakkaalle tehdyssä riskianalyysissä. Asiakasta koskevan datan perusteella voi muodostaa riskistä kertovan hälytyksen, tai tietokannasta voi seuloa kaikki asiakkaat, joilla on riski koholla. Uutisoinnin perusteella Espoo ei toteuttanut tällaisia käytännön sovelluksia, mihin Sitrakin viittasi lakiesteet mainitessaan. Tekoälyn varsinainen lupaus jäi siis lunastamatta ja sen hyödyllisyys käytännössä koettelematta. Jäljelle jäi lupauspuhetta teknologian potentiaalisista hyödyistä: jos saisimme lakiesteet ratkottua, tekoäly kyllä tunnistaisi riskitapaukset ennalta ja voisimme puuttua niihin ajoissa. Tekoälyn tunnetut ongelmat lastensuojelussa Suomesta löytyy muitakin ennakoivaa analytiikkaa lastensuojelussa kokeilleita sosiaali- ja terveysalan toimijoita, myös tapauksia joissa on ratkottu teknisiä ja laintulkinnallisia esteitä niin pitkälle, että riskitekijöiden listoista on edetty tekoälysovelluksiin. Pääsin tekemään tutkimusta tällaisesta hankkeesta, kun eräs sote-alue pilotoi kiireellistä sijoitusta tai huostaanottoa ennustavan tekoälytyökalun käyttöä [7]. Ajattelu pilottityökalun taustalla on kuin Sitran pelikirjasta: sijoitus- ja huostaanottotapaukset ovat sekä inhimillisesti että taloudellisesti raskaita, ja niiden varhainen tunnistaminen mahdollistaisi ennaltaehkäisevän puuttumisen. Sote-alueella kehitettiin ennakoivan analytiikan malli, ja pilotissa lastensuojeluilmoituksia käsittelevät sosiaalityöntekijät saattoivat asiakastapaamisen yhteydessä, asiakkaan suostumuksella, tarkastella tekoälyn tuottamaa riskitietoa: onko riski kiireelliseen sijoitukseen tai huostaanottoon koholla kyseisen lapsen kohdalla, ja mitkä riskitekijät tähän vaikuttavat. Kun ryhdyin jututtamaan pilotissa mukana olleita ammattilaisia, oletin että puhe kääntyisi hyvin tunnettuihin tekoälypohjaisten ennustemallien ja -työkalujen ongelmiin. Yhteiskunnan eri osa-alueilla – kuten turvallisuudessa, ennakoivassa poliisitoiminnassa, rajavalvonnassa, finanssialalla, oikeuslaitoksessa ja sosiaalityössä – käytettävät ennustemallit nimittäin aiheuttavat kautta linjan samankaltaisia ongelmia ja tekevät samankaltaisia virheitä. Mallit ovat usein jonkinlaisia harhoja sisältävän tai puutteellisen datan varassa, ja tekijät koodaavat mallien ja työkalujen sisään omat olettamuksensa ja päättelyharhansa. Erityisesti jo valmiiksi haavoittuvassa asemassa olevat päätyvät usein kärsimään virheiden ja ongelmien seurauksista. Tekoälyn haitalliset vaikutukset ovat laajasti tunnistettuja sekä yleisesti [9] että sosiaalityössä erityisesti [10]. Laajalti uutisoituja tapauksia virheiden ja epäoikeudenmukaisten mallien seurauksista löytyy esimerkiksi Alankomaista. Ongelmat korostuvat silloin, kun tekoälymallien avulla tehdään päätöksiä automaattisesti, ilman ihmisten suoraa osallistumista. Suomalaisella lastensuojelulla on matkaa koneen automaattisesti tekemiin huostaanottopäätöksiin, ja hyvä niin. Lastensuojelu on kuitenkin herkkä tekoälyn sovelluskohde. Virheiden seuraukset voivat olla yksilöille katastrofaalisia, ja pelkästään riskiryhmään kuuluminen saattaa olla stigmatisoivaa [11]. Ennusteiden tarkkuudella ja luotettavuudella on lastensuojelun kaltaisella kentällä erityisen suuri merkitys. Tekoälyn perimmäisempi ongelma Tekoälyn mukanaan tuomien syrjivien käytäntöjen, virheiden ja erilaisten harhojen sijaan haastatteluissa keskiöön nousi toinen, kenties vieläkin perimmäisempi ongelma: pilotoitu tekoälytyökalu ei ollut yhteensopiva käytännön sosiaalityön kanssa. Yhteensopimattomuus syntyi muun muassa eroista siinä, miten ennakointi ymmärretään. Vaikka sosiaalityö on luonteeltaan ennakoivaa, haastattelemilleni sosiaalityöntekijöille ennakoinnissa ei ollut kyse koneen tuottamasta riskitiedosta, vaan ammatillisesta tiedontuotannon prosessista. Prosessin ytimessä on asiakastyö. Sosiaalityöntekijät pyrkivät asiakastyön avulla muodostamaan syvällisesti asiakkaan yksilölliseen sosiaaliseen tilanteeseen ja ympäristöön sitoutunutta tietoa asiakkaan ongelmista ja kyvyistä pärjätä niiden kanssa. He eivät odottaneet tekoälyltä ennakointitiedon tuottamista, vaan tukea tiedontuotannon prosessille. Tekoälytyökalua ei kuitenkaan ollut suunniteltu asiakastyötä vaan nimenomaan riskin ennakointia ajatellen: tekoäly ei auta sosiaalityöntekijää ennakoimaan, vaan yrittää ennakoida sosiaalityöntekijän puolesta. Toinen keskeinen ero tekoälyn ja sosiaalityöntekijän ennakoinnin välillä liittyi tekoälyn tapaan käsitellä asiakasta riskitekijöiden kokonaisuutena ja historiansa tuloksena. Kone olettaa samanlaisen historian tarkoittavan samanlaisia ongelmia tulevaisuudessa: jos tietyt riskitekijät ovat yleensä tarkoittaneet, että tietty ongelma toteutuu, se toteutuu myös tällä asiakkaalla. Eräs haastateltavista kutsui koneen näkökulmaa vikalistaksi. Haastateltavani eivät pitäneet vikalistaa, siis ihmisen taustaa ja menneitä ongelmia, perusteena ryhtyä toimiin – keskeistä olivat asiakkaan tilanne nyt, mahdollisuus muuttaa elämän suuntaa, ja kyvyt tai haasteet pärjätä ongelmien kanssa. Kaikkiaan ihmisen tilanteen tiivistäminen listaksi ongelmia vaikutti olevan perusteiltaan pielessä ammatissa, jossa pyritään ymmärtämään ongelmien syitä ja auttamaan yksilöllistä asiakasta uniikissa tilanteessa. Käyttökelpoista tekoälyä sosiaalityöhön Kiinnostavasti tekoälytyökalun ja sosiaalityön yhteensopimattomuudesta kumpusi ajatuksia siitä, mitä tekoälyllä voisi lastensuojelun kentällä tehdä. Näiden ajatusten ytimessä oli asiakastyö. Haastattelemani sosiaalityöntekijät eivät kokeneet hyötyneensä pilottityökalun riskiarviosta. Osa kuitenkin kiinnitti huomiota työkalun esille nostamiin riskitekijöihin. Riskitekijät ovat otteita rekistereistä, ja kuvaavat siis asiakkaan menneisyyttä tai nykytilannetta. Sosiaalityöntekijät kokivat tällaiset tiedonmuruset hyödyllisiksi asiakkaan kohtaamisessa. Kuten missä tahansa tietoa tulvivassa ammatissa, oleellisen tiedon löytäminen on sosiaalityössäkin vaikeaa. Sosiaalityöntekijät ajattelivat, että tekoäly voisi ennakoinnin sijaan poimia asiakasta koskevasta aineistosta tilanteeseen nähden relevantteja tietoja tai esimerkiksi yhteenvetoja. Mennyttä ja nykyhetkeä valottamalla tekoäly tukisi asiakastyötä, ja tulevaa ennakoivan tiedon muodostaminen tapahtuisi ihmisvoimin. Haastateltavat pyrkivät kurkistamaan tekoälyn avulla nykyhetkeen myös toisella tavalla, käyttämällä sen tuottamaa tietoa keskustelun kuljettamisessa. Tekoälyn tuottama ennakointitieto ei välttämättä ole totuus asiakkaan tilanteesta, mutta tekoäly on kuitenkin tuottanut tällaisen tiedon. Sosiaalityöntekijöiden mukaan tällainen epävarmakin tieto voi olla asiakastilanteessa samalla tavalla hyödyllistä kuin vaikkapa tiliote tai mikä tahansa muu ulkopuolelta tullut tieto: tällaista koneesta nyt tuli ulos, mitä me tästä ajattelemme? Pilotoidun työkalun tapauksessa tällaisen käytön teki hankalaksi se, että työkalu ennakoi huostaanottoa – siis äärimmäistä ja uhkaavaa, mutta usein perheen tämänhetkisestä tilanteesta varsin kaukana olevaa ja siksi kovin hypoteettisen tuntuista riskiä. Huostaanoton puheeksi ottaminen koettiin provosoivaksi, ja se oli asiakkaan asian selvittämisen kannalta haitallista. Jos työkalua kehitettäisiin asiakastilanteen avuksi, sen tuottama tieto mietittäisiin nimenomaan tämän tilanteen kannalta hyödylliseksi. Ihmiset ihmisen töissä, koneet koneen töissä Tekoälyn lupaus on olla ihmistä parempi: tehokkaampi, nopeampi, väsymättömämpi ja virheettömämpi. Tekoälytyökalun suunnittelua ohjaavaa näkökulmaa tulisi kuitenkin pohtia tarkasti: mihin koneen vahvuuksia kannattaa soveltaa juuri tässä sovelluskohteessa? Tutkimuksestani kumpuavaa ajatusta voisi kuvata yksinkertaisesti näin: sen sijaan että ajatellaan tekoälyä korvaamassa ihmisten ammattitaitoa, tulisi ajatella tekoälyä tukemassa ihmisen työtä. Näin muotoiltuna ajatus ei kuulosta kovinkaan erikoiselta, mutta ennakointiin ja ennaltaehkäisyyn tähtäävien tekoälyhankkeiden yleisyydestä päätellen ajatukselle olisi tilausta. Käytännön sosiaalityössä olisi todellista tarvetta ihmisen työtä ja nimenomaan asiakastyötä helpottaville, lopulta varsin käytännönläheisille välineille. Tekoälyn kehittäjiä ja tilaajia kannustaisin unohtamaan ennakoinnin hetkeksi ja selvittämään, miten tekoälyä voisi kehittää sosiaalityön omista lähtökohdista. Ihmistyötä tukevat mutta päätösentekovallan ja -vastuun selvästi ihmisellä säilyttävät työvälineet voisivat samalla välttää niitä eettisiä ja lainsäädännöllisiä karikkoja, joihin mullistuksia tavoittelevat ennakointihankkeet tapaavat jumittua. Kirjoittaja: Tuukka Lehtiniemi on tutkijatohtori Helsingin yliopiston Kuluttajatutkimuskeskuksessa. Hänen tutkimuksensa keskiössä ovat ihmisten tavat ja mahdollisuudet osallistua dataistuvaan yhteiskuntaan. Kirjoitus perustuu julkaisuun Lehtiniemi, T. (2023). Contextual social valences for artificial intelligence: anticipation that matters in social work. Information, Communication & Society. https://doi.org/10.1080/1369118x.2023.2234987 Lähteet:
Digitaalisella transformaatiolla tarkoitetaan digitaalisen teknologian hyödyntämistä ja integraatiota kaikkiin elämän osa-alueisiin. Digitaalisen transformaation edetessä julkisen hallinnon, yksityisten toimijoiden ja kolmannen sektorin välisen rajan uskotaan hämärtyvän. Digitalisaation on myös ennustettu mahdollistavan laajempia julkisen toiminnan kehittämismahdollisuuksia, tuovan kustannussäästöjä ja avaavan uudenlaisia asiakaslähtöisempiä palvelumuotoja. Digitaalinen transformaatio vaikuttaa muun muassa johtamiskulttuuriin ja asiakkaiden asemaan palveluissa. Digitaalisen transformaation myötä asiakkaan asema voisi olla muuttua julkisissa palveluissa palveluiden vastaanottajasta aktiiviseksi ja osallistuvaksi osapuoleksi. [1] Nykyisin tiedon tuottaminen on nimittäin sosiaalityön käytännöissä pitkälti asiantuntijalähtöistä ja asiakkaat ovat enemmän informantin roolissa. [2] Informaatioteknologian käytölle hyvinvointipalveluissa on maailmanlaajuisestikin suuret odotukset. Sen toivotaan lisäävän tehokkuutta helpottamalla hallinnollisia tehtäviä ja työn koordinaatiota sekä tuottavan työssä hyödynnettävissä olevaa informaatiota. [3] Käytännössä on kuitenkin huomattu useita haasteita. Näitä ovat muun muassa tietojärjestelmien kankeus ja yhteensopimattomuus, verkostomaisen joustavan toiminnan johtamisen puuttuminen sekä poliittisen järjestelmän luoma epävarmuus digitalisaatioon liittyvien hankkeiden jatkuvuudesta. [1] Ne auttavat osaltaan saavuttamaan kansallisia sosiaali- ja terveydenhuollon sisällöllisiä ja kehittämiseen liittyviä tavoitteita ja muodostavat asiakkaalle yhdenmukaisen palvelukokonaisuuden. [4] Sosiaalityössä tietoaineistoja muodostuu muun muassa asiakastietojärjestelmissä. Tietoaineistojen tuottamiseen tarvitaan tietokäytäntöjä, jotka ovat hallinnollisia ja organisatorisia prosesseja. Tietoaineistoista saadaan muodostettua tietoa, kun informaatiota ensin käsitellään ja tulkitaan. Käytännön asiakastyössä muodostuu informaatiota, joka voidaan käsittää tiedoksi vasta, kun se on käsitelty ja tulkittu. Myös arviointitieto, esimerkiksi asiakkailta koottu palaute, tulee analysoida ennen kuin sitä voidaan hyödyntää. Tiedon jalostaminen vaikuttavuustiedoksi vaatii vielä omat erilliset prosessinsa. [5] Hyvinvointialueilla on ollut vuoden 2021 alusta velvoite laatia tiedonhallintamalli. Uudet asiakas- ja potilastietojärjestelmiin kohdistuvat vaatimukset ovat osaltaan edesauttaneet hyvinvointialueiden valmistautumista tietojohtamiseen. Kerätty tieto mahdollistaa eri toimenpiteiden ja tapahtumien vaikutusten ennakointia. Tietojohtaminen mahdollistaa toiminnan kehittämisen sekä voimavarojen kohdentamisen sinne, missä niistä saadaan merkittävin hyöty. Hyvinvointialueet tarvitsevat oikeaa ja ajantasaista tietoa väestön hyvinvoinnista ja terveydestä sekä sote-palvelujen kustannuksista ja vaikuttavuudesta, jotta ne pystyisivät tarjoamaan asukkailleen heidän tarpeitaan vastaavia palveluja. [4] Vaikuttavuustiedon merkitys tiedolla johtamisen välineenä on alkanut korostua sosiaalihuollossa. Vaikuttavuustiedon hyödyntämistä perustellaan sosiaalihuollossa käytännöstä nousevilla syillä, joita ovat esimerkiksi tavoitteet edistää ja ylläpitää hyvinvointia, sosiaalista turvallisuutta ja osallisuutta sekä vähentää eriarvoisuutta. Luotettava tieto vaikuttavuudesta auttaa organisaatioiden johtajia, kuten myös henkilöstöä, toteuttamaan heille asetettuja perustehtäviä ja tavoitteita. [6] Tieto vaikuttavuudesta ja palveluiden laadusta auttaa päätöksentekijöitä ohjaamaan rajallisia resursseja niihin palveluihin, joilla on mahdollista saavuttaa mahdollisimman paljon hyvinvointia. Tämän vuoksi on keskusteltu kansallisen laaturekisterin perustamisesta. Tähän liittyy erityisesti sosiaalialalla kuitenkin paljon eettisiä ongelmia ja vaikeuksia. Vaikuttavuustietoa ei yksinkertaisesti ole ollut helposti ja kootusti saatavilla. [6] Ruotsissa vaikuttavuustiedon käyttö on viety pidemmälle kuin Suomessa. Ruotsin mallin voi ajatella olevan jopa radikaali muihin maihin verrattuna. Ruotsissa on pyritty aktiivisesti ajamaan vaikuttavuustietoon pohjautuvaa päätöksentekoa laajasti sosiaali- ja terveyspalveluihin sekä opetukseen. Katarina Jacobsson ja Anna Meeuwisse [7] kritisoivat tätä käytäntöä ja toteavat pelkäävänsä, että osa sosiaalityön tietämyksestä on vaarassa hukkua yksipuolisen vaikuttavuuden painotuksen alle. Ruotsissa vaikuttavuustietoon vahvasti pohjaavaa päätöksentekoa eivät yleisesti olekaan kannattaneet esimerkiksi sosiaalityön ammattilaiset, vaan vaade sille on enemmän lähtöisin poliittisilta päätöksentekijöiltä. Suomessa ei ole ollut yhtä vahvaa perinnettä näyttöön perustuvissa käytännöissä sosiaalihuollossa, vaikka näyttöön perustuvat menetelmät ovat kyllä laajasti käytössä terveydenhuollon puolella. Tämä kenties entisestään alleviivaa vaikuttavuustietoon perustuvien käytäntöjen puuttumista sosiaalialalta. Paineet asian muuttamiselle ovat kuitenkin olemassa. Muutoksen ajamisen yhteiskunnallisena taustana ovat riskien hallinnan, niukkojen resurssien jakamisen ja asiakkaiden oikeuksien toteuttamisen päätöksentekijöille asettamat haasteet. Näyttöön perustuva käytäntö nähdään välineenä vähentää riskejä ja kohdentaa niukkoja resursseja interventioihin, joiden vaikuttavuus on todistettu. [8] Poliittinen keskustelu käykin kiivaana sosiaali- ja terveyspalveluiden tilasta ja niiden rahoituksesta. Osa puolueista ajaa laajojakin sopeuttamistoimia ja leikkauksia rahoitukseen. Tämä ilmapiiri ja tarve säästötoimenpiteille voivat osaltaan olla vaikuttamassa halulle ohjata rahoitusta sinne, missä sen on osoitettu olevan vaikuttavinta. Tietotekniikan kehittyminen on myös osaltaan luonut mahdollisuuksia vaikuttavuustiedon hyödyntämiselle. Vaikuttavuustietoa käyttävä sosiaalityöntekijä voisi ideaalisesti valita laadukkaisiin tutkimuksiin perustuviin käytännön ohjeisiin perustaen asiakkaan tilanteeseen parhaiten sopivan intervention. Ongelmana on kuitenkin muun muassa se, ettei kaikkien mahdollisten interventioiden vaikuttavuutta ei ole mahdollista tutkia täsmällisillä tieteellisillä menetelmillä. [8] Suomessa sosiaalityön tutkimuksen metodologinen painotus on konstruktionistinen ja tutkimuskäytäntö on vahvasti kvalitatiivista. Kiinnostus sosiaalityön interventioiden kokeelliseen tutkimiseen on ollut käytännössä olematonta. Toisaalta usein todetaan tieteellisen tiedon jäävän käytännön työssä irralliseksi. Jotta sosiaalityössä ylipäätään voitaisiin päästä tilanteeseen, jossa vaikuttavuustietoa olisi hyödynnettävissä, tulisi kvantitatiivisen tutkimuksen tekemistä myös sosiaalityön tutkimuksessa vahvistaa. Lisäksi, käytännön työntekijöillä tulisi olla mahdollisuus seurata tutkimuksia ja ottaa nämä huomioon työssään. [8] Digitaalisella transformaatiolla voisi olla mahdollisuus toimia vaikuttavuustiedon tutkimisen vahvana apuvälineenä. Pyrkimykset tietojärjestelmistä saatavan tiedon hyödyntämiseen johtamisessa ovatkin vahvistuneet 2010-luvulta lähtien. [9] On myös kritisoitu sosiaalialan organisaatioiden epäyhtenäisiä tietokäytäntöjä. [9] Jotain hyvää kuitenkin on: esimerkiksi julkisella sektorilla hakemus- ja ilmoitusmäärät sekä määräaikojen seurantatiedot ovat pääosin hyvin saatavilla ja tietoa oli hyödynnettävissä hyvin tilasto- ja rekisteritietojen keräämiseen. Kuitenkin tuottavuus-, vaikuttavuus- ja laatuindikaattoritiedon saatavuus asiakastietojärjestelmistä oli vähäistä. Myös kustannuksiin liittyvän tiedon saatavuus oli huonoa ja tieto oli heikosti hyödynnettävissä tutkimus-, kehittämis- ja innovaatiotoimintaan. [10] Sosiaalialan organisaatioissa yleisimmäksi haasteeksi tietojärjestelmien avulla kerätyn datan hyödyntämisessä tiedolla johtamisessa tunnistettiin osaamisen puute, toiseksi resursseihin liittyvät haasteet ja kolmanneksi tietojärjestelmien puutteet. [9] On siis vielä matkaa siihen, että sosiaalityössä saataisiin tietojärjestelmien kautta kerättyä käytettävissä ja vertailtavissa olevaa ja tiedoksi jalostettavissa olevaa dataa niin johtamisen kuin vaikuttavuuden arvioinninkaan tueksi. Tarve tietojärjestelmien kehittymiselle, sekä osaamisen lisäämiselle niiden käyttöön liittyen on kuitenkin selkeä. Tällä hetkellä ollaan kuitenkin vielä kaukana siitä, että sosiaalityön asiakasjärjestelmistä saatava tieto olisi yhdenmukaista ja hyvin hyödynnettävissä olevaa. Osaltaan tämä johtuu varmasti siitä, että tähän asti on ollut hyvin kirjava joukko niin erilaisia asiakasjärjestelmiä kuin kirjaamiskäytänteitäkin. Jos tulevaisuudessa siirrytään laajasti yhteneviin tietojärjestelmiin ja yhtenäistetään myös muun muassa kirjaamiseen ja tiedon tallentamiseen liittyviä käytäntöjä, voisi olla mahdollista, että tulevaisuudessa tutkijoiden käytössä olisi laajastikin aineistoa, josta vaikuttavuutta voisi tutkia. Tämän voisi kuvitella lisäävän vaikuttavuustiedon tutkimista myös sosiaalialalla. Kirjoittajat: Laura Koistinen, sosionomi (AMK) Eini Nordin, sosionomi (AMK) Sosiaalityön maisteriopiskelijat, Lapin yliopisto Lähteet:
Tervehdys, arvoisat blogin lukijat! Uutena bloggarina kerron ensin hieman itsestäni. Olen sosiaalityöntekijätaustainen kehittämispäällikkö ja työskentelen Etelä-Karjalan hyvinvointialueella. Sosiaali- ja terveydenhuollossa olen työskennellyt vuodesta 2007, ensin ohjaajana lastensuojelussa ja sitten sosiaalityöntekijänä vammaispalveluissa. Viimeiset kuusi vuotta ovat vierähtäneet tiedonhallinnan ja digitalisaation kehittämistehtävissä. Väitöskirjaprojektini pyörähti käyntiin noin 1,5 vuotta sitten, hieman vahingossa, kun mainitsin jatko-opintoajatuksistani työhön liittyvässä palaverissa nykyiselle väitöskirjatyöni ohjaajalle ja LUT-yliopiston dosentille, Jukka Korpelalle. Jukka kannusti jatko-opintosuunnitelman kirjoittamiseen ja pyysi projektiin mukaan toisen ohjaajani, tutkijaopettaja Kalle Elfvengrenin LUT:n tuotantotalouden puolelta. Itse pyysin kolmikkoon vielä omissa tutkimuksissaan asiakasarvoteemoja pyöritelleen Jyri Vilkon, johon olin tutustunut erään yhteisen hankkeemme myötä muutamaa vuotta aikaisemmin. Tiesitkö, että jatko-opintoja voi suorittaa myös toisella tieteenalalla, kuin mistä on alun perin valmistunut? Yhteiskuntatieteiden maisterina ja sosiaalityöntekijänä halusin uutta näkökulmaa ja oppia muilta tieteenaloilta ja olinkin pohtinut hakeutuvani jatko-opintoihin yhteiskuntatieteiden sijaan esimerkiksi kauppatieteiden puolelle. Insinööritieteet eivät kuitenkaan olleet ykkösenä mielessä. Toisin kuitenkin kävi. Syksyllä 2021 kirjoitin työni ohella jatko-opintosuunnitelmaa ja helmikuun 2022 alussa sain jatko-opinto-oikeuden LUT-yliopiston tuotantotalouden puolelle. Olen aina ollut kiinnostunut kyselemään, "miksi ja miten". Väitöskirjatyössäni tutkin arvon luontia dataa hyödyntävien asiakkuudenhallintaratkaisujen avulla sotessa. Aihe valikoitui viimeisen 10 vuoden aikana työssä työstämieni teemojen kautta. Sosiaali- ja terveydenhuollossa dataa kertyy rekistereihin koko ajan (ks. esim. Sitran julkaisu Terveysdatan sujuva ja turvallinen käyttö - Viisi askelta kohti reilua datataloutta 2030) ja vähitellen myös tietorakenteet yhdenmukaistuvat. Datassa on potentiaalia arvon luontiin, mikäli kykenemme hyödyntämään sitä nykyistä paremmin. Demografinen kehitys Suomessa, erityisesti ikääntyvissä maakunnissa, pakottaa sote-organisaatioita tehokkaampiin prosesseihin ja teknologia kehittyy tähän tueksi huimaa vauhtia. Olen vuodesta 2013 lähtien ollut mukana sosiaalihuollon tiedonhallinnan kansallisessa kehitystyössä, kuten THL:n sosiaalihuollon asiakasasiakirjarakenteiden ja luokitusten asiantuntijatyöryhmässä sekä pilotoimassa sosiaalihuollon Kanta-liittymistä Eksoten Soskanta-hankkeessa 2016-2018. Viime vuosina olen vetänyt soten digitalisaatioon liittyviä hankkeita, mm. sote-rakenneuudistuksen ja Suomen Kestävän kasvun ohjelman hankkeita Etelä-Karjalassa sekä innovaatioekosysteemin kehittämishanketta ELSAa. Yhteisinä poikkileikkaavina teemoina näissä projekteissa ja hankkeissa ovat olleet tiedonhallinta, sote-prosessien tehostaminen, asiakkuuksien hallinta sekä eri toimijoiden rooli yhteiskehittämisessä. Olen kiinnostunut teknologian ja datan hyödyntämisen sekä toimintaprosessien välisestä suhteesta. Päätyminen tuotantotalouden puolelle väikkärin väsääjäksi tuntuukin siksi näin jälkikäteen ajateltuna varsin luontevalta suunnalta. Konferenssimatka HavajilleKevät 2022 vierähti ensimmäisen case studyn äärellä. Tavoitteenani oli -ohjaajieni yllyttäminä- saada tutkimuspaperi HICSS-konferenssiin tarjolle kesäkuun 2022 puoleen väliin mennessä. HICSS, Hawaii International Conference of System Sciences on arvostettu kansainvälinen järjestelmätieteiden konferenssi, joka julkaisee vuosittain tutkimuspapereita vertaisarviointiprosessin kautta. Kevät vaihtui kesäksi intensiivisesti tietokonetta hakaten ja työn ohella kirjoitellessa oli kieltämättä välillä hieman epätoivoinen olo: syntyykö näppikseltäni oikeasti jotakin vertaisarvioitavaa tutkimusta, ja vielä varsin tiukkojen raamien mukaisesti kirjoitettuna? Ohjaajakolmikkoni ei kuitenkaan antanut periksi vaan uskoi tekemiseemme ja puski minua määrätietoisesti eteenpäin. Paperi lähti tarjolle määräajassa ja elokuussa saimme tiedon siitä, että artikkelimme on ehdollisin muutoksin hyväksytty. Tämä tiesi matkaa Havajille, joka oli motivaattorini koko kevään kirjoitusprosessin ajan, olin nimittäin mennyt lupaamaan tyttärelleni, että mikäli paperi menee läpi, hän pääsee konferenssimatkalle mukaan. Bikinit oli hetkessä pakattu matkalaukkuun. Syksyllä teimme artikkeliin vielä vaaditut muutokset ja ryhdyin järjestelemään konferenssimatkaa hakemalla ESTA-lupia ja apurahoja sekä varaamalla majoitusta ja lentoja. Ja niin me tytöt uudenvuoden päivänä 2023 lähdimme seikkailuretkelle, elämäni ensimmäiseen tieteelliseen konferenssiin ja myös ensimmäistä kertaa matkoille Yhdysvaltoihin. Se kannatti! Paikkahan oli aivan huikea ja konferenssi laadukas. Ensimmäisenä konferenssipäivänä, hetken yksin paikan päällä pyörittyäni tutustuin nopeasti muihin suomalaisiin ja myös joihinkin ulkomaalaisiin kollegoihin eri yliopistoista, kun bongasin erään osallistujan nimilapusta suomalaisen nimen. Hän oli Pasi Karppinen Oulun yliopistosta. Hetken siinä juteltuamme olimmekin keränneet ympärillemme myös muita suomea puhuvia: mm. Samuli Laaton Tampereen yliopistosta, Jenny Elon Jyväskylän yliopistosta ja Kaisa Pekkalan, joka oli juuri aloittanut työnsä LUT-yliopiston yhteiskuntatieteiden yliopisto-opettajana. Tutustuminen ja tarinointi lähti luontevasti liikkeelle ja jatkui työryhmien kokoontumisissa, joissa tapasin muihin samassa ryhmässä papereitaan seuraavina päivinä esitteleviä osallistujia muun muassa Saksasta ja Yhdysvalloista. Tyynenmeren aaltojen katveessa kuvankauniiden maisemien äärellä pehmeässä lämmössä olosuhteet olivat Suomen talvesta paenneille enemmän kuin suotuisat rentoon tutustumiseen, kuulumisten vaihtoon ja uusiin yhteistyöavauksiin. Paperimme esitysvuoro koitti konferenssin kolmantena päivänä. Osuuden vetäjä totesi, että turhaan ei kannata jännittää, koska esitämme toisillemme vain lempeitä kysymyksiä. Jouduin kuitenkin hieman hikoilemaan, kun esitykseni jälkeen eräs osallistuja kysyi englantia aksentilla murtaen ja hyvin hiljaisella äänellä tutkimuksestani jotakin, jota en täysin kuullut enkä ymmärtänyt. Vastasin hänelle parhaani mukaan ja pääsimme näin eteenpäin. Kaiken kaikkiaan työryhmässämme, Information Technology in Healthcare - Decision Support of Healthcare Processes and Services oli esillä todella mielenkiintoisia tutkimuksia, joihin on tutustuttava paremmalla ajalla tarkemmin. Sosiaalihuollon teemoja HICSSissä ei juuri näyttänyt ainakaan vielä olevan esillä, tai sitten ne olivat verhoutuneet joko terveydenhuoltoon tai esimerkiksi johtamisteemoihin. Tutkimuksessa nojataan eurooppalaisen asiantuntijapaneelin ehdotukseen arvoperusteisesta terveydenhuollosta (Value-based healthcare) Euroopan kontekstissa. Asiantuntijapaneelin ehdotus sisältää neljä arvopilaria, joiden kautta arvoa tulisi tavoitella terveydenhuollossa. Paperissamme tarkastellaan AI-ennustemallien hyödyntämisen arvopotentiaalia näihin arvopilareihin nojaten asiakas-, ammattilais- ja organisaatiotasoilla. Terveydenhuollon arvopilareita sovelletaan myös sosiaalihuoltoon. Arvopotentiaalin realisoitumiseen liittyy sekä positiivisia, sitä tukevia, että negatiivisia, sitä vähentäviä, tekijöitä. Tekijöistä positiiviset liittyvät suurimmaksi osaksi ennustemallin tuottamaan tietoon ja negatiiviset kytkeytyvät ennustemallin käyttöön liittyvään suostumuskäytäntöön. Väitöskirjatutkimukseni ensimmäiseen artikkeliin, Realizing the Value Potential of AI in Service Needs Assessment: Cases in Child Welfare and Mental Health voit tutustua HICSS proceedings -sivustolla. Seikkailu jatkuuTohtoriopinnot työn ohella vaativat optimoidun ajankäytön lisäksi paljon motivaatiota ja riittävän korkeat, mutta saavutettaviksi määritellyt virstanpylväät. Olen enemmän kuin innoissani käytyäni hyviä keskusteluita muiden tutkijoiden ja jatko-opiskelijoiden kanssa sekä kuullessani lisää erilaisista konferensseista, joita on tarjolla. Minulla on superhyvä ohjaajakolmikko tukenani ja toistaiseksi jatkan tätä ”harrastustani” edelleen työn ohella. Tutkimusmatkani akateemiseen ihmemaahan alkoi yllätyksellisesti toiselta puolelta maapalloa. Tällaisia kokemuksia en todellakaan osannut odottaa jatko-opintoja suunnitellessani, mutta olen varma, että matka jatkuu yhtä yllätyksellisenä ja antoisana, vaikkakin vaatii kulkijaltaan samalla paljon. Toinen paperi on nyt työn alla ja samalla pyrin vahvistamaan tutkijantaitojani tohtorikoulutukseen sisältyvin opinnoin. Rohkaisen kaikkia muitakin vetämään työhaalarit niskaan ja lähtemään seikkailemaan, jos yhtään sellainen ajatus mielessä pyörii. Akateeminen ihmemaa on kaikille avoin ja sopivassa matkaseurassa on ilo seikkailla! Kirjoittaja:
Kaisa Pesonen, YTM Jatko-opiskelija, LUT-yliopisto Kehittämispäällikkö, Etelä-Karjalan hyvinvointialue Using information technology has been discussed and developed in social work research for decades [1; 2] but the progress of digitalization in social work practice has been slower [3] and the potential of digital possibilities have not been fully acknowledged [4]. In 2020 the COVID-19 pandemic spread around the globe, causing restrictions in the society and a need for social distancing to prevent the virus from spreading. In the context of social work practice this meant a rapid digital leap. Suddenly a lot of things needed to change: social workers could not meet their clients face-to-face as usual and most of the normal encounters between people needed to happen online. Based on our research it seemed that social workers had a will to keep social work practice as similar as possible, compared to the way it was before the pandemic, and only move it to digital forms. We decided to name this phenomenon digitally mediated social work (DMSW). In a recent research article, we analyzed social workers’ experiences of taking the digital leap and shifting towards digitally mediated social work at the beginning of the COVID-19 pandemic in the spring of 2020. We wanted to find out how social workers see that their work practices can be done in digital forms, what kind of obstacles or possibilities they see in encountering their clients in digital spaces and what experiences were gained from the digital leap in the spring of 2020. We analyzed a data of 33 personal diaries written by social work professionals from March to May 2020 and we found out that the digital form of social work practice, or DMSW, can be viewed from three dimensions: 1) the basis of DMSW, 2) Conceived DMSW and 3) Lived DMSW. However, the dimensions are not completely separable, but rather interact with each other. First, a working base for digital social work practice can be built on a well-planned and working digital infrastructure. Social workers need up-to-date devices, applicable software and good internet connections to encounter their clients in digital spaces. Well-working tools alone are not enough. The devices and software need to also be suitable and applicable in the context of social work. Client and data security need to be ensured. To carry out all the elements of a working basis for DMSW things like the organizational culture and ICT, employee training, procedures, norms and management need to be in order. In the second dimension the attention turns on what social workers actually think about digitally mediated social work. The competencies and preparedness of social workers and clients and different possibilities or obstacles faced in the digital spaces are in focus. People tend to have pre-determined opinions and attitudes towards digitalization and digital service forms and it all comes to the readiness and willingness to change existing practices and learning new things. Based on our analysis, it is important to pay attention to organizational and cultural principles and social workers’ possibilities to apply professional discretion also in the digital forms of social work practices. Thirdly, the last dimension consists of the actual lived experiences of implementing social work in digital forms in the everyday practice. The focus of the dimension is on the relations between clients and social workers: establishing relationships, human presence, promoting confidence, trusting each other and open dialogue. The key factors in successful experiences deal with creating a right kind of atmosphere for communication, reaching emotional levels in discussions and digital intimacy. Implementing social work in digital forms cannot be done at the expense of the core aims or tasks of social work. We explored the digital implementations of social work practice during an exceptional pandemic time where the digital leap was quick and at least somewhat forced. It seems that in the crisis situation social work and its’ services were wanted to work as similarly as they did before in the more traditional face-to-face way. It was quite quickly noticed that digital implementations create a totally different space and context for social work. The pandemic setting highlighted that the digital leap of social work was maybe even too quick and there wasn’t enough time to prepare and develop social work organizations and practices. The expectations for services and practices staying unchanged and the attempts to shift them to online forms as they were can lead to limiting the wide variety of well-working, flexible and applicable options that digital forms of social work could offer. However, the forced digital leap made it obvious that digital practices offer great ways of working in the field of social work. At its’ best it can extend the options to promote client well-being and other core tasks of social work, create possibilities to applicable forms of working in changing environments, save time and add flexibility. Combining the best elements of face-to-face interaction and digital ways of working, a ‘hybrid-model’, has been discussed as a well-working way of doing social work [4]. Our analysis shows that digitally mediated social work provides flexibility to social work practice as it offers promising ways to extend spatial and temporal solutions. Social work with clients is always context specific and linked to the expertise and discretion of social workers. Successfully performed digital forms of practice require new kinds of competencies and skills [5]. Developing digital practices should be intertwined to basic education instead of it being the matter of individual social workers or work teams. Writer: Vera Fiorentino Doctoral researcher, University of Lapland The blog text is based on the article ‘Towards Digitally Mediated Social Work- the Impact of COVID19 -pandemic to Encountering Clients in Social Work’ by Vera Fiorentino, Marjo Romakkaniemi, Timo Harrikari, Sanna Saraniemi & Laura Tiitinen (2022) Qualitative Social Work. https://doi.org/10.1177/14733250221075603. References:
Organisaation käytännön työtä tekeville puheet organisaation strategiasta ja strategisesta suunnittelusta voivat tuntua kaukaisilta ja jopa kaunopuheelta. Strategian merkitys kuitenkin korostuu organisaatiomuutoksissa ja uusien digitaalisten menetelmien käyttöönotossa. Näin kävi myös ilmi tutkimuksessani [1], jossa tarkasteltiin kuntoutusalan ammattilaisen näkemyksiä siihen, miten johtaminen voi tukea uuden digitaalisen järjestelmän käyttöönottoa. Tuloksissa korostui etenkin järjestelmän käytön vision ja tavoitteiden viestimisen tärkeys. Ammattilaiset haluavat tietää, miksi uusia digijärjestelmiä otetaan käyttöön ja mitä hyötyä digijärjestelmät antavat ammattilaisille ja organisaatiolle. [1] Tässä blogikirjoituksessa kuvaan tutkimukseni keskeisiä tuloksia digitaalisen järjestelmän käyttöönottoa edistävistä strategisen johtamisen käytännöistä ja pohdin niiden merkitystä ajankohtaisen sote-digitalisaation näkökulmasta. Selkeän vision ja tavoitteiden viestiminen Henkilöstö voi kokea epävarmuutta, kun organisaatiossa otetaan käyttöön uusi järjestelmä ja heille voi olla epäselvää, millaisia odotuksia heille asetetaan järjestelmän käyttöön liittyen. Tästä syystä pelkkä tiedottaminen ja ilmoitus uuden järjestelmän käyttöönotosta ei riitä. Käyttöönoton tueksi ammattilaiset haluavat tietää tarkemmin miksi järjestelmää ollaan ottamassa käyttöön ja mitä hyötyjä sillä tavoitellaan. [1]
Käyttöönottoa tukeva viestintä tulisi olla ennen kaikkea digijärjestelmän käyttöä kannustavaa. Henkilöstölle voidaan esittää tietoon perustuen järjestelmän käyttöönoton syistä sekä pitkän aikavälin suunnitelmista. Erilaiset esittelyvideot järjestelmästä, voivat toimia myös mielenkiinnon herättäjinä. Sähköisen viestinnän lisäksi lähijohtajat voivat viestiä tavoitteista ja konkretisoida niitä työyhteisöjen sisällä. Mitä järjestelmän käyttöönotto antaisi juuri tähän työyhteisöön. Johtajan kyky innostaa ja tuoda visiota näkyväksi tunnistetaan yhdeksi tärkeimmäksi johtamiskäytännöksi käyttöönotossa [4]. Positiivinen viestintä järjestelmästä ja hyötyjen esiin tuominen
Muutoksen edistämisessä tulisi myös tiedostaa yleisen positiivisen ilmapiirin ja uuteen järjestelmään liittyvän puheen ja dialogin merkitys. Järjestelmästä ja sen hyödyistä kertominen työyhteisön erilaisissa yhteisöissä ja tilanteissa sekä kannustaminen lähijohdon taholta tukevat käyttöönottoa. [1] Ammattilaisen kokemus teknologian positiivisesta vaikutuksesta työssä suoriutumisessa sekä paremmat tulokset asiakastyössä motivoivat ammattilaisia ottamaan uutta teknologiaa käyttöön työssään [5,6] ja poistavat esteitä uuden teknologian oppimisen tieltä [6]. Järjestelmän tavoitteiden toteutumisen seuraaminen Jatkuva seuranta ja palautteen kerääminen digitaalisen järjestelmän käyttöönotossa edistävät onnistunutta käyttöönottoa [8]. Järjestelmä tulisi jalkauttaa harkitusti ja sen tavoitteiden toteutumista seurata riittävästi. Ammattilaiset kokevat usein käyttöönoton jälkeen, että organisaation johdon kiinnostus digijärjestelmän käyttöön lopahtaa. Tämä voi johtaa siihen, että ammattilaiset kokevat jäävänsä uuden järjestelmän kanssa yksin, eikä heidän tuen tarpeistaan järjestelmän käyttöä kohtaan oteta vakavasti. Ammattilaiset toivovat enemmän kiinnostusta johtamisen tasolta myös käyttöönoton jälkeen. Erityisesti johdon tulisi olla kiinnostunut järjestelmän toimivuudesta sekä sille asetettujen tavoitteiden toteutumisesta. Lisäksi erilaisten palautteen ja kehitysideoiden kerääminen koetaan tärkeänä. [1] Jos järjestelmä ei toimi, uskalletaanko se myöntää ja uskalletaanko siihen puuttua? Johtamisen tulisi kyetä reagoimaan muutostarpeeseen ja korjata asia tarvittaessa. Palautteen ja seurannan avulla on mahdollista kerätä arvokasta tietoa ammattilaisten kokemuksista ja toteuttaa tarpeellisia muutoksia paremman käyttökokemuksen turvaamiseksi [8]. Vahva strateginen viestintä uuden digitaalisen järjestelmän käyttöönoton tukena Johtamisella voidaan vaikuttaa käyttöönottovaiheessa yksilön kokemaan teknologian hyödyllisyyteen viestimällä järjestelmän hyödyistä, tavoitteista ja visioista.
Johtajien kouluttaminen strategiseen viestimiseen voi olla yksi ratkaisu muutosten käyttöönoton varmistamiseksi [4]. Digitaalisten järjestelmien käyttöönotto haastaa johtajia ja edellyttää heiltä riittävää osaamista sekä viestinnästä, että digitalisaatiosta. On tärkeää varmistaa, että johtajien osaaminen on organisaatioissa ajan tasalla ja tarvittaessa vahvistaa osaamista lisäkoulutuksella, joita tarjotaankin monin paikoin. Suuntaviivoja ja askelmerkkejä
Kirjoittaja: Mira Hammarén, TtM, toimintaterapeutti yliopisto-opettaja, terveyshallintotiede, Oulun yliopisto Lähteet:
|
Blogin tarkoitusBlogissa julkaistaan tieteellisiä kirjoituksia sosiaalialan digitalisaatiosta eri näkökulmista. Blogi toimii sosiaalialan digitalisaation ajan kuvaajana ja tallentajana, sekä tietolähteenä ja keskustelun virittäjänä kaikille aiheesta kiinnostuneille. Arkisto
January 2024
Kategoriat
All
|