Yleisiä tunnistettuja riskejä tekoälyn oppilaitoskäytössä

Kun tekoälypalvelun käyttöönottoa tehdään oppilaitoksessa, tulee palvelun tietosuojasta varmistua. Osa tätä prosessia on tietosuojan vaikutustenarviointi, jossa palvelun käyttöön liittyvät riskit kartoitetaan ja niiden pienentämiseen tehdään tarvittavia toimia. Vaikutustenarvioinnin päätteeksi tehdään päätös otetaanko palvelu käyttöön vai ei. Vaikutustenarviointia tulee seurata jatkuvasti ja päivittää tarpeen vaatiessa. Selvitystyömme perusteella olemme havainneet yleisiä tietosuojariskejä, jotka on syytä ottaa huomioon harkittaessa tekoälypalveluiden käyttöönottoa oppilaitoksessa. Näitä havaintoja voi hyödyntää myös osana vaikutustenarviointia.

Tunnistettettuja yleisiä riskejä

1. Käyttäjäriskit mm.
   • Rehtori syöttää oppilaitoksen osoittamaan palveluun sisältöä, joka ei ole sinne tarkoitettu.
   • Oppilas tai opettaja käyttää "villejä" tekoälypalveluita huolimattomasti.
   • Opettaja antaa oppilaille tehtävän, jossa oppilaan tulee käyttää tekoälypalvelua, jonka ikäraja tai muut käyttöehdot eivät sitä mahdollista.
   • Vinkki: Ottakaa tekoälypalvelut käyttöön hallitusti ja tietosuojatusti (aukeaa uuteen ikkunaan).
2. Tekoäly hyödyntää dataa laajemmin kuin käyttäjä haluaa
   • Useimmat ilmaiset tekoälypalvelut voivat käyttää käyttäjän kirjoittamia syötteitä tai palveluun syöttämää materiaalia tekoälyn kouluttamiseen.
   • Riski: Kustantajan tekijänoikeuden alaista materiaalia voi päätyä luvattomaan jatkokäyttöön.
     
     
3. Tekoälypalveluiden sekavat nimikäytänteet
   • Sovelluskaupoissa on tarjolla lukuisia palveluita, joiden nimet ja logot ovat hyvin lähellä toisiaan. 
   • Luottavien toimijoiden tuotenimet: onko käytössä tietosuojattu yrityspalvelu vai tietosuojattomampi yksityiskäyttöön suunnattu palvelu. 
   • Microsoft ja Google ovat nimenneet suuren joukon palveluitaan nimellä “Copilot” tai "Gemini", eikä käyttäjä tunnista helposti nimen tai ulkoasun perusteella onko käytössä tietosuojattu yrityspalvelu vai tietosuojattomampi yksityiskäyttöön suunnattu palvelu. 
   • Vinkki: Tutustu oikean palvelun käyttöehtoihin huolellisesti!
     
     
4. Palautteen antaminen palveluntuottajalle
   • Palveluntarjoajat voivat käyttää asiakaspalautetta tekoälyn toimintojen parantamiseen. 
   • Jos oppilaat saavat antaa asiakaspalautetta, palveluntarjoaja saa tietoa, jota heille ei saa oppilaista luovuttaa. (palveluntarjoajasta tulee rekisterinpitäjä)
   • Vinkki: Palautteenantamismahdollisuus voidaan usein järjestelmähallinnasta estää.
     
     
5. Tekoälyn chatin Vuorovaikutushistorian säilytysaika 
   
   • Riski: Esim. Microsoft Copilotissa oletuksena vuorovaikutushistoria on tallessa 18 kk. Jos keskusteluissa on käsitelty henkilötietoja, niin ne säilyvät poikkeuksellisen pitkään, ilman että käyttäjä välttämättä sitä edes tiedostaa.
   • Vinkki: Säilytysaikaa voi usein järjestelmänhallinnan kautta lyhentää.
     
     
6. Tekoälyn lupa hyödyntää hakukonetta vastausta prosessoidessaan
   • Tekoälypalvelut voivat tehdä verkkohakuja parantaakseen vastaustensa laatua. Nämä haut voivat tahattomasti paljastaa yksityisiä tietoja, jos tekoäly sisällyttää syötteeseen sellaisia asioita keskustelusta, joita ei ole tarkoitettu julkisiksi. 
   • Vinkki: Toiminnon voi järjestelmähallinnasta estää. Tämä voi vaikuttaa vastausten laatuun.
     
     
7. Käsittelyn läpinäkyvyys
   • Käsittelyn läpinäkyvyys tarkoittaa, että on kerrottava selkeästi ja ymmärrettävästi, mitä tietoja kerätään, mihin niitä käytetään, kuinka pitkään niitä säilytetään ja miten niitä suojataan.
   • Tekoälypalvelut käsittelevät usein henkilötietoja, esimerkiksi keskusteluhistorian tai käyttäjäprofiilien muodossa. On tärkeää, että käyttäjät ymmärtävät, miten näitä tietoja kerätään ja käytetään.
   • Vinkki: Minimivaatimus tiedottamisesta on tietosuojaselosteet eri käyttäjäryhmille.
     
     
8. Diagnostiikkatiedot
   • Lähes kaikki isot toimija keräävät diagnostiikkatietoja palvelun kehittämiseksi. Teknisesti ottaen palveluntarjoaja on näiden tietojen osalta rekisterinpitäjä eli henkilötietojen omistaja. 
   • Huomio: Käytännössä diagnostiikkatietojen keräämiseen ei käyttäjänä voi vaikuttaa. Järjestelmätasolla voidaan joissakin tilanteessa tehdä rajoituksia.
     
     
9. Yksityisyydensuojan tai sähköisen viestinnän luottamuksellisuuden vaarantuminen
   • Moni ympäristö mahdollistaa käyttäjän tarkkailun sekä teknisen valvonnan. Käytännössä järjestelmänvalvojan on teknisesti mahdollista, asetuksista riippuen, lukea käyttäjän tekoälyn kanssa käymät keskustelut.
   • Vinkki: Pienennä riskiä tarkalla tunnushallinnalla rajaamalla turhat oikeudet pois. Oletusarvoisesti järjestelmänvalvojan pääsy käyttäjien vuorovaikutushistoriaan tulee kytkeä pois päältä.
     
     
10. “Väärät vastaukset”
    • Tekoälypalvelut eivät ole läpinäkyviä käytetyn koulutusdatan eikä datan prosessoinnin suhteen. Vastaukset voivat olla epätarkkoja, virheellisiä tai vanhentuneita.
    • Riskiä voidaan pienentää käyttäjien kouluttamisella tekoälyn oikeaoppisessa käytössä.
    • Vinkki: Muodostakaa tekoälyn käyttöön pilottiryhmä ja tukekaa pilottiryhmän aktiivista sisäistä dialogia.
      
      
11. Henkilötietojen siirtyminen ETA-alueen ulkopuolelle
    • Jos käytössä oleva tekoälypalvelu siirtää tietoja Euroopan ulkopuolelle (esim. Yhdysvaltoihin), on tärkeää varmistaa, että palveluntarjoajalla on Data Privacy Framework -sertifiointi. 
      
      
12. Suurten yhtiöiden vakioehdot
    • Jos kunta käyttää palvelua, joka käsittelee henkilötietoja (esim. nimet, osoitteet, sähköpostit), sen on tehtävä palveluntarjoajan kanssa tietojenkäsittelysopimus (DPA). Sopimuksessa määritellään tietojenkäsittelyn laajuus ja ehdot.
    • Lähes kaikki tekoälypalvelut käsittelevät henkilötietoja, joten kunnan tulee tehdä sopimus palveluntarjoajan kanssa (esim. Google tai Microsoft).
    • Tietojenkäsittelysopimukset ovat suurilla yrityksillä määritelty kaikille samoiksi, eikä niihin ole mahdollista saada asiakaskohtaisia muutoksia: “Ota tai jätä”.
      
13. Käyttötarkoitussidonnaisuus ei toteudu
    
    • Henkilötiedot on kerättävä tiettyä nimenomaista laillista tarkoitusta varten, eikä niitä saa käsitellä myöhemmin näiden tarkoitusten kanssa yhteensopimattomalla tavalla.
    • Esimerkki: Oppilas on palauttanut aineen Classroomiin. Tiedosto tallentuu automaattisesti opettajan Drive-kansioon. Opettajalla on käytössä Driveen integroitu tekoälypalvelu Google Gemini. Tekoäly voi hyödyntää oppilaan palauttamaa aineistoa esimerkiksi uuden opetusmateriaalin tekemiseen. 
    • Vinkki:  Opettaja pienentää riskiä poistamalla omat kopiot oppilastöistä.
    • Vinkki:  Selvitä, voiko järjestelmätasolla estää tekoälyä käsittelemästä tiettyjä kansioita. 
      
      
14. Käyttöoikeushallinnan ajantasaisuus
    • Työntekijän vaihtaessa tehtävää, käyttöoikeudet eivät aina päivity, jolloin hänelle voi jäädä oikeuksia tietoihin, joihin hänellä ei enää tulisi olla pääsyä.Tämä mahdollistaa luvattoman pääsyn tietoihin ja jopa tietojen luvattoman käytön. Toimisto-ohjelmiin kytkeytyvä tekoäly pääsee käsiksi samoihin tietoihin, joihin työntekijällä on pääsy.