Amerikkalainen psykologiliitto (APA) on julkaissut merkittävän terveysvaroituksen, jossa tuodaan esiin sekä tekoälyn tarjoamat mahdollisuudet että riskit nuorten kehitykselle ja hyvinvoinnille.
Raportti, jonka nimi on "Tekoäly ja nuorten hyvinvointi: APA:n terveysneuvonta", painottaa, ettei tekoäly itsessään ole luontaisesti hyvä tai paha, vaan sen turvallinen käyttö edellyttää harkittua toteutusta. APA:n psykologian johtaja tohtori Mitch Prinstein, joka johti raportin laatimista, toi esiin huolestuttavia tapauksia, joissa nuoret ovat muodostaneet mahdollisesti vaarallisia suhteita tekoälykeskustelurobotteihin – joskus edes tiedostamatta, että kyseessä ei ole ihminen.
"Olemme jo nähneet tapauksia, joissa nuoret ovat kehittäneet epäterveitä ja jopa vaarallisia suhteita keskustelurobotteihin", Prinstein selittää. "Kaikki nuoret eivät edes tiedä keskustelevansa tekoälyn kanssa, minkä vuoksi on ensiarvoisen tärkeää, että kehittäjät asettavat turvatoimet paikoilleen nyt."
Neuvonnassa esitetään useita keskeisiä suosituksia, kuten terveiden rajojen luominen simuloituihin ihmissuhteisiin, ikätasoisten oletusasetusten käyttö tietosuoja-asetuksissa, pääsyn rajoittaminen haitalliseen sisältöön sekä nuorten tietosuojaa koskevien oikeuksien turvaaminen. Raportissa vaaditaan erityisesti läpinäkyvyyttä, ihmisen valvontaa sekä perusteellista testausta tekoälyjärjestelmille, jotka ovat vuorovaikutuksessa nuorten kanssa.
Toisin kuin aikuiset, nuoret kyseenalaistavat harvemmin tekoälyjärjestelmien tarjoaman tiedon paikkansapitävyyttä ja tarkoitusperiä, mikä tekee heistä erityisen alttiita manipuloinnille. Neuvonnassa korostetaan, että oikein suunniteltuna tekoäly voi tarjota arvokkaita opetuksellisia hyötyjä, kuten auttaa ideoinnissa, luomisessa ja tiedon jäsentämisessä – kaikki nämä voivat parantaa oppimista ja tiedon omaksumista.
APA:n raportti kehottaa sidosryhmiä ottamaan opiksi sosiaalisen median aikaisista virheistä, joissa turvallisuusnäkökohdat huomioitiin usein vasta laajan käyttöönoton jälkeen. "On ratkaisevan tärkeää, ettemme toista samoja haitallisia virheitä kuin sosiaalisen median kanssa", raportissa todetaan ja suositellaan kattavan tekoälylukutaidon sisällyttämistä opetussuunnitelmien ytimeen kansallisten ja osavaltioiden ohjeiden mukaisesti.
Tekoälyn juurtuessa yhä tiiviimmin arkeen tämä tutkimus on ajankohtainen toimintakehotus kehittäjille, kasvattajille, päättäjille ja vanhemmille tehdä yhteistyötä turvallisemman digitaalisen ympäristön luomiseksi nuorille, jotka navigoivat tekoälypohjaisessa maailmassa.