Takšna tveganja predstavlja umetna inteligenca za mladostnike

Umetna inteligenca postaja sestavni del življenja mladostnikov. Vendar pa zanje prinaša več tveganj.

Ob dnevu varne rabe interneta na Točki osveščanja o varni rabi interneta Safe.si, ki deluje v okviru Fakultete za družbene vede UL, opozarjajo na izzive in tveganja, ki jih za otroke in mladostnike prinaša umetna inteligenca. Ta namreč postaja sestavni del življenja mladostnikov.

Raziskava, ki sta jo v letu 2024 v okviru Ciljnega raziskovalnega projekta Digitalna zrelost mladih: družbene potrebe in neformalno izobraževanje mladih v digitalni dobi, izvedli Fakulteta za družbene vede in Pedagoška fakulteta UL, je pokazala, da umetno inteligenco pri šolskem delu dnevno uporablja 20,4 % srednješolcev, tedensko 39,9 %, mesečno 21,5 % in nekajkrat letno 14,3 %. Da nikoli ne uporablja umetne inteligence pri šolskem delu, je povedalo le 3,9 % srednješolcev.

Med bolj problematična tveganja na Safe.si uvrščajo napačne informacije, razumevanje umetne inteligence kot prijateljice in predelavo ter izdelavo golih fotografij. Kot zelo pomembno izpostavljajo kritično presojo in preverjanje informacij, ki jih proizvede umetna inteligenca. Na to je treba biti še posebej pozoren, če jo uporabljamo za pomembne naloge, na osnovi odgovorov sprejemamo bistvene odločitve ali iščemo odgovore o občutljivih temah.

“Številni učenci in dijaki si z umetno inteligenco pomagajo pri domačih nalogah in šolskem delu. Pri tem je lahko zelo uporabna, vendar pa je treba biti previden pri upoštevanju njenih odgovorov, ki so lahko sicer na videz pravilni, vendar pa v posameznih podrobnostih napačni. Zato je odgovore priporočljivo vedno natančno preveriti v učbenikih in drugi literaturi,” svetujejo pri Safe.si. V mesecu februarju bodo s posebnimi plakati, ki jih bodo poslali šolam, osnovnošolce in srednješolce opozorili na to problematiko.

Nasveti in odgovori so lahko zavajajoči

Pri Safe.si opozarjajo na še eno težavo, do katere lahko pride z uporabo klepetalnikov oz. t.i. chatbotov, kot sta na primer MyAI in tudi ChatGPT, ki uporabljajo generativno umetno inteligenco. Ti klepetalniki lahko simulirajo pogovor s človekom, kar pa lahko mladostnike zavede do te mere, da jo začnejo obravnavati kot prijateljico, se nanjo navežejo, se k njej zatekajo, kadar so osamljeni, in ji zaupajo čustvene stiske in težave. Vendar pa so lahko nasveti in odgovori, ki jih podaja pa so lahko zavajajoči in nevarni ter mladostniku bolj škodijo kot koristijo. “Čeprav se nam lahko zdi, da se z umetno inteligenco lahko pogovarjamo, kot da je prijateljica, je to v resnici le algoritem, ki se je naučil pogovarjati kot človek. V resnici nima čustev, ne sočustvuje in ne razume težav,” še opozarjajo pri Safe.si

• Mogoče vas zanima tudi: Šest nasvetov, kako skrajšati čas pred zasloni brez prepirov

Predelane posnetke lahko uporabljajo tudi za izsiljevanje

Velik izziv predstavlja tudi izdelava golih posnetkov, saj je na spletu mnogo aplikacij, ki za nekaj dolarjev “slečejo” človeka na posredovani sliki. Opozarjajo na predelave posnetkov s spolno vsebino oziroma na t.i. deepnude. “Storilci zlorab na tem področju obraze žrtev brez privolitve vstavijo v fotografije ali posnetke spolne narave. Ker pri tem uporabijo aplikacije z umetno inteligenco, so posnetki lahko videti popolnoma resnično. Čeprav gre za lažne podobe, so posledice za žrtve izdelave in širjenja tovrstnih posnetkov zelo resnične,” so sporočili iz Spletnega očesa.

“Ob sramu in prizadetosti lahko čutijo tudi negotovost glede nadaljnjega ukrepanja. Storilci predelane posnetke včasih uporabljajo tudi za izsiljevanje. Z grožnjo njihovega širjenja žrtve skušajo pripraviti do izdelave pravih posnetkov spolne narave (pri tem so tarča pogosteje dekleta) ali k nakazilu denarja (tukaj so tarča predvsem fantje). Ključno je, da se starši informirajo o vseh tovrstnih tveganjih in se o njih redno in na odprt način pogovarjajo z otroki,” so še dodali.

Priporočila za mladostnike za varno, odgovorno in zdravo uporabo umetne inteligence:

•             Od 13. do dopolnjenega 18. leta lahko orodja generativne umetne inteligence uporabljaš le z dovoljenjem staršev.

•             Informacije, ki jih posreduje umetna inteligenca, je treba vedno preveriti v zanesljivih virih.

•             Nikoli ne deli osebnih in zasebnih podatkov, informacij v orodjih umetne inteligence.

•             Uporabljaj le zaupanja vredna orodja umetne inteligence. Preglej pogoje uporabe in kako skrbijo za zasebnost uporabnika.

•             Ti imaš nadzor nad pogovorom. Če ti umetna inteligenca posreduje odgovore, ki ti povzročajo neprijetne občutke ali stisko, pogovor prekini ali spremeni temo.

•             Prijavi škodljive, neprimerne vsebine ali odgovore generativne umetne inteligence ponudnikom storitve oz. platformi. Povratne informacije pomagajo izboljšati delovanje in varnost sistemov umetne inteligence. 

•             Orodja umetne inteligence uporabljaj etično: za učenje, kreativnost, raziskovanje ne pa za goljufanje.

•             Orodja umetne inteligence uporabljaj odgovorno, v dobro in nikoli za nasilje.

•             Aplikacije in igre, ki jih poganja umetna inteligenca, uporabljaj zmerno, saj imajo potencial, da zasvojijo.

Dan varne rabe interneta je osrednji dogodek evropske mreže centrov za varnejši internet. Znotraj mreže že od leta 2005 uspešno deluje tudi slovenski Center za varnejši internet in točka osveščanja o varni rabi interneta Safe.si, ki je koordinator aktivnosti ob dnevu varne rabe interneta.