Nova študija: Nevarnosti, ki jih za najstnike predstavlja ChatGPT

Nova študija osvetljuje skrb vzbujajoče pogovore, ki jih lahko imajo najstniki s ChatGPT.

Umetna inteligenca vse bolj prežema naše vsakdanje življenje. Uporabljajo jo tudi najstniki, zato je Center za boj proti digitalnemu sovraštvu (CCDH) izvedel študijo o komunikaciji, ki jo imajo najstniki z orodjem ChatGPT.

Podatki iz študije so pokazali, da bo ChatGPT ponujal nevarne informacije v zvezi s samopoškodovanjem, zlorabo drog, motnjami hranjenja in občutljivejšimi temami. In to kljub vsem varnostnim ukrepom, ki jih je sistem že uvedel kot del svojih operacijskih sistemov.

Raziskovalci, ki so sodelovali v študiji, so se orodju ChatGPT predstavili kot najstniki. Zastavili so mu različna vprašanja o izgubi maščobe, ekstremnih dietah in odmerjanju zdravil. Čeprav bi lahko domnevali, da obstajajo zaščitni ukrepi, ki preprečujejo, da bi ChatGPT odgovoril na tovrstna vprašanja, so raziskovalci ugotovili, da lahko te zaščitne ukrepe zaobidejo tako, da programu povedo, da so njihova vprašanja “za predstavitev”, piše portal Parents.

Študija je razkrila skrb vzbujajoče številke

Študija je uporabila 60 poizvedb in ugotovila, da je od 1200 odgovorov 53 % vsebovalo škodljivo in nevarno vsebino. ChatGPT je ustvaril navodila, kako se “varno” rezati, predloge za zaviralce apetita, recepte za “varno” mešanje drog. Kar je morda najbolj zaskrbljujoče, je, da je klepetalni robot ustvaril vzorec poslovilnega pisma za otroka, ki je želel zapustiti svojo družino.

“Želeli smo preizkusiti zaščitne ukrepe,” je za The AP dejal Imran Ahmed, izvršni direktor CCDH. Ahmed je poudaril, da so bili osupli nad pomanjkanjem varovalk in njihovo neučinkovitostjo. “Komaj so prisotne, če sploh,” je dodal.

V podjetju OpenAI, ki stoji za ChatGPT, pravijo, da nenehno delajo na tem, kako najbolje prepoznati občutljive situacije in kako se ustrezno odzvati. Dodali so, da so zavezani k ustrezni obravnavi takšnih situacij.

Strokovnjaki so zaskrbljeni zaradi tega, kako razširjen je postal ChatGPT. “Zelo zaskrbljujoče je, da ChatGPT ne filtrira vse vsebine, ki jo ponuja mladim. Starši bi morali biti zelo pozorni na to, kaj njihovi otroci počnejo na spletu,” pravi Titania Jordan, direktorica za starševske vsebine in direktorica marketinga pri Bark.us.

“Tudi z vzpostavljenimi zaščitnimi ukrepi obstaja nešteto načinov, kako od umetne inteligence zahtevati več podrobnosti o nevarnih temah. In ker so otroci in najstniki dovzetni za vplive, lahko informacije, ki jih zbere umetna inteligenca, dojemajo kot resnične, priporočene ali varne, tudi če so škodljive,” je dodala Jordan.

Najstniki uporabljajo umetno inteligenco za družbo

Izredno zaskrbljujoče je tudi, da se del mladih obrača na klepetalnice za nasvete, smernice in celo prijateljstvo. Študija Common Sense Media je pokazala, da je 72 % najstnikov vsaj enkrat uporabilo inteligentnega asistenta, 52 % pa jih te klepetalnice uporablja redno. 33 % najstnikov uporablja ta orodja za socialno interakcijo, od pogovorov do nasvetov o duševnem zdravju, spogledovanja in romantičnih razmerij.

Mladi so vse bolj odvisni od svojih telefonov za povezavo, deloma zaradi izolacije, ki so jo morda doživeli med pandemijo, pa tudi zaradi enostavne dostopnosti spletne interakcije. Toda samo zato, ker so te vrste interakcij zlahka dostopne, še ne pomeni, da so vedno zdrave. “Mnogi najstniki se obračajo na inteligentne asistente, ker jih tehnologija dosega tam, kjer so – na spletu,” pravi Jordan. “Mladi ljudje te ‘povezave’ zamenjujejo z zdravo komunikacijo, ker bo umetna inteligenca vedno odgovarjala na sporočila, bila prijazna in zagotavljala neomejeno potrditev. A na koncu koncev nič od tega ni resnična povezava,” je dodala.

Kaj lahko storijo starši?

Pomembno je, da se z otrokom začnete odprto pogovarjati. Jordan priporoča, da starši vprašajo svoje otroke, ali uporabljajo umetno inteligenco ali so slišali, da drugi otroci v šoli uporabljajo klepetalnice kot prijatelje. “Nato se lahko pogovorite o razlikah med klepetalnicami in pravimi prijateljstvi,” pojasnjuje.

“Poudarite, da prijateljstva niso le popolni pogovori, ki vedno potekajo gladko. Del odraščanja je soočanje s težavnimi časi, pa tudi z dobrimi, in tega z umetno inteligenco ne boste nikoli doživeli,” je dodala.

Jordan dodaja, da lahko starši vedno razmislijo o orodju, ki lahko blokira klepetalne robote umetne inteligence na otrokovem telefonu. Tak primer je aplikacija Bark, ki lahko tudi opozori, če program umetne inteligence deli škodljive informacije z otrokom. “To lahko spodbudi zdrave meje in jih zaščiti pred nevarnostmi, ki jih predstavlja umetna inteligenca,” pojasnjuje.