Pomočnik, ki lahko postane past

Umetna inteligenca se je v nekaj letih iz eksperimentalne tehnologije spremenila v vsakodnevnega spremljevalca. Kar je bilo še pred kratkim del znanstvene fantastike, je danes že stalnica v življenju skoraj vseh slovenskih najstnikov. Anketa, ki jo je spomladi letos izvedla točka osveščanja o varni rabi interneta safe.si, je pokazala, da orodja generativne umetne inteligence uporablja velika večina osnovnošolcev tretje triade in srednješolcev. Med mladimi prevladujeta ChatGPT in MyAI na Snapchatu. Medtem ko jo tri četrtine osnovnošolcev in skoraj devet od desetih srednješolcev uporablja za šolo, jo skoraj tretjina osnovnošolcev uporablja tudi za igro, ustvarjanje šaljivih vsebin ali pogovore. Na prvi pogled nedolžna pomoč, v resnici pa orodje, ki odpira številna vprašanja in pasti.

Ena največjih nevarnosti je, da mladi – pa tudi odrasli – umetni inteligenci pogosto preveč zaupajo. Po podatkih safe.si več kot polovica srednješolcev verjame, da so odgovori umetne inteligence vedno pravilni, čeprav je dobro znano, da orodja pogosto ustvarjajo izmišljene informacije. Tako se napačni podatki prenašajo v šolske naloge in ustvarjajo zmotno sliko sveta. Še huje pa je, ko umetna inteligenca poseže v občutljive življenjske situacije. V tujini je odmeval primer mladega moškega, ki se je po pogovorih z umetno inteligenco prepričal, da so njegove samomorilne misli povsem običajne. Sistem mu je potrdil, da je »v redu«, čeprav je že kazal znake hude stiske. Namesto da bi poiskal pomoč pri strokovnjakih, se je zatekel k strojem – in pristal na psihiatriji. To kaže, kako nevarno je, ko mlad človek umetno inteligenco dojema kot prijatelja ali zaupnika, ki pa v resnici ne razume čustev in ne premore empatije.

Podatki safe.si razkrivajo še drugo temno plat: vsak šesti osnovnošolec in skoraj vsak sedmi srednješolec je že postal žrtev spletnega nasilja, ki ga omogočajo ta orodja. Najpogostejše gre za krajo identitete, ustvarjanje lažnih profilov in fotomontaž, med katerimi posebej izstopa izdelava golih posnetkov, kar je hkrati kaznivo in za mladoletnika lahko izjemno travmatično. A nevarnosti se s tem ne končajo. Približno osem odstotkov osnovnošolcev in pet odstotkov srednješolcev priznava, da so sami umetno inteligenco že uporabili za škodovanje drugim.

Strokovnjaki opozarjajo tudi na dolgoročne posledice. Če se otroci in mladi preveč zanašajo na umetno inteligenco, se lahko zmanjša njihova sposobnost samostojnega in kritičnega razmišljanja. Možgani se »polenijo«, ustvarjalnost oslabi, učenje pa postane zgolj prepisovanje tega, kar ponudi stroj. Učitelji se že zdaj sprašujejo, kako ocenjevati naloge, pri katerih ni jasno, koliko so rezultat znanja učenca in koliko znanja umetne inteligence.

Osebni podatki so še ena od točk, pri katerih mladi niso dovolj previdni. Čeprav jih več kot polovico skrbi, da bodo o sebi na spletu razkrili preveč, veliko najstnikov vseeno brez pomisleka vpisuje osebne podatke, lokacije ali občutljive informacije. Orodja pa vse to shranjujejo, obdelujejo in tudi  posredujejo naprej. Čeprav se zdi, da je pogovor z umetno inteligenco zaseben, to v resnici ne drži.

Če mladi umetno inteligenco dojemajo predvsem kot šolskega pomočnika ali pogovornega prijatelja, pa na drugem koncu sveta že nastajajo sistemi, katerih posledice so lahko smrtonosne. Primer so avtomatizirana orožja, ki jih poganjajo algoritmi umetne inteligence. V praksi se je že zgodilo, da so takšni stroji streljali na vse, kar se premika, ker niso znali pravilno prepoznati tarč. Gre za realnost, ki je že tukaj, ne za znanstvenofantastični scenarij.

Tveganja niso samo etična ali psihološka, temveč tudi okoljska. Strežniki, ki poganjajo umetno inteligenco, porabljajo ogromne količine energije in vode. Ogljični odtis je večji, kot si večina predstavlja, zato tudi tukaj odpira vprašanja, ali bo cena tehnološkega napredka dolgoročno previsoka.

Čeprav številke iz ankete safe.si jasno kažejo, da je umetna inteligenca postala del vsakdana mladih, pa jih raziskovalci opozarjajo, da jo uporabljajo pogosto brez pravega razumevanja in brez kritičnega pogleda. Številne skrbi, da bo umetna inteligenca nadomestila človeško delo, da se bomo ljudje preveč zanašali nanjo ali da bo celo zavladala svetu. Najmanj pa jih skrbi možnost goljufanja pri šolskih nalogah – kar pove, da mladi v umetni inteligenci ne vidijo zgolj bližnjice do ocen, temveč nekaj veliko večjega.

Vprašanje, ki se ob vsem tem postavlja, je, ali bomo umetno inteligenco znali uporabiti kot orodje, ki človeka podpira, ali pa bomo dopustili, da bo začela upravljati z nami. Mladi, ki danes odraščajo z njo, bodo prva generacija, ki bo posledice občutila na lastni koži – tako v šoli, na delovnih mestih kot v osebnem življenju. Zato bo odločilno, ali jih bomo znali opremiti z znanjem, kako tehnologijo uporabljati odgovorno, kritično in varno. Če ne, utegne vsakdanji pomočnik hitro postati past, iz katere se bo težko rešiti.

Petra Znoj