Pomoč ljudem pri samozavestni, kritični in varni interakciji s sistemi umetne inteligence

Ljudje se lahko varno peljejo do želenega cilja, če upoštevajo prometne predpise in dogovorjena pravila ravnanja, ne da bi nujno vedeli, kako deluje avtomobilski motor. Sedaj uporabimo isto analogijo, ko razmišljamo o tem, kako ljudje sodelujejo s sistemi umetne inteligence, kot so digitalni pomočniki, ki uporabljajo prepoznavanje glasu, ali algoritmi, ki nas vodijo do naslednjega filma, ki si ga bomo ogledali.

Namen nove posodobitve DigComp 2.2 je uporabnikom zagotoviti osnovno znanje o tem, kaj sistemi UI počnejo in česa ne počnejo, ter uvesti nekaj osnovnih načel, ki jih je treba upoštevati pri interakciji s sistemi UI. To lahko državljanom pomaga, da postanejo bolj samozavestni, kritični in hkrati odprti uporabniki današnjih tehnologij, hkrati pa pomaga zmanjšati tveganja, povezana z varnostjo, osebnimi podatki in zasebnostjo.

UI je povsod, vendar ali se je zavedamo? 

Številne vsakdanje tehnologije uporabljajo in vključujejo določeno vrsto umetne inteligence. Umetno inteligenco lahko na primer uporabimo za pretvorbo glasovnih ukazov v konkretno dejanje - na primer klicanje ali prižiganje luči. Ljudje se pogosto ne zavedajo, da takšni sistemi zbirajo osebne podatke o uporabniku in njegovih dejanjih, in se ne zavedajo, kako se ti podatki lahko uporabijo v številne namene (npr. za urjenje novih algoritmov umetne inteligence, izmenjavo podatkov s tretjimi osebami). To seveda prinaša vrsto pomislekov glede zasebnosti ali varnosti.

Posodobitev DigComp 2.2 vključuje dodatek z več kot 70 primeri, ki lahko ljudem pomagajo bolje razumeti, kje in v katerih situacijah v vsakdanjem življenju lahko pričakujejo srečanje s sistemi umetne inteligence. V njem so navedeni tudi praktični primeri načinov, kako nastajajoče tehnologije prodirajo v naše vsakdanje življenje. 

Kako nam lahko DigComp 2.2 pomaga razumeti sisteme umetne inteligence? 

V tej najnovejši posodobitvi okvira so navedene tri vrste primerov, ki pomagajo razumeti, kaj sistemi umetne inteligence počnejo - in česa ne: 

• Primeri znanja se osredotočajo na dejstva, načela in prakse. Samozavestno in varno sodelovanje s sistemi UI pomeni zavedanje, kako iskalniki, družbeni mediji in vsebinske platforme uporabljajo algoritme UI za ustvarjanje odzivov, ki so prilagojeni željam posameznega uporabnika (ta številka vam pomaga, da jo najdete v publikaciji: AI 03, stran 78).
• Primeri spretnosti, ki se osredotočajo na sposobnost uporabe znanja pri interakciji s sistemi umetne inteligence. To pomeni, da znajo spremeniti uporabniške konfiguracije (npr. v aplikacijah, programski opremi, digitalnih platformah), da omogočijo, preprečijo ali omejijo sledenje, zbiranje ali analiziranje podatkov s strani sistema UI (na primer izklop sledenja lokaciji na naših telefonih itd.). (AI 35, stran 80.) 
• Primeri naravnanosti so povezani s človekovim delovanjem in nadzorom ter kažejo na naravnanost ali miselnost za delovanje. To pomeni, da smo odprti za sisteme umetne inteligence, ki podpirajo ljudi pri sprejemanju informiranih odločitev v skladu z njihovimi cilji (npr. uporabnik se aktivno odloči, ali bo ukrepal na podlagi priporočila ali ne). 

Vsi primeri so povezani z obstoječimi kompetencami DigComp z idejo, da bodo oblikovalcem izobraževalnih programov in izvajalcem usposabljanja pomagali osvežiti vsebine usposabljanja ter bolje ponazoriti uporabo in vključevanje novih tehnologij v vsakdanjem življenju. 

Pridobivanje samozavesti za spopadanje z lažnimi novicami in dezinformacijami

Nove teme v posodobitvi se dotikajo aktualnih pojavov, ki pogosto krepijo dezinformacije na platformah družbenih medijev, kot so filter-bubbles (pristranskost, ki jo povzroči algoritem, ki omejuje informacije, ki jih uporabnik vidi na podlagi njegovih prejšnjih dejavnosti) in echo chambers (razmere, v katerih uporabniki prejemajo spletne informacije, ki krepijo njihova obstoječa stališča, ne da bi se srečali z nasprotnimi pogledi). Primeri ponazarjajo tudi globoke ponaredke in druge avtomatizirane oblike vsebin, ki jih ustvarja umetna inteligenca. 

Osredotočajo se tudi na pomisleke glede zasebnosti pri sodelovanju s sistemi umetne inteligence, ki lahko osebne podatke delijo s tretjimi osebami, in izpostavljajo osnovna vprašanja, ki jih moramo zastaviti, preden aktiviramo programsko opremo za prepoznavanje obrazov ali digitalnega pomočnika na telefonu. 

Namen primerov DigComp 2.2 o interakciji ljudi s sistemi umetne inteligence je prikazati podobo današnjega sveta in pomagati ljudem, da samozavestno, kritično in varno sodelujejo z vsakdanjimi tehnologijami, zlasti tistimi, ki jih poganja umetna inteligenca. Drugi cilj je opolnomočiti državljane, da bi bolje nadzorovali svoje vseživljenjsko učenje, da bi bili obveščeni o sistemih UI in o tem, kar imenujemo "datafikacija" vseh vidikov našega življenja. Nenazadnje je eden od ciljev tudi pomagati ljudem pri orientaciji v etičnih vprašanjih, povezanih z digitalnimi praksami - kot je vprašanje človekove avtonomije, ki je temelj številnih vrednot EU. Ti cilji podpirajo tudi akcijski načrt Evropske komisije za digitalno izobraževanje, katerega namen je izboljšati digitalne spretnosti in kompetence državljanov za digitalno preobrazbo. 

Celotno poročilo si lahko preberete tukaj. 

V okviru DEAP se bodo v prihodnje izvajala tudi naslednja dela: 

• Smernice za izobraževalce o etičnem obravnavanju umetne inteligence in podatkov
• Sprejetje predloga priporočila Sveta o izboljšanju zagotavljanja digitalnih spretnosti v izobraževanju

O avtorju 

Dr. Vuorikari je vodilni raziskovalec projekta DigComp 2.2. Pri svojem delu se osredotoča na razvijanje boljšega razumevanja znanja, veščin in stališč, ki državljanom pomagajo samozavestno, kritično in varno sodelovati z digitalnimi tehnologijami, vključno s sistemi umetne inteligence. Skupnemu raziskovalnemu središču (JRC) Evropske komisije se je pridružila julija 2013 in bo delovala do avgusta 2022. Ima diplome s področja izobraževanja (magisterij znanosti leta 1998 na Finskem), hipermedijev (DEA leta 1999 v Franciji), doktorirala pa je leta 2009.

O JRC

Skupno raziskovalno središče je služba Komisije za znanost in znanje. Skupno raziskovalno središče zaposluje znanstvenike, ki izvajajo raziskave za zagotavljanje neodvisnega znanstvenega svetovanja in podpore EU. Znanstveno središče EU je glavno spletno mesto Skupnega raziskovalnega središča.