Slovenija - Umetna inteligenca

Kaj sploh je umetna inteligenca? Čeprav še vedno nismo prišli do skupnega soglasja o definiciji umetne inteligence obstajajo številne različne definicije umetne inteligence, ki bolj ali manj uspešno opisujejo pojem umetne inteligence. Prvo definicijo je v letu 1956 skoval oče umetne inteligence profesor John McCarty, ki se v prevodu glasi: »Študij naj bi temeljil na domnevi, da je mogoče vsak vidik učenja ali katerokoli drugo značilnost inteligence načeloma tako natančno opisati, da je mogoče na podlagi študije narediti stroj, ki to značilnost simulira.« Pogosto pa se umetno inteligenco definira kot pod domeno računalništva. Oxfordov angleški slovar jo denimo definira kot: »Teorijo in razvoj računalniških sistemov, ki imajo sposobnost opravljati naloge, ki zahtevajo človeško inteligenco. Kot so npr. vizualno zaznavanje, prepoznavanje govora, odločanje in prevajanje med jeziki.« Omeniti moramo še definicijo Organizacija za ekonomsko sodelovanje in razvoj (angl. Organisation for Economic Co-operation and Development, OECD), ki umetno inteligenco definira na razdelitvi umetne inteligence na manjše obvladljive in smiselne dele, ključne za razumevanje področja.

Umetno inteligenco se pogosto prikazuje zelo polarno, v zelo pozitivni ali pa zelo negativni luči. Vendar so pozitivni ali negativni učinki njene uporabe bolj odvisni od konteksta in namena same uporabe umetne inteligence. A še tako skrben razvoj tehnologije se lahko izjalovi in nastali rezultati postanejo neuporabni, smešni ali celo škodljivi. Če omenimo le nekaj primerov zbranih v primerih pozitivnega in negativnega delovanja umetne inteligence predstavljenih na spletni strani Digitalnega inovacijskega stičišča Slovenije. Napake v delovanju odločitvenih algoritmov umetne inteligence, ko se algoritmi odločajo pristransko zaradi zavedno ali pogosto nezavedno vgrajenih pristranskosti v algoritme. Pogovorni roboti (angl. Chatbot), ki na podlagi učnih setov pričnejo komunicirati z rasističnimi toni. Napake pa so lahko tudi manj kritične, kot so bile v primeru netočnega delovanja Googlove Photo aplikacije pri izdelavi panoram. Popačene slike so bile zanimive, pogojno uporabne, a večinoma neškodljive.

V času predsedovanja Slovenije Svetu Evropske Unije smo v Digitalnem inovacijskem stičišču Slovenije organizirali serijo dogodkov, namenjenih predstavitvi področja umetne inteligence z različnih vidikov njene uporabe. Tekom dogodkov so številni ugledni tuji in domači gostje s kompetencami iz pravnega, poslovnega, tehničnega, raziskovalnega, regulativnega in etičnega področja podali svoje poglede na potrebe razvoja razumevanja delovanja umetne inteligence v prihodnosti. Dogodki so zajemali tematike industrija 4.0, mediji in analiza tekstovnih dokumentov, pametne skupnosti, slike, video, zvok. Naša želja je bila skozi dogodke posvečene umetni inteligenci izoblikovati večplastne smernice, ki naslavljajo tako stališče končnih uporabnikov, razvijalcev in stališče pravne stoke. Ob enem pa tudi nakazujejo smeri in potrebe po pridobitvi novih kompetenc.

Na dogodku posvečenemu zaupanju vredne umetne inteligence v Industrija 4.0 smo v uvodu predstavili nov dokument Evropske komisije, v katerem so navedeni pravni okviri za bodoče regulatorje in razvijalce sistemov umetne inteligence. Kot primer celostnega pristopa k urejanju upravljanja sistemov umetne inteligence smo si ogledali iniciativo Facebookovega projekta Open Loop. Kompleksnost uvedbe rešitev umetne inteligence v industriji 4.0 pa smo spoznali skozi primer podjetja Qlector.

Med poglavitnimi spoznanji dogodka so bili sledeči izvlečki:

• Regulativne aktivnosti zaostajajo za razvojem storitev in sistemov področja umetne inteligence. Med deležniki se mora vzpostaviti proces komunikacije.
• Podjetja in organizacije naj svoje rešitve umetne inteligence preverijo za razhajanje z obstoječimi regulativnimi okviri.
• Obvezna je opredelitev odgovornosti za razvoju in uporabi rešitev umetne inteligence. Ponovno se izpostavlja pomen komunikacije med deležniki.
• Razložljivost oz. razumevanje delovanja sistemov umetne inteligence je ključen za vpeljavo rešitev v poslovno-organizacijske procese.

Drugi dogodek je bil posvečen tematiki medijev in analizi tekstovnih dokumentov. Mediji so ena izmed panog, ki se močno naslanja na orodja umetne inteligence. Z orodji umetne inteligence je mogoče zaznavati povezanost objav, slediti njihovemu izvoru ali prepoznavati lažno ustvarjene novice. Z razvojem tehnologij lažne novice postajajo tako verodostojne, da jih običajni uporabniki le s težka prepoznajo kot lažne. Svoje poglavje je anonimizacija besedil v praksi. Orodja za umetno inteligenco anonimizirajo besedilo do mere, ko naj bile informacije o ljudeh anonimne. A jezikovna zgradba, in slovnica predstavljata veliko težavo za takšne sisteme. Zelo tanka je namreč meje med anonimiziranim tekstom in tekstom, ki ne nosi izvornega sporočila. Lep primer je uporaba orodij za anonimizacijo na sodiščih in sodnih tekstih.

Med poglavitnimi spoznanji dogodka so bili sledeči izvlečki:

• Sprejetja dogovora o stopnji oz. nivoju anonimizacije tekstovnih besedil, ko besedila še vedno podajajo vrednost končnemu uporabniku.
• Osveščanje o potrebah zavedanja in izobraževanja o različnih tipih lažnih novic, njihovem vplivu ter mehanizmih in tehnologijah njihovega delovanja.
• Ureditev pravil lastništva in avtorskih pravic različnih korpusov besedil v slovenskem jeziku za preizkušanje delovanje algoritmov anonimizacije.

Dogodek Pametne skupnosti: Kako jih umetna inteligenca naredi pametnejše? Je obravnaval tematiko izobraževanja in pridobivanja kompetenc razvijalcev kot tudi uporabnikov rešitev umetne inteligence. Na področju razvoja rešitev umetne inteligence je mogoče zaznati razkorak med razvijalci rešitev in pravniki. A njihov različen pogled vodi k skupnemu cilju varne uporabe rešitev umeten inteligence. Ob tem se moramo zadevati, da ima tudi Slovenija kar nekaj ljudi na ključnih položajih, ki imajo moč in zmožnost vpliva na razvoj storitev umetne inteligence.

Med poglavitnimi spoznanji dogodka so bili sledeči izvlečki:

• Pomembno je ustrezno nadgraditi izobraževanje razvijalcev, odločevalcev in uporabnikov AI. Pri čemer moramo ločiti izobraževanja o umetni inteligenci in izobraževanje podprto z umetno inteligenco.
• Premostiti moramo razkorak med razvijalci in uporabniki AI v smislu razumevanja delovanja in tudi posledic odločitev AI sistemov.
• Razvoj AI ni več zgolj tehnični izziv, zato je potreben holističen pristop različnih področij in profilov ljudi.
• V širši družbi obstaja izziv, da ne razumemo, kaj se dogaja s podatki, ki jih generiramo. Obstaja nevarnost, da se podatki uporabijo za preusmeritev krivde na končnega uporabnika.
• Trenutno pri pravnikih, odločevalcih in inženirji na področju AI obstaja prevelik razkorak med razumevanjem delovanja in implikacijami uporabe.

V sklopu dogodka Priložnosti in specifike upravljanja s sistemi umetne inteligence na temo slike, video in zvok pa smo preučevali stanje umetne inteligence na področju slik, zvoka in videa. Kot vsi sistemi, ki delujejo na podatkih potrebujejo tudi rešitve umetne inteligence kakovostne vhodne podatke. Pri pravnih vprašanjih o lastništvu in uporabi podatkov pa je potrebno poiskati fino mejo med potrebno regulativno zaščito in pretiranimi regulativnimi omejitvami. Saj je s tem omejena tudi konkurenčnost EU razvijalcev v primerjavi z razvijalci iz ZDA in Kitajske, ki delujejo v bolj sproščenih pravnih okvirih.

Med poglavitnimi spoznanji dogodka so bili sledeči izvlečki:

• Potrebno je zagotoviti, da so podatki vladnih agencij dostopni, primerni za strojno branje, dobre kvalitete in posodobljeni.
• Skrb za razvoj področja AI je treba nasloviti v luči situacije, da zakonodaja in strogost pri delu s podatki postavljata raziskovalce v neenakopraven položaj (EU v primerjavi z ZDA in Kitajsko).
• Slovenija kot država ima priložnost, da postane vodilna na področju razvoja storitev na nivoju države (digitalni dvojček države).
• V izobraževalne vsebine razvijalcev AI sistemov je treba vključiti tudi vsebine, ki bodo naslavljale potencialne pravne in etične težave pri uporabi AI sistemov. Izobraževalne vsebine, ki se dotikajo samega razvoja AI sistemov, so dobro naslovljene, medtem ko vsebine o potencialno škodljivi uporabi AI sistemov še niso sistemsko vključene.

Zaključni dogodek je povezal serijo vseh predhodnih dogodkov posvečenih umetni inteligenci v izvedbi Digitalnega stičišča Slovenije. Na dogodku smo želeli pridobiti pogled študentov različnih študijskih smeri na regulacijo umetne inteligence in potrebne kompetence bodočih strokovnjakov, ki se bodo z orodji umetne inteligence srečevali na dnevni ravni pri svojem delu. Študenti so z moderirano debato v skupinah razpravljali o področju varovanja zasebnosti, odgovornosti in transparentnosti delovanja sistemov umetne inteligence. Mag. Samo Zorc iz Ministrstva za digitalizacijo je v komentarju predstavitev rezultatov diskusije študentov izpostavil vzporednice s stališči odločevalcev o vprašanju umetne inteligence na državni in EU ravni.

Kot je bilo omenjeno predhodno, so smernice Digitalnega inovacijskega stičišča Slovenije večplastne, saj naslavljajo tako stališče končnih uporabnikov, razvijalcev in stališče pravne stoke. Podrobneje si poglejmo priporočila smernic, s katerimi smo v Digitalnem inovacijskem središču Slovenije naslovili potrebne kompetence in posledična znanja, katera moramo pridobiti vsi mi, kot aktivni udeleženci moderne družbe.

Področje umetne inteligence s svojim eksplozivnim razmahom v zadnjih letih dosega predhodno nesluteno uporabnost in številčnost rešitev na trgu. Kot je nenapisano zgodovinsko pravilo v času širokega in hitrega razmaha nove tehnologije pravni in regulatorni okviri pogosto zaostajajo za razvijalci storitev. Tako razvijalci kot uporabniki in pravni strokovnjaki morajo biti kompetentni v prepoznavanju omejitev in smiselni uporabi rešitev umetne inteligence v praksi. Vsi potrebujejo poglobljeno razumevanje obstoječih pravnih okvirjev in direktiv za razvoj in uvajanje umetne inteligence v poslovanje.

Uredba Evropskega parlamenta in Sveta v dokumentu o odločitvi harmoniziranih pravil o umetni inteligenci, znanem tudi kot Akt o umetni inteligenci  deli umetno inteligenco na 4 nivoje različnosti. Najnižji nivo rizičnosti predstavlja minimalno tveganje, najvišji nivo pa predstavlja nesprejemljiv nivo rizika. Poznavanje in razumevanje nivojev rizika je ključno za razvijalce rešitev umetne inteligence kot tudi za uporabnike storitev. Rešitve umetne inteligence velikokrat že vplivajo na življenja uporabnikov, občasno celo nevede. Zato morajo uporabniki pridobiti kompetence s katerimi bodo zmožni razumeti delovanje in vplive sistemov umetne inteligence na njihovo življenje ter ali njihov poseg predstavlja nespremenljiv novi rizika. Tukaj je naloga poslovnih subjektov, ki uporabljajo sisteme umetne inteligence v svojem poslovnem procesu, da opravijo proces samo-evalvacije nivoja rizičnosti uporabe sistemov umetne inteligence. Z vgraditvijo samo-evalvacije v poslovno-organizacijske procese bomo dosegli potrebno in zahtevano verigo odgovornosti deležnikov. Kot je bilo omenjeno že delno v predhodnih točkah smernic, je izjemnega pomena potreba po izobrazbi in informiranosti uporabnikov o omejitvah in predpostavkah modelov umetne inteligence, ki jih uporabniki uporabljajo. Le izobraženi in informirani uporabniki bodo sposobni opraviti kompetentno in pravilno odločitev pri presoji potencialno škodljivi uporabi modelov umetne inteligence.

Uporabniki, ki predstavljamo širšo javnost, smo tudi generator podatkov in ne le uporabniki storitev umetne inteligence. Tudi širšo javnost je potrebno izobraziti na področjih dovoljen in regulacije uporabe podatkov uporabnikov, naj si bodo to pozitivni ali pa negativni vplivi. Kritična skupina, katera mora dvigniti svoje kompetence na višjo ali pa recimo bolj celostno raven so razvijalci. V njihov izobraževalni sistem je potrebno vključiti širši etični pogled in možne implikacije nepravilnih ali »nepoštenih« določitev sistemov umetne inteligence (angl. faireness and make no harm). Njihovi delovni procesi moramo vsebovati tudi opis učnih podatkov, predpostavke, morebitne etične pomisleke. Nenazadnje pa ne smemo pozabiti še na razložljivost sistemov umetne inteligence in transparentnosti razvoja.

V stroki prevladuje prepričanje, da je potrebno izobraževanje o sistemih umetne inteligence vključiti že v program osnovnošolskega izobraževanja, znanje pa nadgrajevati tekom celotne šolskega procesa. Obstoječe in potencialne razkorake med vsemi deležniki sistemov umetne inteligence je mogoče premostiti le z odprtim in multidisciplinarnim dialogom. Pri dvigu kompetenc ima pomembno vlogo tudi država, saj s spodbujanje javno dostopnih servisov omogoča nadaljnji razvoj področja umetne inteligence. Javno dostopni servisi pridobivajo podatke iz podatkovnih zbirk vladnih agencij, ki morajo biti, kvalitetni, posodobljeni in dostopni ter v primerni obliki za strojno branje.