UMJETNU inteligenciju u svom radu koristi ili testira 50 institucija u Hrvatskoj, ali ne i Vlada, pokazalo je Gongovo istraživanje "AI u javnom sektoru: Kako Hrvatska koristi umjetnu inteligenciju", provedeno na 78 ključnih tijela javne vlasti. Od 50 institucija koje službeno koriste umjetnu inteligenciju, njih 26 odgovorilo je da nemaju interna pravila za njezinu primjenu, ističu u Gongu.

Istraživanje je provedeno slanjem zahtjeva za pristup informacijama putem Gongove digitalne platforme ImamoPravoZnati.org. Institucije su pitali koja rješenja umjetne inteligencije koriste ili testiraju, jesu li donijele posebna pravila za njezinu uporabu te imaju li pravila za zaposlenike o korištenju sustava generativne umjetne inteligencije.

Vlada i deset ministarstava ne koriste umjetnu inteligenciju

Istraživanje je pokazalo da 26 tijela javne vlasti ne koristi umjetnu inteligenciju. Među njima su Vlada RH i deset ministarstava, uključujući ministarstva obrane, financija, vanjskih i europskih poslova te znanosti i obrazovanja. Da ne koriste umjetnu inteligenciju naveli su i Ustavni sud, DORH, USKOK, Porezna uprava, Grad Zadar, dvije županije te druga neovisna tijela i agencije.

Devet institucija odgovorilo je da koriste umjetnu inteligenciju i imaju posebna pravila za njezinu uporabu. Među njima su Hrvatski sabor, Fina, Grad Zagreb, APIS IT, HAKOM, Hanfa i HZJZ. Još 11 institucija odgovorilo je da umjetnu inteligenciju koriste ili testiraju, a u trenutku istraživanja pripremale su i posebna pravila za njezinu uporabu.

Među njima su tri ministarstva - Ministarstvo pravosuđa, uprave i digitalne transformacije, Ministarstvo prostornoga uređenja, graditeljstva i državne imovine te Ministarstvo rada, mirovinskog sustava, obitelji i socijalne politike - kao i AZOP, DIP, CARNet, Hrvatski zavod za socijalni rad, Nacionalna zaklada za razvoj civilnog društva i Središnja agencija za financiranje i ugovaranje, SAFU.

SAFU se pritom izdvaja kao jedina institucija koja je navela da ne koristi niti testira umjetnu inteligenciju, ali priprema pravila za njezinu uporabu.

Dio institucija primjenjuje postojeća pravila

Pet institucija - HZMO, HZZ, HZZO, Ministarstvo zdravstva i HAMAG-BICRO - navelo je da na uporabu umjetne inteligencije u radu primjenjuju postojeće propise ili pravila, primjerice ona povezana s informacijskom i kibernetičkom sigurnošću, iako ta pravila nisu posebno namijenjena reguliranju uporabe umjetne inteligencije.

Ukupno 26 institucija navelo je da u radu koristi ili testira rješenja umjetne inteligencije bez internih pravila. Među njima su ministarstva unutarnjih poslova, gospodarstva, kulture i medija te regionalnog razvoja i fondova EU, deset sudova, Agencija za elektroničke medije, Državna geodetska uprava i HERA, gradovi Osijek, Rijeka i Split, Primorsko-goranska i Splitsko-dalmatinska županija te četiri KBC-a.

HZMO, Grad Rijeka i AZOP nisu naveli nazive rješenja umjetne inteligencije koja koriste, uz objašnjenje da bi otkrivanje tih podataka ugrozilo njihovu sigurnost.

MUP koristi tri sustava za biometrijsku identifikaciju

U Gongu navode da im MUP nije dostavio naziv proizvođača svog sustava za prepoznavanje lica, odnosno biometrijsku identifikaciju Face Recognition, a do tih podataka nisu mogli doći ni iz javno dostupnih izvora. MUP se, navode, izdvaja i po tome što koristi sustave čija primjena može nositi posebne rizike za ljudska prava i temeljne slobode.

Riječ je o tri sustava umjetne inteligencije za biometrijsku identifikaciju i sigurnost. Osim sustava Face Recognition, riječ je o sustavima ABIS, odnosno Automatiziranom biometrijskom identifikacijskom sustavu, te NABIS-u, Nacionalnom ABIS sustavu. Jedina institucija koja nije odgovorila na Gongov standardizirani upitnik bio je Državni inspektorat.

Gong traži javni registar

"Nalazi istraživanja empirijski pokazuju da bi javni registar, jasni nacionalni standardi i ujednačena interna pravila trebali postati sastavni dio upravljanja umjetnom inteligencijom u hrvatskom javnom sektoru - ne kao prepreka njezinu korištenju nego kao uvjet da se ona koristi transparentno, odgovorno i uz zaštitu ljudskih prava", ističu u Gongu.

Dodaju da razlike u odgovorima pokazuju kako među institucijama ne postoji jedinstven način evidentiranja rješenja umjetne inteligencije, da neke od njih nedovoljno razumiju što se smatra njezinom uporabom te da različito shvaćaju potrebu za posebnim uređivanjem korištenja umjetne inteligencije u svom radu.

Županić: Sada je prilika da se postave standardi

Autor Gongova istraživanja Sergej Županić ističe da je upravo sada, kada se uspostavlja nacionalni okvir praćenja primjene umjetne inteligencije u javnom sektoru, prilika da se postave standardi prije nego što se učvrste neujednačene prakse u kojima pojedine institucije same razvijaju svoja pravila, dok neke druge o tome ne razmišljaju.

Stoga preporučuje uspostavljanje javnog, jedinstvenog i redovito ažuriranog registra rješenja umjetne inteligencije u tijelima javne vlasti, uz jasne nacionalne standarde za njihovo evidentiranje i lako razumljive informacije građanima o njihovoj uporabi.

"Gongovo istraživanje je prvo sustavnije mapiranje uporabe umjetne inteligencije u hrvatskom javnom sektoru, tamo gdje njena uporaba može utjecati na ljudska prava i slobode. Do sada su javno dostupni podaci davali tek fragmentiranu i ograničenu sliku o tome gdje se i kako UI koristi", kazao je Županić za Hinu.

Pojasnio je i da je namjera istraživanja bila utvrditi koje se tehnologije umjetne inteligencije koriste u odabranim institucijama i postoje li jasna pravila za njihovu uporabu.

"Pokazalo se da se UI koristi u različitim područjima, ali da neke institucije nemaju posebna pravila za njezinu uporabu. Gong zato predlaže javno dostupan i redovito ažuriran registar uporabe UI u javnom sektoru, jasna pravila njene uporabe te razumljive informacije građanima o tome kada i kako UI sudjeluje u postupcima koji ih se tiču", zaključio je Županić.