Publications Office of the EU
Virtual assistant, the explainability notice - O Uredu za publikacije
DisplayCustomHeader
Dockbar
Dockbar je privremeno nedostupan.
Objašnjenje o korištenju UI-ja – nova verzija

Virtualni pomoćnik: objašnjenje o korištenju UI-ja

Publio – inteligentni pomoćnik portala Ureda za publikacije Europske unije (portal OP-a)

Zadnji put ažurirano: 11.3.2026.

Publio, virtualni pomoćnik portala Ureda za publikacije Europske unije (portal OP-a), alat je umjetne inteligencije (UI) koji stupa u interakciju s fizičkim osobama i pretražuje prema ključnim riječima, koristeći informacije koje su javno dostupne na portalu OP-a.
U ovom objašnjenju korisnicima se pružaju informacije o regulatornom okviru za umjetnu inteligenciju i načelima kojima se uređuje funkcioniranje Publija u tom kontekstu. Ured za publikacije Europske unije zalaže se za transparentnost te pouzdanu i objašnjivu umjetnu inteligenciju.

Transparentnost u vezi s umjetnom inteligencijom (UI) – opća načela

Transparentnost i otvorenost rada institucija Unije ključne su za dobro upravljanje i sudjelovanje civilnog društva, kako je utvrđeno u članku 15. Ugovora o funkcioniranju Europske unije (UFEU), kojim je predviđeno sljedeće:

„1. Institucije, tijela, uredi i agencije Unije, radi promicanja dobrog upravljanja i osiguranja sudjelovanja civilnog društva, pri svome radu koliko je god to moguće poštuju načelo otvorenosti djelovanja.”

U članku 41. Povelje EU-a o temeljnim pravima (pravo na dobru upravu) utvrđena je obveza uprave da obrazloži svoje odluke.

U dokumentu Etičke smjernice za pouzdanu umjetnu inteligenciju (dodatak 1.), koji je 2019. sastavila Stručna skupina na visokoj razini o umjetnoj inteligenciji koju je osnovala Europska komisija, transparentnost se navodi kao jedan od sedam zahtjeva (dodatak 2.) koje bi UI sustavi trebali ispuniti. U tim se smjernicama navodi i da je transparentnost sastavni dio načela objašnjivosti. To znači da uključeni skupovi podataka i tehnički postupci moraju biti transparentni, a o sposobnostima i svrsi UI sustava treba se otvoreno komunicirati. Skupovi podataka i tehnički postupci stoga moraju biti dokumentirani, sljedivi, objašnjivi i jednostavni za tumačenje.

Navedena načela trebaju se primijeniti na razvoj, uvođenje i korištenje rješenja i alata u institucijama, uredima, tijelima i agencijama EU-a koji se temelje na umjetnoj inteligenciji.

U skladu s tim općim načelima korisnike se mora unaprijed obavijestiti da su u interakciji s UI sustavom. To im omogućuje da odluče žele li nastaviti interakciju ili žele prestati koristiti alat.

U skladu s pravilom o transparentnosti korisnicima se moraju dati potrebne informacije kako bi mogli tumačiti izlazne rezultate sustava i koristiti ih na odgovarajući način.

Pouzdan, objašnjiv UI

Glavni je cilj EU-a da UI bude pouzdan i objašnjiv. U tu je svrhu utvrdio regulatorni okvir za UI. U Uredbi (EU) 2024/1689 od 13. lipnja 2024. (dalje u tekstu „UI akt”) (dodatak 3.) utvrđuju se dvije glavne vrste obveza dobavljača rješenja i alata koji se temelje na UI-ju – transparentnost i informiranje korisnika.

Korisnici UI sustava imaju pravo na informacije. To je pravo povezano s odgovarajućim obvezama, kao što je obveza da sustave koriste u skladu s uputama i da prate učinkovitost UI alata koji koriste. Poštovanjem tih pravila jamči se odgovornost svih uključenih aktera.

Člankom 50. UI akta (Obveze u pogledu transparentnosti za određene UI sustave) propisuje se: „1. Dobavljači osiguravaju da su UI sustavi koji su namijenjeni izravnoj interakciji s fizičkim osobama dizajnirani i razvijeni na takav način da se dotične fizičke osobe obavješćuje o tome da su u interakciji s UI sustavom, osim ako je to očito sa stajališta razmjerno dobro informirane, pronicljive i oprezne fizičke osobe, uzimajući u obzir okolnosti i kontekst upotrebe. ”

UI akt zasniva se na pristupu utemeljenom na riziku i u njemu se razlikuju visokorizični i ostali UI sustavi.

Publio, virtualni pomoćnik portala OP-a, stupa u interakciju s fizičkim osobama i pretražuje prema ključnim riječima, koristeći informacije koje su javno dostupne na portalu OP-a. Te se informacije objavljuju u skladu s načelom transparentnosti, koje je temelj svih politika i akata EU-a. Virtualni pomoćnik ne generira nov sadržaj, ne manipulira odlukama korisnika niti utječe na njih. Samo može predložiti opcije filtriranja za pretraživanje. Stoga se Publio ne smatra visokorizičnim sustavom kako je definiran u UI aktu.

U UI aktu propisuje se da bi se u dizajnu i radu UI sustava trebali uzeti u obzir posebni rizici koje oni mogu predstavljati: 1) rizik od manipulacije primjenom subliminalnih tehnika kojih korisnici nisu svjesni ili 2) rizik od iskorištavanja ranjivih skupina, što bi im moglo psihički ili fizički naškoditi. Strože obveze u pogledu transparentnosti primjenjuju se za sustave koji: (i) komuniciraju s ljudima, (ii) služe za otkrivanje emocija ili određivanje povezanosti sa (socijalnim) kategorijama na temelju biometrijskih podataka ili (iii) stvaraju sadržaj ili manipuliraju njime (tzv. „deep fakes”). Iako Publio komunicira s ljudima, on nije dizajniran za prepoznavanje emocija s ciljem manipuliranja niti sadržava elemente koji bi nenamjerno doveli do takvog ishoda. Stoga Publio ne ispunjava prethodno navedene kriterije.

O Publiju

Pojmovi i definicije

Pojam Definicija
Normirani popisi Normirani popisi koriste se za usklađivanje i standardizaciju kodova i povezanih oznaka koji se upotrebljavaju u različitim okruženjima (internetske platforme, sustavi i aplikacije) i za olakšavanje razmjene podataka među institucijama EU-a, na primjer za postupak donošenja odluka. Primjeri takvih normiranih popisa su kodificirani popisi jezika, zemalja, korporativnih tijela itd.
Chatbot Chatbot je sustav umjetne inteligencije (UI) osmišljen za simulaciju ljudskog razgovora i interakciju s korisnicima putem teksta ili govora. Koristi tehnike obrade prirodnog jezika kako bi razumio informacije dobivene od korisnika i mogao na njih odgovoriti radi pružanja automatizirane pomoći i informacija ili obavljanja posebnih zadaća na temelju unaprijed definiranih pravila ili algoritama. Chatbotovi se, na primjer, koriste za korisničku podršku, virtualne pomoćnike i internetske platforme za razmjenu poruka radi olakšavanja komunikacije i brzog odgovaranja na upite korisnika.
Konverzacijski UI Konverzacijski UI oblik je umjetne inteligencije koji olakšava komunikaciju čovjeka i računala u stvarnom vremenu.
Konverzacijski tijek Konverzacijski tijek je neometan i logičan slijed razgovora (korisnikov put) između chatbota i korisnika. Odnosi se na način na koji chatbot razumije namjeru korisnika, daje prikladne odgovore i vodi razgovor kako bi ispunio korisnikov cilj ili svrhu.
Entitet U ovom kontekstu pojam „entitet” znači informacija koja se može izdvojiti iz korisnikovih ulaznih informacija koja je relevantna za korisnikovu svrhu, odnosno omogućuje da se shvati njegova svrha. Te se informacije identificiraju i pohranjuju kako bi se izdvojile točno one informacije koje korisnik traži. Na primjer, entitet može biti autor određenog članka.
EU Vocabularies ili EuroVoc Eurovoc (EU Vocabularies) poseban je skup višejezičnih, multidisciplinarnih normiranih popisa kojima upravlja Ured za publikacije i koji se odnose na aktivnosti EU-a. Sadrži pojmove na 24 službena jezika EU-a i na tri jezika zemalja kandidatkinja za pristupanje EU-u: albanskom, makedonskom i srpskom.
Namjera U ovom kontekstu pojam „namjera” odnosi se na cilj koji korisnik ima na umu pri pisanju ili izgovaranju pitanja ili komentara (upit). Namjera predstavlja ideju ili koncept koji se mogu izraziti u poruci (iskazu) koju upućuje korisnik. Primjer namjere je želja korisnika da pronađe određenu temu, publikaciju ili osobu.
Jezični model Jezični model je vrsta programa umjetne inteligencije (UI) koji je osmišljen za analiziranje i razumijevanje prirodnog jezika. Koristi statističke i probabilističke tehnike kako bi predvidio koje bi riječi ili izrazi mogli uslijediti u određenoj rečenici ili tekstualnom nizu. Drugim riječima, jezični model je alat koji se može koristiti za generiranje ili dopunjavanje rečenica na temelju konteksta i sadržaja ulaznih podataka.
Razumijevanje jezika (CLU) Usluga konverzacijskog UI-ja u oblaku koja koristi napredno razumijevanje prirodnog jezika kako bi prepoznala korisnikove namjere, predvidjela opće značenje i izdvojila strukturirane informacije iz konverzacijskog teksta.
Veliki jezični model (LLM) Veliki jezični model je napredna vrsta umjetne inteligencije koja se trenira na velikoj količini tekstualnih podataka za razumijevanje i generiranje ljudskog jezika. Veliki jezični modeli koriste tehnike dubokog učenja kako bi analizirali kontekst, razumjeli nijanse u značenju i prepoznali obrasce u jeziku, što im omogućuje obradu složenih izraza i pružanje koherentnih odgovora prilagođenih kontekstu.
Strojno učenje Strojno učenje je vrsta umjetne inteligencije koja softverskim aplikacijama omogućuje da „uče” iz prethodnih postupaka i povratnih informacija i tako preciznije predviđaju ishode, a da nisu izričito programirane za to.
Obrada prirodnog jezika Obrada prirodnog jezika je područje umjetne inteligencije koje računalima omogućuje da analiziraju i razumiju ljudski govor u pisanom i usmenom obliku.
Put pretraživanja Taj se pojam odnosi na niz interakcija kroz koje korisnik prolazi kad traži konkretne informacije. To je proces tijekom kojeg se korisnik usmjerava nizom pitanja i odgovora kako bi se definirala i ispunila namjera njegova pretraživanja. Put pretraživanja u chatbotu uključuje razumijevanje korisnikova upita, dohvaćanje relevantnih informacija iz baze podataka ili baze znanja te predstavljanje informacija korisniku na način koji je lako razumljiv i relevantan za njegove potrebe.
Korisnikov put Iskustvo korisnika tijekom jedne sesije korištenja internetske stranice ili aplikacije, koje obuhvaća niz koraka za postizanje određenog cilja na toj stranici ili u aplikaciji.
Iskaz Ulazni podaci korisnika koji mogu biti u obliku natipkane ili izgovorene poruke. Jedan iskaz može se sastojati od jedne ili više riječi, npr. pitanja ili rečenice.

Što je Publio?

Publio, virtualni pomoćnik portala Ureda za publikacije (portal OP-a), alat je umjetne inteligencije koji stupa u interakciju s fizičkim osobama i pretražuje prema ključnim riječima, koristeći informacije koje su javno dostupne na portalu OP-a. Publio kombinira tehnike konverzacijske umjetne inteligencije kao što su obrada prirodnog jezika i strojno učenje s interaktivnim sustavom za prepoznavanje govora i tradicionalnim sustavima pretraživanja kako bi korisnicima pomogao da pronađu publikacije EU-a, zakonodavstvo EU-a i osobe za kontakt u europskim institucijama.

Virtualni pomoćnik konkretno omogućuje krajnjim korisnicima da komuniciraju s portalom OP-a izgovaranjem ili tipkanjem poruka. Trenutačno je dostupan na engleskom, francuskom i španjolskom jeziku. Korištenje virtualnog pomoćnika može se prilagoditi potrebama osoba s poteškoćama u čitanju, što povećava njegovu pristupačnost. Publio omogućuje i glasovno pretraživanje. To je nov način pretraživanja koji korisnicima omogućuje da izgovaraju potpune rečenice, kao i u svakodnevnom razgovoru, glasovnom pomoćniku kojim upravlja umjetna inteligencija i koji im odgovara, pa razmjena između korisnika i virtualnog pomoćnika ima oblik razgovora.

Koju vrstu podataka koristi Publio?

Publio koristi informacije koje su javno dostupne na portalu OP-a. Te se informacije objavljuju u skladu s načelom transparentnosti koje se primjenjuje na sve politike i akte EU-a. Na temelju tog korpusa Publio koristi klasifikaciju i kategorije dostupne na portalu OP-a kao što su teme, autori ili formati Eurovoca za usmjeravanje ili optimiziranje razgovora kako bi korisniku pomogao u pretraživanju tri glavne kolekcije na portalu OP-a: publikacije EU-a, pravo EU-a i službeni imenik EU-a (EU Whoiswho).

Publio koristi postojeći jezični model da bi razumio pitanja koja mu korisnici postavljaju i vodio ih kroz pretraživanje. Taj jezični model neprestano se poboljšava i uči na temelju povratnih informacija korisnika kako bi ispunio njihova očekivanja i mogao uspješno obrađivati raznolike ulazne podatke na tri podržana jezika.

To učenje obuhvaća više komponenti sustava na kojem se temelji Publio:

  • unaprijed definiran niz iskaza povezan s različitim mogućim oblicima namjera koje Publiju omogućuju da razumije korisnikov konačni cilj i usmjerava ga korak po korak do postizanja tog cilja
  • unaprijed definiran niz standardiziranih pitanja koja Publio „razumije” i na koja može dati unaprijed definirane odgovore. Primjer: kako mogu naručiti publikacije?
  • entitete strojnog učenja koje Publio može identificirati i koristiti u svojim pozadinskim procesima za detektiranje parametara pretraživanja, pružanje preciznijih rezultata pretraživanja ili opcija za sužavanje pretraživanja. Ti se entiteti temelje na postojećoj klasifikaciji i kategorijama podataka kao što su pojmovnici Eurovoca ili drugi normirani popisi kojima upravlja Eurovoc: autori, formati, jezici, tijela EU-a (organizacije), funkcije u javnoj službi EU-a itd. Publio na temelju toga može, na primjer, iz korisnikova upita razumjeti da korisnik traži publikaciju o konkretnoj temi ili od konkretnog autora.

Kako Publio funkcionira?

Publio se oslanja na razumijevanje konverzacijskog jezika (CLU) (dodatak 4.) u kombinaciji sa sustavom za ekstrakciju entiteta koji se temelji na velikom jezičnom modelu za točnu i učinkovitu obradu ulaznih podataka korisnika (pisani ili izgovoreni iskaz).
CLU daje početni uvid u namjeru korisnika i entitete, a kod složenijih izraza i upita komponenta LLM optimizira prepoznavanje entiteta kako bi se dobili bolji rezultati. Kad prepozna namjeru i entitete, Publio pokreće prilagođeni konverzacijski tijek kako bi korisnicima pomogao da dobiju traženi rezultat u nekoliko jednostavnih koraka.

Publio trenutačno primjenjuje četiri glavna konverzacijska tijeka:

  • pretraživanje dokumenata, kako bi korisnicima pomogao u pretraživanju publikacija ili pravnih dokumenata EU-a
  • pretraživanje osoba, kako bi korisnicima pomogao u pretraživanju službenika zaposlenih u institucijama EU-a
  • pretraživanje organizacija, kako bi korisnicima pomogao u pretraživanju tijela EU-a (organizacija)
  • pitanja i odgovori, kako bi na česta pitanja odgovorio unaprijed definiranim odgovorom.

Ako virtualni pomoćnik prepozna tijek pretraživanja, vodit će korisnika kroz pretraživanje relevantnog dokumenta, osobe ili organizacije postavljanjem jednostavnih pitanja i, na temelju korisnikova odgovora, predložiti opcije filtriranja.

Za tijek pitanja i odgovora osoblje Ureda za publikacije održava popis parova s često postavljenim pitanjima i unaprijed definiranim odgovorima na njih. Ako se prepozna namjera u vezi s pitanjima i odgovorima, a korisnikovo pitanje je vrlo slično jednom od pitanja pohranjenih u sustavu, korisnik će odmah dobiti odgovor. Na primjer:

– ako se namjera prepozna na temelju upita kao što je „Želim preuzeti dokument”, pomoćnik će odgovoriti: „Za preuzimanje dokumenta kliknite na gumb ,Preuzmi i odaberi jezik’ na stranici s pojedinostima publikacije”

– ako se namjera prepozna na temelju upita kao što je „Gdje mogu pronaći dokumente za djecu?”, pomoćnik će odgovoriti: „Publikacije za djecu dostupne su u kutku za djecu”.

Korisnici mogu postavljati pitanja u pisanom ili usmenom obliku. Chatbot registrira zvuk (pitanja koja korisnik izgovori) i šalje ga alatu za prepoznavanje govora koji ga pretvara u tekst. Alat za pretvaranje govora u tekst Microsoft Azure zatim obrađuje zvuk (dodatak 5.). Publio nakon toga prikaže izgovorene riječi kako ih protumači alat za prepoznavanje govora, a zatim i odgovor u pisanom obliku i izgovoren sintetiziranim glasom. Ta je razmjena trenutna (događa se odmah) i kratkotrajna (ne ostavlja trag).

Kako Publio analizira pitanje i predlaže rezultate?

Publio za generiranje odgovora koje pruža korisnicima ne koristi LLM ni druge tehnologije generativne umjetne inteligencije. Sve njegove poruke temelje se na unaprijed definiranim predlošcima. Publio koristi jezični model strojnog učenja koji je treniran da uči prepoznavati ulazne podatke korisnika i odgovarati na njih. Taj model obrađuje korisnikovu poruku ili upit, prepoznaje namjeru poruke i daje prikladan odgovor. Publio uči tako da se u model strojnog učenja unese velika količina označenih podataka za treniranje, koji uključuju primjere ulaznih podataka korisnika, njihove namjere i moguće odgovore.

Publio primjenjuje obradu prirodnog jezika, trenirani jezični model i LLM kako bi razumio namjeru korisnika i iz njegova pitanja izdvojio prepoznate entitete (npr. pojam za pretraživanje, temu, autora, datum ili format dokumenta). Publio koristi te entitete za pretraživanje i prikazivanje rezultata pretraživanja.





Ako je rezultat pretraživanja preširok, Publio nastavlja konverzaciju postavljanjem dodatnih pitanja korisniku kako bi suzio rezultate pretraživanja filtriranjem drugih entiteta.

Pitanja koja postavlja Publio ograničena su na definiranje namjere korisnika, kako bi razumio njegovu svrhu i u korpus sadržaja objavljenog na portalu OP-a uputio dobar upit za pretraživanje. Svi rezultati koje predlaže Publio potječu iz tog korpusa.

Povratne informacije korisnika



Krajnji korisnik može u bilo kojem trenutku tijekom konverzacije dati pozitivne, neutralne ili negativne povratne informacije o svojem iskustvu korištenja Publija. Korisnik može u bilo kojem trenutku dati povratne informacije na vlastitu inicijativu, ili kad se nakon nekoliko sekundi neaktivnosti pojavi skočni prozor za unos povratnih informacija. Osim toga, pitanja koja Publio ne „razumije” na ispravan način automatski se evidentiraju i periodički ih obrađuje osoblje u Uredu za publikacije. Povratne informacije korisnika i analize pitanja koja Publio nije pravilno „razumio” koriste se za ponovno treniranje jezičnog modela kako bi se usluge za krajnje korisnike stalno poboljšavale.

Obrada osobnih podataka

Podaci dostupni na portalu OP-a obrađuju se u skladu s Općom uredbom EU-a o zaštiti podataka (OUZP) i Uredbom o obradi osobnih podataka u institucijama, agencijama i tijelima Unije (dodatak 6.).

Publio ne pohranjuje, ne čuva niti arhivira bilo koje elemente ni ulazne podatke korisnika, kao ni one iz odgovora Publija.

Prikupljene povratne informacije anonimiziraju se tako da ih nije moguće povezati s korisnikom od kojeg su dobivene.

Osobni podaci se ne koriste za automatizirano donošenje odluka, praćenje ili izradu profila. Kad koristi velike jezične modele za ekstrakciju entiteta, jedini podaci koji se razmjenjuju između Publija i LLM-a su korisnikovo pitanje i preliminarni rezultat ekstrakcije entiteta koji je generirao CLU. Osobni podaci korisnika ne razmjenjuju se niti se prenose.

Sve usluge koje koristi Publio smještene su u europskim podatkovnim centrima, a sva obrada podataka u skladu je s propisima EU-a o privatnosti podataka.

Trenutačna ograničenja

  • Transkripcija imena s pomoću glasa: iako se većina imena „razumije” i ispravno transkribira, prepoznavanje imena temelji se na strojnom učenju i nije 100 % precizno. Zbog ograničenja CLU-a neka imena ne prepoznaju se ispravno čak ni nakon treniranja modela s konkretnim primjerima iz skupa podataka.
  • Datumi na francuskom i španjolskom: „razumijevanje” datuma na španjolskom i francuskom nije potpuno precizno u složenijim kontekstima. Na primjer, na španjolskom se godina prepoznaje u obliku „entre 2016 y 2017” bez dodatnog konteksta, ali ne prepoznaje se u obliku „entre el año 2019 y 2020”.
  • Prepoznavanje govora funkcionira samo za jedan jezik odjednom.
  • Prepoznavanje govora nema funkciju koja bi korisnicima omogućila da izgovaraju riječ slovo po slovo kako bi se osigurala točna transkripcija.
  • Prepoznavanje imena ne funkcionira dobro u duljim rečenicama kad se kombinira s gđa ili gđica.

 

Ured za publikacije Europske unije, 16. svibnja 2023.

1. Dostupno na: https://digital-strategy.ec.europa.eu/hr/library/ethics-guidelines-trustworthy-ai.

2. Sedam uvjeta koje bi trebao poštovati pouzdani UI: 1) ljudsko djelovanje i nadzor, 2) tehnička otpornost i sigurnost, 3) privatnost i dobro upravljanje podacima, 4) transparentnost, 5) raznolikost, nediskriminacija i pravednost, 6) dobrobit društva i okoliša i 7) odgovornost.

Uredba Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije. Doneseni i potpisani akt dostupan je ovdje.

4. https://language.cognitive.azure.com/clu/projects/

5. https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE5cCGB.

6. Uredba (EU) 2016/679, SL L 119, 4.5.2016., str. 1. i Uredba (EU) 2018/1725, SL L 295, 21.11.2018., str. 39.