Virtualni pomočnik: Obvestilo o razložljivosti
Publio – Virtualni pomočnik portala Urada za publikacije Evropske unije (portal Urada za publikacije)
Nazadnje posodobljeno: 11. marca 2026
Vsebina strani
- Preglednost v zvezi z umetno inteligenco (UI) – splošna načela
- Zaupanja vredna in razložljiva UI
- UI in odgovornost
- O orodju Publio
- Izrazi in opredelitev pojmov
- Kaj je Publio?
- Katere vrste podatkov uporablja Publio?
- Kako deluje Publio?
- Kako Publio analizira vprašanje in predlaga rezultate?
- Povratne informacije uporabnikov
- Obdelava osebnih podatkov
- Sedanje omejitve
Publio, virtualni pomočnik portala Urada za publikacije Evropske unije (portal Urada za publikacije), je orodje umetne inteligence (UI), ki vstopa v interakcijo s fizičnimi osebami in izvaja iskanja z uporabo ključnih besed, pri tem pa se opira na informacije, ki so javno dostopne na portalu Urada za publikacije.
To obvestilo o razložljivosti vsebuje informacije za uporabnike o regulativnem okviru za umetno inteligenco in načelih, ki urejajo delovanje pomočnika Publio v tem okviru. Urad za publikacije Evropske unije je zavezan preglednosti ter zaupanja vredni in razložljivi UI.
Preglednost v zvezi z umetno inteligenco (UI) – splošna načela
Preglednost in javnost ukrepov institucij Unije so osrednjega pomena za dobro upravljanje in sodelovanje civilne družbe, kot določa člen 15 Pogodbe o delovanju Evropske unije (PDEU):
„1. Institucije, organi, uradi in agencije Unije zaradi spodbujanja dobrega upravljanja in zagotovitve sodelovanja civilne družbe pri svojem delu kar najbolj upoštevajo načelo javnosti delovanja.“
Listina EU o temeljnih pravicah v členu 41 (pravica do dobrega upravljanja) določa „obveznost uprave, da svoje odločitve obrazloži“.
V dokumentu Etične smernice za zaupanja vredno umetno inteligenco (Dodatek 1), smernicah, ki jih je leta 2019 pripravila strokovna skupina na visoki ravni za umetno inteligenco, ki jo je ustanovila Evropska komisija, je preglednost navedena kot ena od sedmih zahtev (Dodatek 2), ki jih morajo izpolnjevati umetnointeligenčni sistemi. Te smernice še določajo, da je preglednost sestavni del načela razložljivosti, po katerem morajo biti vključeni nabori podatkov in tehnični procesi pregledni, o zmogljivostih in namenu umetnointeligenčnih sistemov pa je treba odkrito komunicirati. Nabori podatkov in tehnični procesi morajo biti torej dokumentirani, sledljivi in razložljivi.
Zgoraj navedena načela je treba uporabiti, kadar institucije, uradi, organi in agencije EU razvijajo, uvajajo in uporabljajo rešitve, ki temeljijo na UI.
V skladu s temi načeli morajo biti torej uporabniki vnaprej obveščeni, da vstopajo v interakcijo z umetnointeligenčnim sistemom. Na podlagi te informacije se lahko odločijo, ali bodo nadaljevali interakcijo z orodjem ali pa ga ne bodo več uporabljali.
V skladu s pravili o preglednosti morajo uporabniki prejeti tudi potrebne informacije za razumevanje in ustrezno uporabo izhodnih podatkov sistema.
Zaupanja vredna in razložljiva UI
Zaupanja vredna in razložljiva UI je ključni cilj EU. EU je v ta namen vzpostavila regulativni okvir za UI. Uredba (EU) 2024/1689 z dne 13. junija 2024 (v nadaljnjem besedilu: akt o umetni inteligenci) (Dodatek 3) uvaja dve glavni obveznosti za ponudnike rešitev in orodij, temelječih na UI: preglednost in zagotavljanje informacij.
Uporabniki umetnointeligenčnih sistemov imajo pravico prejeti informacije. Ta pravica je neločljiva od ustreznih obveznosti, kot je obveznost uporabe sistema v skladu z navodili in spremljanja učinkovitosti zadevnega orodja UI. Za skladnost s temi pravili so odgovorni vsi vključeni akterji.
Akt o umetni inteligenci v členu 50 (Obveznosti glede preglednosti za nekatere umetnointeligenčne sisteme) določa naslednje: „1. Ponudniki zagotovijo, da so sistemi UI, namenjeni interakciji s fizičnimi osebami, zasnovani in razviti tako, da so zadevne fizične osebe obveščene, da so v interakciji s sistemom UI, razen če je to očitno z vidika razmeroma dobro obveščene, pozorne in preudarne fizične osebe ob upoštevanju okoliščin in konteksta uporabe. “
Akt o umetni inteligenci temelji na pristopu na podlagi tveganja ter razlikuje med umetnointeligenčnimi sistemi velikega tveganja in drugimi umetnointeligenčnimi sistemi.
Publio, virtualni pomočnik portala Urada za publikacije, vstopa v interakcijo s fizičnimi osebami in izvaja iskanja z uporabo ključnih besed, pri tem pa se opira na informacije, ki so javno dostopne na portalu Urada za publikacije. Te informacije se objavljajo na podlagi načela preglednosti, ki je temelj vseh politik in zakonodaje EU. Virtualni pomočnik zgolj predlaga možnosti filtriranja uporabnikovega iskanja, sicer pa ne ustvarja novih vsebin in ne manipulira z izbirami uporabnikov niti ne vpliva nanje. Orodje Publio se zato ne šteje za sistem velikega tveganja, kot je opredeljen v aktu o umetni inteligenci.
Akt o umetni inteligenci določa, da je pri zasnovi in delovanju umetnointeligenčnih sistemov treba upoštevati posebna tveganja, ki bi jih lahko predstavljali, in sicer (1) manipulacijo na podlagi subliminalnih tehnik, ki presegajo zavest uporabnikov, ali (2) izkoriščanje ranljivih skupin, ki bi lahko povzročilo psihično ali fizično škodo. Strožje obveznosti glede preglednosti veljajo za sisteme, ki (i) so v interakciji z ljudmi, (ii) se uporabljajo za zaznavanje čustev ali določanje pripadnosti (družbenim) kategorijam na podlagi biometričnih podatkov ali (iii) ustvarjajo ali manipulirajo z vsebino („globoki ponaredki“). Publio sicer je v interakciji s fizičnimi osebami, vendar ta virtualni pomočnik ni zasnovan za zaznavanje čustev s ciljem manipuliranja niti ne vsebuje elementov, ki bi lahko nenamerno privedli do takega izida. Publio torej ne izpolnjuje zgoraj navedenih meril.
O orodju Publio
Izrazi in opredelitev pojmov
| Izraz | Opredelitev pojma |
|---|---|
| Preglednice organov | Preglednice organov (imenovane tudi seznami imenovanih organov) se uporabljajo za uskladitev in standardizacijo kod in povezanih oznak, ki se uporabljajo v različnih okoljih (spletne platforme, sistemi in aplikacije), ter za lažjo izmenjavo podatkov med institucijami EU, na primer v okviru postopkov odločanja. Primeri takih preglednic organov so kodificirani seznami jezikov, držav, korporativnih organov itd. |
| Klepetalni bot | Klepetalni bot je umetnointeligenčni sistem, zasnovan za simulacijo človeškega pogovora in pisno ali govorno interakcijo z uporabniki. Za razumevanje uporabniških vnosov in odzivanje nanje uporablja tehnike obdelave naravnega jezika, pri tem pa zagotavlja avtomatizirano pomoč in informacije ali izvaja določene naloge na podlagi vnaprej določenih pravil ali algoritmov. Klepetalni boti se običajno uporabljajo za podporo strankam, pri virtualnih pomočnikih in na spletnih platformah za pošiljanje sporočil, da olajšajo komunikacijo in zagotovijo takojšnji odgovor na poizvedbe uporabnikov. |
| Pogovorna UI | Pogovorna UI je vrsta umetne inteligence, ki omogoča človeški komunikaciji podoben pogovor med človekom in računalnikom v realnem času. |
| Pogovorni tok | Izraz „pogovorni tok“ označuje nemoten in logičen potek pogovora (uporabniška pot) med klepetalnim botom in uporabnikom. Nanaša se na način, kako klepetalni bot razume namen uporabnika, zagotovi ustrezne odzive in vodi pogovor tako, da doseže namen ali cilje, ki jih navede uporabnik. |
| Entiteta | Izraz „entiteta“ v tem kontekstu pomeni informacijo, ki jo je mogoče razbrati iz uporabniškega vnosa in je pomembna za uporabnikov namen, tj. omogoča razumevanje, kaj je uporabnikov namen. Te informacije se identificirajo in shranijo za ekstrakcijo točno tistih informacij, ki jih uporabnik išče. Primer entitete je lahko avtor določenega članka. |
| Besednjaki EU ali EuroVoc | EuroVoc (Besednjaki EU) je določen sklop večjezičnih, multidisciplinarnih preglednic organov, ki jih upravlja Urad za publikacije in zajemajo dejavnosti EU. Vsebuje izraze v 24 uradnih jezikih EU ter v treh jezikih držav, ki so kandidatke za pristop k EU: albanščini, makedonščini in srbščini. |
| Namen | Izraz „namen“ v tem kontekstu pomeni cilj, ki ga ima uporabnik, kadar vtipka ali glasno izreče vprašanje ali komentar (poizvedba). Namen predstavlja zamisel ali koncept, ki ju lahko vsebuje sporočilo (izrek) uporabnika. Primer namena je dejstvo, da želi uporabnik poiskati določeno temo, določeno publikacijo ali osebo. |
| Jezikovni model | Jezikovni model je vrsta programa umetne inteligence, ki je zasnovan za analizo in razumevanje naravnega jezika. S statističnimi in verjetnostnimi metodami napoveduje, katere besede ali besedne zveze se bodo verjetno naslednje pojavile v določenem stavku ali delu besedila. Drugače povedano, to je orodje, ki se lahko uporablja za tvorjenje ali dokončanje stavkov na podlagi sobesedila in vsebine vnosa. |
| Koncept razumevanja pogovorne inteligence (CLU) | Storitev pogovorne UI v oblaku, ki uporablja napredno razumevanje naravnega jezika za ugotavljanje namena uporabnikov, napovedovanje splošnega pomena in izluščenje strukturnih informacij iz pogovornega besedila. |
| Veliki jezikovni model | Veliki jezikovni model je napredna vrsta umetne inteligence, ki se na podlagi velike količine besedilnih podatkov uči razumevanja in generiranja človeškega jezika. Veliki jezikovni modeli uporabljajo tehnike globokega učenja za analizo konteksta, razumevanje pomenskih odtenkov in prepoznavanje jezikovnih vzorcev, kar jim omogoča obdelavo zapletenih besednih zvez in zagotavljanje skladnih odgovorov, ki ustrezajo kontekstu. |
| Strojno učenje | Strojno učenje je vrsta umetne inteligence, ki aplikacijam programske opreme omogoča „učenje“ iz preteklih izkušenj in povratnih informacij, da lahko še natančneje napovedujejo rezultate, ne da bi jih bilo treba za to izrecno programirati. |
| Obdelava naravnega jezika | Obdelava naravnega jezika je področje umetne inteligence, ki računalnikom omogoča analizo in razumevanje tako pisnega kot govorjenega človeškega jezika. |
| Iskalna pot | Izraz iskalna pot se nanaša na niz interakcij, skozi katere gre uporabnik med iskanjem določene informacije. Je proces, ki uporabnika vodi prek vrste vprašanj in odzivov za ugotovitev in izpolnitev njegovega iskalnega namena. Iskalna pot v klepetalnem botu zajema razumevanje uporabnikove poizvedbe, iskanje ustreznih informacij iz podatkovne zbirke ali baze znanja in predstavitev informacij uporabniku na način, ki je enostavno razumljiv in ustreza njegovim potrebam. |
| Uporabniška pot | Izkušnja osebe z uporabo spletne strani ali aplikacije med sejo, ki zajema vrsto dejanj, izvedenih za dosego določenega cilja na tej spletni strani ali aplikaciji. |
| Izrek | Vnos uporabnika, ki je lahko kakršno koli v pogovoru vtipkano ali izgovorjeno sporočilo. En izrek lahko zajema eno samo besedo ali več besed v obliki vprašanja ali besedne zveze. |
Kaj je Publio?
Publio, virtualni pomočnik portala Urada za publikacije, je orodje UI, ki vstopa v interakcijo s fizičnimi osebami in izvaja iskanja z uporabo ključnih besed, pri tem pa se opira na informacije, ki so javno dostopne na portalu Urada za publikacije. Publio združuje tehnike pogovorne umetne inteligence, kot so obdelava naravnega jezika ali strojno učenje z interaktivnim prepoznavanjem govora in tradicionalnimi iskalnimi sistemi, ki uporabnikom pomagajo pri iskanju publikacij in zakonodaje EU ter kontaktnih oseb v evropskih institucijah.
Virtualni pomočnik konkretno omogoča govorjene ali tipkane pogovore med končnimi uporabniki in portalom Urada za publikacije. Za zdaj je virtualni pomočnik na voljo v angleščini, francoščini in španščini. Virtualni pomočnik za večjo dostopnost vključuje tudi rešitev, prilagojeno potrebam ljudi z motnjami branja. Omogoča tudi pogovorno iskanje. Gre za nov način iskanja, ki uporabnikom omogoča, da se v celih stavkih (kot pri običajnem pogovoru) pogovarjajo z umetnointeligenčnim govornim pomočnikom, ki jim daje odgovore, izmenjava med uporabnikom in virtualnim pomočnikom pa poteka v obliki pogovora.
Katere vrste podatkov uporablja Publio?
Publio uporablja informacije, ki so javno dostopne na portalu Urada za publikacije. Te so objavljene na podlagi načela preglednosti, ki velja za vse politike in zakonodajo EU. Na podlagi tega korpusa Publio uporablja klasifikacije in kategorije, ki so na voljo na portalu Urada za publikacije, kot so teme, avtorji in format Eurovoc, za vodenje in optimizacijo pogovora, da bi uporabniku pomagal pri iskanju v treh glavnih zbirkah portala Urada za publikacije: publikacije EU, zakonodaja EU in uradni imenik EU (EU Whoiswho).
Za razumevanje vprašanj uporabnikov in za usmerjanje uporabnikov na njihovi iskalni poti uporablja obstoječi jezikovni model. Na podlagi povratnih informacij uporabnikov se jezikovni model Publio stalno izboljšuje in uči, da lahko izpolnjuje potrebe uporabnikov in uspešno obdeluje najrazličnejše vnose uporabnikov v treh podprtih jezikih.
To učenje zajema več komponent sistema, na katerem temelji Publio:
- vnaprej določen niz izrekov, povezanih z različnimi možnimi oblikami namenov, na podlagi katerih lahko Publio najprej razume uporabnikov končni cilj in ga nato postopno usmerja k dosegi tega cilja;
- vnaprej določen niz fiksnih vprašanj, ki jih Publio „razume“ in za katere lahko uporabnikom zagotovi vnaprej določen odgovor – primer: Kako lahko naročim publikacije?;
- strojno naučene entitete, ki jih Publio lahko prepozna in uporabi v svojih procesih v ozadju za odkrivanje iskalnih parametrov, zagotavljajo točnejše rezultate iskanja ali možnosti nadaljnje natančnejše opredelitve iskanja. Te entitete temeljijo na obstoječi klasifikaciji in kategorijah podatkov, kot so tezavri Eurovoc ali druge preglednice organov, ki jih upravlja EuroVoc: avtorji, formati, jeziki, organi (organizacije) EU, funkcije v javni upravi EU itd. Publio lahko na podlagi tega na primer iz uporabnikove poizvedbe razbere, da ta išče publikacijo določenega avtorja ali na določeno temo.
Kako deluje Publio?
Publio se za pravilno in učinkovito obdelavo pisnih ali ustnih vhodnih podatkov uporabnika opira na koncept razumevanja pogovorne inteligence – CLU (Dodatek 4) v kombinaciji s sistemom za ekstrakcijo entitet, ki temelji na velikem jezikovnem modelu (LLM).
CLU poskrbi za prvo razumevanje uporabnikovega namena in entitet, komponenta LLM pa optimizira njihovo prepoznavanje, s čimer se zagotovijo boljši rezultati v primeru niansiranih besednih zvez ali zapletenih poizvedb. Publio na podlagi prepoznanega namena in entitet začne s prilagojenim pogovornim tokom, da bi uporabnikom v nekaj preprostih korakih pomagal do želenega rezultata.
Za zdaj Publio izvaja štiri glavne pogovorne tokove:
- iskanje po dokumentih za pomoč uporabnikom, ki iščejo po publikacijah in pravnih dokumentih EU;
- iskanje po osebah za pomoč uporabnikom, ki iščejo po javnih uslužbencih, zaposlenih v institucijah EU;
- iskanje po organizacijah za pomoč uporabnikom, ki iščejo po organih (organizacijah) EU;
- vprašanja in odgovori za odgovore na pogosto zastavljena vprašanja z vnaprej določenim odgovorom.
Če virtualni pomočnik prepozna tok „iskanja“, uporabnika usmerja pri iskanju ustreznega dokumenta, osebe ali organizacije, tako da mu postavlja preprosta vprašanja in na podlagi njegovega odziva predlaga možnosti filtriranja.
Za tok vprašanj in odgovorov uslužbenci Urada za publikacije vodijo seznam parov pogosto zastavljenih vprašanj in vnaprej določenih odgovorov nanje. Če je prepoznan namen vprašanj in odgovorov in je vprašanje uporabnika zelo podobno enemu od vprašanj, shranjenih v sistemu, uporabnik takoj prejme ustrezen odgovor. Na primer:
– če je prepoznan namen vprašanj in odgovorov pri poizvedbi, kot je „Želim prenesti datoteko“, bo pomočnik odgovoril „Za prenos dokumenta pojdite na stran s podatki o publikaciji in kliknite gumb Prenesi in jeziki“;
– če je prepoznan namen vprašanj in odgovorov pri poizvedbi, kot je „Kje lahko najdem dokumente za otroke?“, bo pomočnik odgovoril „Publikacije za otroke so na voljo v kotičku za otroke“.
Uporabniki lahko vprašanja zastavljajo pisno ali govorno. Klepetalni bot zajame zvočni vnos (uporabnikova izgovorjena vprašanja) in ga pošlje napravi za prepoznavanje govora, ki pretvori govor v besedilo. Orodje za pretvorbo govora v besedilo Microsoft Azure zatem obdela zvočni vnos (Dodatek 5). Publio nato z besedami, ki jih zazna funkcija za prepoznavanje govora, prikaže zvočni vnos, nato pa prikaže odgovor tako v pisni kot govorni obliki s sintetiziranim glasom. Taka izmenjava je hipna (zgodi se v trenutku) in kratkotrajna (za seboj ne pusti nobenih sledi).
Kako Publio analizira vprašanje in predlaga rezultate?
Publio za generiranje odgovorov na vprašanja uporabnikov ne uporablja LLM ali druge tehnologije generativne umetne inteligence. Vsa njegova sporočila temeljijo na vnaprej določenih predlogah. Publio uporablja jezikovni model strojnega učenja, ki je naučen (naučeni jezikovni model) za prepoznavanje uporabniških vnosov in odzivanje nanje. Ta model obdeluje uporabnikovo sporočilo ali poizvedbo, ugotovi namen sporočila in poda ustrezen odgovor. Publio se uči tako, da se v jezikovni model strojnega učenja vnese velika količina označenih podatkov za učenje, ki vključujejo primere uporabniških vnosov ter njihovih namenov in možnih odgovorov.
Z obdelavo naravnega jezika ter uporabo naučenega jezikovnega modela in LLM skuša Publio razumeti uporabnikov namen in iz njegovega vprašanja izluščiti prepoznane entitete (na primer iskalni izraz, temo, avtorja, datum dokumenta, obliko dokumenta). S temi entitetami Publio izvaja iskanje in prikaže rezultat iskanja.
Če je rezultat iskanja preširok, Publio nadaljuje pogovor tako, da uporabniku zastavlja dodatna vprašanja, da bi s filtriranjem drugih entitet omejil rezultate iskanja.
Vprašanja, ki jih oblikuje Publio, so omejena na ugotavljanje namena uporabnika, da se opredeli njegov namen in oblikuje prava iskalna poizvedba za korpus vsebin, objavljenih na portalu Urada za publikacije. Rezultati, ki jih predlaga Publio, v celoti izhajajo iz tega korpusa.
Povratne informacije uporabnikov
Končni uporabnik lahko med pogovorom kadar koli da pozitivne, nevtralne ali negativne povratne informacije o svoji izkušnji z uporabo pomočnika Publio. Uporabnik lahko povratne informacije kadar koli da na lastno pobudo ali v odziv na samodejno pojavno okno za povratne informacije, ki se prikaže po nekaj sekundah nedejavnosti. Poleg tega se vprašanja, ki jih Publio ne „razume“ pravilno, samodejno evidentirajo in jih redno obdelujejo uslužbenci Urada za publikacije. Tako povratne informacije uporabnikov kot analiza vprašanj, ki jih Publio ne „razume“ pravilno, se uporabljajo za ponovno učenje jezikovnega modela s ciljem stalnega nadaljnjega izboljševanja storitev za končne uporabnike.
Obdelava osebnih podatkov
Podatki, ki so na voljo na portalu Urada za publikacije, se obdelujejo v skladu s splošno uredbo EU o varstvu podatkov in uredbo o obdelavi osebnih podatkov v institucijah, organih, uradih in agencijah EU (Dodatek 6).
Publio ne shranjuje ali arhivira ničesar − niti uporabnikovih vnosov niti informacij iz lastnih odgovorov.
Zbrane povratne informacije se anonimizirajo tako, da je onemogočeno povezovanje povratnih informacij z uporabnikom, od katerega so bile pridobljene.
Nobeni osebni podatki se na noben način ne uporabljajo za avtomatizirane postopke odločanja, sledenje ali profiliranje. Pri uporabi velikih jezikovnih modelov (LLM) za ekstrakcijo entitet je izmenjava podatkov, ki jih izmenjata Publio in LLM, omejena na vprašanje uporabnika in prvi rezultat ekstrakcije entitet, ki ga generira CLU. Osebni podatki uporabnikov se ne izmenjujejo ali pošiljajo.
Vse storitve, ki jih uporablja Publio, gostujejo v evropskih podatkovnih centrih, vsa obdelava podatkov pa je v skladu s predpisi EU o varstvu osebnih podatkov.
Sedanje omejitve
- Prepis imena z uporabo govora: čeprav se večina imen „razume“ in prepiše pravilno, samo izluščanje imen temelji na strojnem učenju in ni popolnoma pravilno. Zaradi omejitev storitve CLU se nekatera imena ne izluščijo pravilno niti potem, ko se je model naučil specifičnih primerov iz nabora podatkov.
- Datumi v francoščini in španščini: „razumevanje“ datumov je v španščini in francoščini v kompleksnejših sobesedilih manj točno. V španščini bo na primer v zvezi „entre 2016 y 2017“ brez dodatnega sobesedila leto prepoznano, ne bo pa prepoznano v zvezi „entre el año 2019 y 2020“.
- Prepoznavanje govora deluje v samo enem jeziku naenkrat.
- Prepoznavanje govora ni opremljeno s funkcijo črkovanja, ki bi uporabnikom omogočala črkovanje besed po posameznih črkah za zagotovitev točnega prepisa.
- Prepoznavanje imenskih entitet ne deluje dobro v daljših besednih zvezah v kombinaciji z „ga./gdč.“.
Urad za publikacije Evropske unije, 16. maja 2023
1. Na voljo na https://digital-strategy.ec.europa.eu/sl/library/ethics-guidelines-trustworthy-ai.
2. Sedem zahtev, ki bi jih morala izpolnjevati zaupanja vredna UI: 1) človeško delovanje in nadzor, 2)·tehnična robustnost in varnost, 3) zasebnost in dobro upravljanje podatkov, 4) preglednost, 5) raznolikost, nediskriminacija in pravičnost, 6) družbena in okoljska blaginja, 7) odgovornost.
Uredba Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci in spremembi nekaterih zakonodajnih aktov Unije (akt o umetni inteligenci). Sprejeti in podpisani akt je na voljo tukaj.
4. https://language.cognitive.azure.com/clu/projects/.
5. https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE5cCGB.
6. Uredba (EU) 2016/679, UL L 119, 4.5.2016, str. 1–88 in Uredba (EU) 2018/1725, UL L 295, 21.11.2018, str. 39–98.