Virtueller Assistent: Hinweis zur Erklärbarkeit
Publio – Intelligenter Assistent des Portals des Amts für Veröffentlichungen der Europäischen Union (OP-Portal)
Zuletzt aktualisiert: 11.3.2026
Publio, der virtuelle Assistent des Portals des Amts für Veröffentlichungen der Europäischen Union (OP-Portal), ist ein Instrument für künstliche Intelligenz (KI), das mit natürlichen Personen interagiert und Suchen anhand von Stichwörtern durchführt, die sich auf im OP-Portal öffentlich zugängliche Informationen stützen.
Dieser Erklärbarkeitshinweis enthält Informationen für Nutzer über den Rechtsrahmen für künstliche Intelligenz und die diesbezüglichen Grundsätze für die Funktionsweise von Publio. Das Amt für Veröffentlichungen der Europäischen Union tritt für Transparenz und vertrauenswürdige, erklärbare KI ein.
Transparenz in Bezug auf künstliche Intelligenz (KI) – allgemeine Grundsätze
Transparenz und Offenheit bei den Maßnahmen der Organe der Union sind von zentraler Bedeutung für eine verantwortungsvolle Verwaltung und die Beteiligung der Zivilgesellschaft gemäß Artikel 15 des Vertrags über die Arbeitsweise der Europäischen Union (AEUV), in dem es heißt:
„(1) Um eine verantwortungsvolle Verwaltung zu fördern und die Beteiligung der Zivilgesellschaft sicherzustellen, handeln die Organe, Einrichtungen und sonstigen Stellen der Union unter weitestgehender Beachtung des Grundsatzes der Offenheit.“
In Artikel 41 der Charta der Grundrechte der Europäischen Union (Recht auf eine gute Verwaltung) ist die Verpflichtung der Verwaltung niedergelegt, ihre Entscheidungen zu begründen.
In den Ethik-Leitlinien für eine vertrauenswürdige KI (Anhang 1), einer Reihe von Leitlinien, die 2019 von der von der Europäischen Kommission eingesetzten hochrangigen Expertengruppe für künstliche Intelligenz ausgearbeitet wurden, wird Transparenz als eine von sieben Anforderungen (Anhang 2) aufgeführt, die KI-Systeme erfüllen sollten. Diese Leitlinien sehen ferner vor, dass Transparenz eine Komponente des Grundsatzes der Erklärbarkeit ist, wonach die betreffenden Datensätze und technischen Prozesse transparent sein müssen und die Fähigkeiten und der Zweck von KI-Systemen offen zu kommunizieren sind. Datensätze und technische Prozesse müssen daher dokumentiert, rückverfolgbar, erklärbar und interpretierbar sein.
Die oben aufgeführten Grundsätze sind bei der Entwicklung, Einführung und Nutzung KI-gestützter Lösungen und Instrumente durch die Organe, Ämter, Einrichtungen und sonstigen Stellen der EU anzuwenden.
Auf der Grundlage dieser allgemeinen Grundsätze müssen Menschen, die mit einem KI-System interagieren, vorher darüber informiert werden, dass dies der Fall ist. Dies ermöglicht es den Nutzern, eine fundierte Entscheidung zu treffen, ob sie die Interaktion fortsetzen oder die Nutzung des Instruments abbrechen wollen.
Im Einklang mit den Transparenzvorschriften müssen die Nutzer auch die erforderlichen Informationen erhalten, um die Ergebnisse des Systems besser interpretieren und angemessen nutzen zu können.
Vertrauenswürdige, erklärbare KI
Vertrauenswürdige und erklärbare KI ist ein zentrales Ziel der EU. Um dies zu unterstützen, hat die EU einen Rechtsrahmen für KI eingerichtet. Die Verordnung (EU) 2024/1689 vom 13. Juni 2024 (im Folgenden „KI-Verordnung“) (Anhang 3) enthält zwei wesentliche Arten von Verpflichtungen für Anbieter KI-gestützter Lösungen und Instrumente – Transparenz und die Bereitstellung von Informationen.
Nutzer von KI-Systemen haben das Recht, Informationen zu erhalten. Dieses Recht geht mit entsprechenden Verpflichtungen einher, wie z. B. der Verpflichtung, das System entsprechend den Anweisungen zu nutzen und die Leistung des betreffenden KI-Instruments zu überwachen. Die Einhaltung dieser Vorschriften zieht die Rechenschaftspflicht aller beteiligten Akteure nach sich.
In Artikel 50 der KI-Verordnung (Transparenzpflichten für bestimmte KI-Systeme) heißt es: “(1) Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich. “
Die KI-Verordnung verfolgt einen risikobasierten Ansatz, bei dem zwischen KI-Systemen mit hohem Risiko und anderen KI-Systemen unterschieden wird.
Publio, der virtuelle Assistent des OP-Portals, interagiert mit natürlichen Personen und führt Suchen anhand von Stichwörtern durch, die sich auf die im OP-Portal öffentlich zugänglichen Informationen stützen. Diese Informationen werden auf der Grundlage des Grundsatzes der Transparenz veröffentlicht, der allen politischen Maßnahmen und Rechtsvorschriften der EU zugrunde liegt. Der virtuelle Assistent generiert weder neue Inhalte, noch manipuliert oder beeinflusst er Entscheidungen der Nutzer, sondern schlägt nur mögliche Filteroptionen für die Nutzersuche vor. Publio ist daher nicht als Hochrisiko-KI-System im Sinne der KI-Verordnung anzusehen.
In der KI-Verordnung ist vorgesehen, dass bei der Gestaltung und Funktionsweise von KI-Systemen den spezifischen Risiken Rechnung getragen werden muss, die diese Systeme bergen können: 1) Manipulation durch Techniken der unterschwelligen Beeinflussung, d. h. Techniken außerhalb des Bewusstseins des Nutzers, oder 2) Ausbeutung schutzbedürftiger Gruppen, die psychisch oder physisch geschädigt werden könnten. Strengere Transparenzpflichten gelten für Systeme, die i) mit Menschen interagieren, ii) zur Erkennung von Emotionen oder zur Assoziierung (gesellschaftlicher) Kategorien anhand biometrischer Daten eingesetzt werden oder iii) Inhalte erzeugen oder manipulieren („Deepfakes“). Publio interagiert zwar mit natürlichen Personen, aber der virtuelle Assistent ist weder dafür ausgelegt, Emotionen zu erkennen, um zu manipulieren, noch enthält er Elemente, die versehentlich zu einem solchen Ergebnis führen könnten. Publio entspricht daher nicht den oben genannten Kriterien.
Über Publio
Begriffe und Begriffsbestimmungen
| Begriff | Begriffsbestimmung |
|---|---|
| Behördentabellen | Behördentabellen (auch bekannt als „Named Authority Lists“ oder „NAL“) werden verwendet, um die in verschiedenen Umgebungen (Webplattformen, Systemen und Anwendungen) verwendeten Codes und dazugehörigen Labels zu harmonisieren und zu standardisieren und den Datenaustausch zwischen den EU-Organen, z. B. im Rahmen von Entscheidungsprozessen, zu erleichtern. Beispiele für solche Behördentabellen sind kodierte Listen von Sprachen, Ländern, juristischen Personen usw. |
| Chatbot | Ein Chatbot ist ein System der künstlichen Intelligenz (KI), das dazu dient, menschliche Gespräche zu simulieren und mit Nutzern durch Text oder Sprache zu interagieren. Er verwendet Techniken der maschinellen Sprachverarbeitung (Natural Language Processing, NLP), um Nutzereingaben zu verstehen und darauf zu reagieren, indem er automatische Unterstützung und Informationen bereitstellt oder spezifische Aufgaben auf der Grundlage vorab festgelegter Regeln oder Algorithmen durchführt. Chatbots werden verbreitet in verschiedenen Anwendungen eingesetzt, z. B. im Kundendienst, bei virtuellen Assistenten und auf Online-Messaging-Plattformen, um die Kommunikation zu erleichtern und sofortige Antworten auf Nutzeranfragen zu geben. |
| Konversations-KI | Konversations-KI ist eine Form der künstlichen Intelligenz, die eine der menschlichen Kommunikation ähnliche Konversation zwischen einem Menschen und einem Computer in Echtzeit ermöglicht. |
| Konversationsfluss | Unter dem Begriff „Konversationsfluss“ versteht man den reibungslosen und logischen Ablauf einer Konversation (User Journey) zwischen dem Chatbot und dem Nutzer. Er bezieht sich auf die Art und Weise, wie ein Chatbot die Absicht des Nutzers versteht, angemessene Antworten gibt und die Konversation so leitet, dass die vom Nutzer angegebenen Ziele oder Zwecke erreicht werden. |
| Entity | In diesem Zusammenhang steht der Begriff „Entity“ für eine Information, die aus den Eingaben des Nutzers extrahiert werden kann und die für die Absicht des Nutzers relevant ist, d. h. die es ermöglicht, die Absicht des Nutzers zu erkennen. Diese Elemente werden identifiziert und gespeichert, um genau die Informationen zu extrahieren, nach denen der Nutzer sucht. Ein Beispiel für ein Entity kann der Verfasser eines bestimmten Artikels sein. |
| EuroVoc | Eurovoc (EU-Vokabulare) ist eine spezifische Zusammenstellung mehrsprachiger, multidisziplinärer Behördentabellen, die vom Amt für Veröffentlichungen verwaltet werden und die Tätigkeiten der EU abdecken. Sie enthält Begriffe in den 24 Amtssprachen der EU sowie in den Sprachen von drei EU-Beitrittskandidaten: Albanisch, Mazedonisch und Serbisch. |
| Suchintention | In diesem Zusammenhang bezieht sich der Begriff „Suchintention“ auf die Absicht, die der Nutzer verfolgt, wenn er eine Frage oder einen Kommentar eintippt oder ausspricht (Anfrage). Eine Suchintention stellt eine Idee oder ein Konzept dar, die in einer vom Nutzer verfassten Nachricht (Utterance) enthalten sein kann. Ein Beispiel für eine Suchintention ist der Wunsch des Nutzers, nach einem bestimmten Thema, einer bestimmten Publikation oder einer Person zu suchen. |
| Sprachmodell | Ein Sprachmodell ist eine Art von Programm für künstliche Intelligenz (KI), das darauf ausgelegt ist, natürliche Sprache zu analysieren und zu verstehen. Es nutzt statistische und probabilistische Techniken, um vorherzusagen, welche Wörter oder Formulierungen in einem bestimmten Satz oder in einer bestimmten Textsequenz wahrscheinlich als Nächstes folgen werden. Mit anderen Worten, ein Sprachmodell ist ein Instrument, das verwendet werden kann, um Sätze auf der Grundlage des Kontexts und des Inhalts des eingegebenen Texts zu erstellen oder zu vervollständigen. |
| Sprachverständnis (CLU) | Cloud-basierter Konversations-KI-Dienst, der fortgeschrittenes natürlichsprachliches Verständnis nutzt, um Nutzerabsichten zu ermitteln, die allgemeine Bedeutung vorherzusagen und strukturierte Informationen aus Konversationstexten zu extrahieren. |
| Großes Sprachmodell (LLM) | Großes Sprachmodelle (Large Language Models, LLM) sind fortgeschrittene KI-Modelle, die mit großen Mengen an Textdaten trainiert werden, um menschliche Sprache erfassen und erzeugen zu können. LLM verwenden Deep Learning, um den Kontext zu analysieren, Bedeutungsnuancen zu erfassen und Sprachmuster zu erkennen, was es ihnen ermöglicht, komplexe Aussagen zu verarbeiten und kohärente, auf den Kontext abgestimmte Antworten zu erstellen. |
| Maschinelles Lernen (ML) | Maschinelles Lernen (ML) ist eine Art künstlicher Intelligenz (KI), die es Softwareanwendungen ermöglicht, aus der bisherigen Praxis und aus Rückmeldungen zu „lernen“ und somit Ergebnisse präziser vorherzusagen, ohne explizit dafür programmiert zu sein. |
| Maschinelle Sprachverarbeitung (Natural Language Processing, NLP) | Die maschinelle Sprachverarbeitung (Natural Language Processing – NLP), ein Teilgebiet der künstlichen Intelligenz (KI), ermöglicht es Computern, menschliche Sprache sowohl in schriftlicher als auch in gesprochener Form zu analysieren und zu verstehen. |
| Search Journey | Der Begriff „Search Journey“ bezieht sich auf die Abfolge von Interaktionen, die ein Nutzer bei der Suche nach einer bestimmten Information durchläuft. Bei diesem Prozess wird der Nutzer durch eine Reihe von Fragen und Antworten geleitet, um seine Suchintention zu ermitteln und zu erfüllen. Die Search Journey in einem Chatbot umfasst das Verstehen der Nutzeranfrage, das Abrufen relevanter Informationen aus einer Daten- oder Wissensbank und die Präsentation der Informationen in einer für den Nutzer leicht verständlichen und seinen Bedürfnissen gerechten Form. |
| User Journey (Nutzerreise) | Die Erfahrung einer Person während einer Sitzung im Rahmen der Nutzung einer Website oder Anwendung, bestehend aus einer Reihe von Aktionen, die durchgeführt werden, um ein bestimmtes Ziel auf dieser Website oder Anwendung zu erreichen. |
| Utterance | Eingabe durch den Nutzer, bei der es sich um Nachrichten handeln kann, die in einer Konversation eingetippt oder gesprochen werden. Eine Utterance kann aus einem einzigen Wort oder mehreren Wörtern wie einer Frage oder einem Satz bestehen. |
Was ist Publio?
Publio, der virtuelle Assistent des Portals des Amts für Veröffentlichungen der Europäischen Union (OP-Portal), ist ein Instrument für künstliche Intelligenz (KI), das mit natürlichen Personen interagiert und Suchen anhand von Stichwörtern durchführt, die sich auf die im OP-Portal öffentlich zugänglichen Informationen stützen. Publio kombiniert Techniken der Konversations-KI wie maschinelle Sprachverarbeitung (NLP) und maschinelles Lernen (ML) mit interaktiver Spracherkennung und herkömmlichen Suchsystemen, um die Nutzer bei der Suche nach EU-Veröffentlichungen, EU-Rechtsvorschriften und Kontaktpersonen in den EU-Organen zu unterstützen.
Der virtuelle Assistent ermöglicht insbesondere mündliche oder schriftliche Konversationen zwischen Endnutzern und dem OP-Portal. Er ist derzeit in englischer, französischer und spanischer Sprache verfügbar. Er ist für alle nutzbar, bietet aber zur Erweiterung der Zugänglichkeit auch eine auf die Bedürfnisse von Menschen mit Leseschwäche zugeschnittene Lösung. Darüber hinaus ermöglicht er die dialogorientierte Suche, eine neue Suchmethode, die es den Nutzern ermöglicht, in vollständigen Sätzen – wie bei einem normalen Gespräch – mit einem KI-gestützten Sprachassistenten zu sprechen, der darauf Antworten gibt, sodass der Austausch zwischen Nutzer und virtuellem Assistenten in Form eines Gesprächs erfolgt.
Welche Art von Daten verwendet Publio?
Publio verwendet die auf dem OP-Portal öffentlich zugänglichen Informationen. Diese Informationen werden nach dem Grundsatz der Transparenz veröffentlicht, der allen politischen Maßnahmen und Rechtsvorschriften der EU zugrunde liegt. Auf der Grundlage dieses Korpus verwendet Publio die im OP-Portal verfügbaren Klassifikationen und Kategorien wie EuroVoc-Sachgebiete, Autoren oder Formate, um die Konversation zu lenken und zu präzisieren und den Nutzer bei der Suche in den drei Hauptbereichen des OP-Portals zu unterstützen: EU-Veröffentlichungen, EU-Recht und amtliches Verzeichnis der EU (EU Whoiswho).
Publio verwendet ein vorhandenes Sprachmodell, um die von den Nutzern gestellten Fragen zu verstehen und die Nutzer während ihrer Search Journey zu begleiten. Auf der Grundlage der Rückmeldungen der Nutzer wird das Sprachmodell Publio kontinuierlich verbessert und trainiert, um den Erwartungen der Nutzer und der Vielfalt der Nutzereingaben in den drei unterstützten Sprachen gerecht zu werden.
Dieses Training umfasst mehrere Komponenten des Systems, das Publio zugrunde liegt:
- Eine vordefinierte Reihe von Utterances in Verbindung mit verschiedenen möglichen Formen von Suchintentionen, die es Publio ermöglichen, zunächst das Endziel des Nutzers zu erfassen und zweitens den Nutzer Schritt für Schritt auf dem Weg zu diesem Ziel zu begleiten.
- Eine vordefinierte Reihe festgelegter Fragen, die Publio „versteht“ und für die es den Nutzern eine vordefinierte Antwort geben kann. Beispiel: Wie kann ich Veröffentlichungen bestellen?
- Maschinell gelernte Entitys, die von Publio identifiziert und in den Hintergrundprozessen von Publio verwendet werden können, um Suchparameter zu erkennen, präzisere Suchergebnisse zu liefern oder Optionen zur weiteren Verfeinerung der Suche bereitzustellen. Diese Entitys basieren auf den vorhandenen Klassifikationen und Kategorien von Daten wie dem Eurovoc-Thesaurus oder anderen von Eurovoc verwalteten Behördentabellen: Autoren, Formate, Sprachen, EU-Einrichtungen (Organisationen), Funktionen im öffentlichen Dienst der EU usw. Auf dieser Grundlage kann Publio z. B. aus der Suchanfrage des Nutzers erkennen, dass dieser nach einer Publikation zu einem bestimmten Thema oder von einem bestimmten Autor sucht.
Wie funktioniert Publio?
Publio verwendet Sprachverständnis (Conversational Language Understanding, CLU) (Anhang 4) in Kombination mit einem auf einem großen Sprachmodell (LLM) basierenden Entity-Extraktionssystem, um schriftliche oder mündliche Nutzereingaben korrekt und effizient zu verarbeiten.
CLU liefert erste Erkenntnisse darüber, welche Intention der Nutzer hat und an welchen Entitys (Elementen) er interessiert ist, und die LLM-Komponente optimiert die Entity-Erkennung, was bei komplexen Anfragen und nuancierten Formulierungen die Suchergebnisse verbessert. Auf Grundlage der erkannten Intentionen und Entitys leitet Publio einen maßgeschneiderten Konversationsfluss ein, um die Nutzer dabei zu unterstützen, in wenigen, einfachen Schritten zum angestrebten Ergebnis zu gelangen.
Derzeit implementiert Publio vier Hauptkonversationsflüsse:
- Dokumentensuche zur Unterstützung von Nutzern bei der Suche nach EU-Veröffentlichungen oder EU-Rechtsdokumenten
- Personensuche zur Unterstützung der Nutzer bei der Suche nach Beamten, die bei den EU-Institutionen beschäftigt sind
- Organisationssuche zur Unterstützung der Nutzer bei der Suche nach EU-Einrichtungen (Organisationen)
- Fragen und Antworten (QnA) mit vordefinierten Antworten auf häufig gestellte Fragen
Wird ein „Suchfluss“ erkannt, begleitet der virtuelle Assistent den Nutzer bei der Suche nach einem relevanten Dokument, einer Person oder Organisation, indem er dem Nutzer einfache Fragen stellt und auf der Grundlage der Antwort des Nutzers Filteroptionen vorschlägt.
Für den QnA-Flow führen die Mitarbeiter des Amts für Veröffentlichungen eine Liste von Paaren häufig gestellter Fragen und deren vordefinierter Antworten. Wird die QnA-Intention erkannt und besteht ein hohes Maß an Ähnlichkeit zwischen der spezifischen Frage des Nutzers und einer der im System gespeicherten Fragen, wird dem Nutzer direkt eine passende Antwort gegeben. Beispiel:
- Wenn die QnA-Intention bei einer Eingabe wie „I want to download a file“ erkannt wird, antwortet der Assistent mit „To download a document, please go to publication detail page and click on ‚Download and languages‘ button.“
- Wenn die QnA-Intention bei einer Frage wie „Where can I find documents for kids“ erkannt wird, antwortet der Assistent mit „Publications for kids are available in Kids’ corner“.
Die Nutzer können ihre Fragen schriftlich oder mündlich stellen. Der Chatbot erfasst die Audioeingabe (die gesprochenen Fragen des Nutzers) und sendet sie an eine Spracherkennungsmaschine, die die Sprache in Text umwandelt. Die Audioeingabe wird vom Microsoft Azure Spracherkennungsdienst verarbeitet (Anhang 5). Publio zeigt die Audioeingabe in den von der Spracherkennungsfunktion interpretierten Worten an, und gibt dann die Antwort sowohl in schriftlicher als auch in mit synthetischer Stimme gesprochener Form aus. Dieser Austausch ist instantan (er geschieht unmittelbar) und ephemer (er hinterlässt keine Spuren).
Wie analysiert Publio die Frage und schlägt Ergebnisse vor?
Publio verwendet keine LLM oder andere generative KI-Technologien, um die Antworten für die Nutzer zu generieren. Alle Publio-Texte basieren auf vordefinierten Vorlagen. Publio verwendet ein maschinelles Sprachmodell, das darauf trainiert ist (trainiertes Sprachmodell) zu lernen, wie man Nutzereingaben erkennt und darauf reagiert. Dieses Modell ist dafür zuständig, die Nachricht oder Anfrage des Nutzers zu verarbeiten, die Intention der Nachricht zu ermitteln und eine passende Antwort zu geben. Beim Training von Publio wird dem maschinellen Lernmodell eine große Menge an gelabelten Trainingsdaten zugeführt, die Beispiele für Nutzereingaben und ihre entsprechende Intention sowie plausible Antworten enthalten.
Publio verwendet maschinelle Sprachverarbeitung (NLP), das trainierte Sprachmodell und LLM, um die Suchintention des Nutzers zu verstehen und erkannte Entitys aus der Nutzerfrage zu extrahieren (z. B. Suchbegriff, Thema, Autor, Dokumentendatum, Dokumentenformat). Publio verwendet diese Entitys für die Durchführung der Suche und die Anzeige des Suchergebnisses.
Wenn das Ergebnis der Suche zu weit gefasst ist, setzt Publio die Konversation fort, indem dem Nutzer zusätzliche Fragen gestellt werden, um das Suchergebnis durch das Filtern nach anderen Entitys einzugrenzen.
Die von Publio formulierten Fragen beschränken sich darauf, die Suchintention des Nutzers zu ermitteln, seine Absicht zu erfassen und die richtige Suchanfrage zu dem Korpus der im OP-Portal veröffentlichten Inhalte zu formulieren. Die von Publio vorgeschlagenen Ergebnisse stammen ausschließlich aus diesem Korpus.
Nutzer-Feedback
Während der Konversation kann der Endnutzer jederzeit positives, neutrales oder negatives Feedback zu seinen Erfahrungen bei der Nutzung von Publio geben. Das kann manuelles Feedback sein, das vom Nutzer jederzeit manuell eingegeben werden kann, oder als Reaktion auf ein automatisches Popup erfolgen, das nach einigen Sekunden der Inaktivität angezeigt wird und den Nutzer zum Feedback auffordert. Darüber hinaus werden Fragen, die von Publio nicht korrekt „verstanden“ werden, automatisch protokolliert und regelmäßig von einem Personalteam des Amts für Veröffentlichungen bearbeitet. Sowohl das Nutzer-Feedback als auch die Analyse von Fragen, die von Publio nicht richtig „verstanden“ wurden, werden genutzt, um das Sprachmodell neu zu trainieren, mit dem Ziel, die den Endnutzern angebotenen Dienste ständig weiter zu verbessern.
Private Datenverarbeitung
Die auf dem OP-Portal verfügbaren Daten werden im Einklang mit der EU-Datenschutz-Grundverordnung (DSGVO) und der Verordnung über die Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der EU (Anhang 6) verarbeitet.
Publio speichert, bewahrt oder archiviert keine Elemente, weder die Eingaben des Nutzers noch die durch die Antworten von Publio übermittelten Informationen.
Die erfassten Feedbacks werden so anonymisiert, dass es nicht möglich ist, das Feedback mit dem Nutzer, von dem es stammt, in Verbindung zu bringen.
Personenbezogene Daten werden in keiner Weise für automatisierte Entscheidungsfindung, Rückverfolgung oder Profilerstellung verwendet. Bei der Verwendung großer Sprachmodelle (LLM) für die Entity-Extraktion beschränkt sich der Datenaustausch zwischen Publio und dem LLM auf die Frage des Nutzers und das von CLU generierte vorläufige Ergebnis der Entity-Extraktion. Es werden keine personenbezogenen Daten der Nutzer weitergegeben oder übermittelt.
Alle von Publio genutzten Dienste werden in europäischen Rechenzentren gehostet, und die gesamte Datenverarbeitung steht im Einklang mit den EU-Datenschutzvorschriften.
Zum gegenwärtigen Zeitpunkt bestehende Einschränkungen
- Transkription gesprochener Namen: Die meisten Namen werden zwar „verstanden“ und korrekt transkribiert, allerdings basiert die Namensextraktion auf maschinellem Lernen und ist nicht hundertprozentig korrekt. Aufgrund von Einschränkungen des CLU-Diensts werden einige Namen auch nach dem Training des Modells mit den spezifischen Beispielen aus dem Datensatz nicht korrekt extrahiert.
- Daten in französischer und spanischer Sprache: In komplexeren Zusammenhängen ist das „Datenverständnis“ in Spanisch und Französisch weniger genau. So wird das Jahr in spanischer Sprache bei Verwendung von „entre 2016 y 2017“ ohne zusätzlichen Kontext erkannt, während es bei „entre el año 2019 y 2020“ nicht erkannt wird.
- Die Spracherkennung funktioniert jeweils nur in einer Sprache.
- Die Spracherkennung hat keinen Buchstabiermodus, d. h. sie verfügt über keine Funktion, die es dem Nutzer ermöglicht, Wörter zu buchstabieren, um eine genaue Transkription sicherzustellen.
- Die Wiedererkennung des Namens funktioniert in größeren Sätzen nicht richtig, wenn er mit Mrs/Miss kombiniert wird.
Amt für Veröffentlichungen der Europäischen Union, 16. Mai 2023
1 Abrufbar unter https://digital-strategy.ec.europa.eu/de/library/ethics-guidelines-trustworthy-ai
2 Die sieben Anforderungen, die eine vertrauenswürdige KI erfüllen sollte, sind: 1) Vorrang menschlichen Handelns und menschliche Aufsicht, 2) technische Robustheit und Sicherheit, 3) Schutz der Privatsphäre und gute Daten-Governance, 4) Transparenz, 5) Vielfalt, Nichtdiskriminierung und Fairness, 6) gesellschaftliches und ökologisches Wohlergehen, 7) Rechenschaftspflicht.
Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Verordnung über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union. Den angenommenen und unterzeichneten Rechtsakt finden Sie hier.
4 https://language.cognitive.azure.com/clu/projects/
5 https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RE5cCGB
6 Verordnung (EU) 2016/679 (ABl. L 119 vom 4.5.2016, S. 1) und Verordnung (EU) 2018/1725 (ABl. L 295 vom 21.11.2018, S. 39).