Universal Chat

Schritt 2 von 7

Risikoklasse

Verstößt der Einsatz gegen eine verbotene Praxis (Art. 5 Abs. 1 KI-VO)?

Die verbotenen Praktiken einmal durchsehen (aufklappbare Liste) und bestätigen. Bereits ein Treffer macht den Einsatz unzulässig.

Die 8 Punkte im Detail anzeigen

Manipulative oder täuschende Techniken (lit. a)
Ausnutzung von Schwäche oder Schutzbedürftigkeit (lit. b)
Social Scoring (lit. c)
Risikobewertung von Straftaten allein durch Profiling (lit. d)
Ungezieltes Auslesen von Gesichtsbildern (lit. e)
Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen (lit. f)
Biometrische Kategorisierung sensibler Merkmale (lit. g)
Biometrische Echtzeit-Fernidentifizierung zur Strafverfolgung (lit. h)

Wird die KI in einem Hochrisiko-Bereich nach Anhang III eingesetzt?

Die Bereiche einmal durchsehen (aufklappbare Liste). Besonders praxisrelevant: Recruiting/Entscheidungen im Arbeitsverhältnis und Kreditwürdigkeit.

Die 8 Punkte im Detail anzeigen

Biometrische Identifizierung oder Kategorisierung
Sicherheitsbauteil in kritischer Infrastruktur
Allgemeine oder berufliche Bildung (z.B. Prüfungsbewertung, Zulassung)
Beschäftigung: Recruiting oder Entscheidungen im Arbeitsverhältnis
Zugang zu wesentlichen Leistungen (z.B. Kreditwürdigkeit, Sozialleistungen)
Strafverfolgung
Migration, Asyl oder Grenzkontrolle
Rechtspflege oder demokratische Prozesse

Welche Hochrisiko-Bereiche treffen zu?

Biometrische Identifizierung oder KategorisierungSicherheitsbauteil in kritischer InfrastrukturAllgemeine oder berufliche Bildung (z.B. Prüfungsbewertung, Zulassung)Beschäftigung: Recruiting oder Entscheidungen im ArbeitsverhältnisZugang zu wesentlichen Leistungen (z.B. Kreditwürdigkeit, Sozialleistungen)StrafverfolgungMigration, Asyl oder GrenzkontrolleRechtspflege oder demokratische Prozesse

Greift eine Ausnahme nach Art. 6 Abs. 3 KI-VO?

Kein Hochrisiko trotz Anhang III, wenn kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte besteht – z.B. bei eng gefasster Verfahrensaufgabe oder rein vorbereitender Aufgabe.

Nimmt das System Profiling natürlicher Personen vor?

Rückausnahme: Ein Anhang-III-System mit Profiling ist IMMER Hochrisiko – die Ausnahmen nach Art. 6 Abs. 3 greifen dann nicht.

Transparenzpflichten (Art. 50 KI-VO) – zutreffendes ankreuzen

Bei VARIOS-AI-Assistenten ist „Direkte Interaktion“ vorausgewählt – Nutzer müssen erkennen können, dass sie mit einer KI interagieren. Zusätzlich ankreuzen, wenn Bilder/Audio/Video erzeugt werden oder Texte veröffentlicht werden.

Direkte Interaktion mit natürlichen Personen (Chatbot/Assistent, Abs. 1)Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte (Abs. 2)Emotionserkennung oder biometrische Kategorisierung (Abs. 3)Deepfakes (Abs. 4 UAbs. 1)Texte zur Information der Öffentlichkeit (Abs. 4 UAbs. 2)

Risikohinweise / Grenzfälle

Grenzfälle mit der Rechtsabteilung klären und hier dokumentieren.

Zwischenergebnis (auf Basis der gespeicherten Antworten)

Risikoklasse: Hochrisiko
Anhang-III-Anwendungsfall: Allgemeine oder berufliche Bildung (z.B. Prüfungsbewertung, Zulassung)
Anhang-III-Anwendungsfall: Rechtspflege oder demokratische Prozesse
Keine Ausnahme nach Art. 6 Abs. 3 einschlägig