Erste konkrete Verpflichtungen für KI einsetzenden Einrichtungen

Die Verordnung der Europäischen Union über künstliche Intelligenz (KI) führt ab dem 2. Februar 2025 die ersten konkreten Verpflichtungen für Einrichtungen ein, die sich mit der Nutzung von KI befassen, von denen die wichtigste die Verpflichtung zur KI-Kompetenz ist.

Stichpunkte kompakt:

• Artikel 4 der KI-Verordnung sieht vor: „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
• Zu der KI-Kompetenz gehört neben dem Verständnis der grundlegenden Prinzipien der Funktionsweise von KI, auch das Verständnis von KI-Fähigkeiten, wie etwa Konzepten der Modellerkennung und Sprachverarbeitung.
• Was die verbotenen Praktiken anbelangt, so verbietet die KI-Verordnung die folgenden Praktiken durch die Verwendung eines KI-Systems:
  • unterschwellige, manipulative oder täuschende Techniken;
  • Ausnutzung von Vulnerabilitäten oder Schutzbedürftigkeit (Alter, Behinderung, besondere soziale oder wirtschaftliche Situationen);
  • soziale Bewertung (gilt nicht für Regierungen und nur bei ungerechtfertigter oder unverhältnismäßiger Benachteiligung im Zusammenhang mit der Datenerhebung);
  • Profilerstellung für die Bewertung des Straffälligkeitsrisikos (Verbot der präventiven Profilerstellung und Festlegung bestimmter Ausnahmen);
  • Datenbanken zur Gesichtserkennung (für die nicht zielgerichtete Erfassung von Gesichtsdaten);
  • Ermittlung des emotionalen Zustands von Personen in arbeits- und ausbildungsbezogenen Situationen (Ausnahmen aus medizinischen und sicherheitstechnischen Gründen vorgesehen);
  • biometrische Kategorisierung (in Bezug auf Artikel 9 der Datenschutz-Grundverordnung über besondere personenbezogene Daten);
  • biometrische Fernidentifizierung in Echtzeit an öffentlichen Orten (Ausnahmen sind für Überprüfungssysteme wie Sicherheitskontrollen an Flughäfen vorgesehen).

Quelle: VERORDNUNG (EU) Nr. 2024/1689 DES EUROPÄISCHEN PARLAMENTS UND DES RATES vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (die Verordnung über künstliche Intelligenz)