Das EU-KI-Gesetz. Wie reguliert Europa die Nutzung von künstlicher Intelligenz | KI im Geschäft #68

Was ist das AI-Gesetz und warum ist es wichtig für KMU (kleine und mittlere Unternehmen)?

Das AI-Gesetz ist die erste Regulierung ihrer Art in der Welt. Die erste, die künstliche Intelligenz umfassend aus einem menschenzentrierten Ansatz heraus behandelt. Es zielt darauf ab, sicherzustellen, dass KI-Systeme, die in Europa verwendet werden, sicher sind und Innovationen anregen, während grundlegende Rechte respektiert werden, mit einem besonderen Fokus auf:

• Gesundheitswesen – zum Beispiel den Schutz der Privatsphäre von Patientendaten,
• Bildung – Einhaltung der von der Europäischen Union geförderten Werte und Vermeidung von Diskriminierung,
• Grenzschutz – Gewährleistung der Sicherheit, ohne die Rechte der Bürger zu verletzen,
• öffentliche Dienstleistungen – Befolgung bewährter Praktiken im Datenschutz, dem Recht auf Information und klarer Kommunikation.

Für KMU wird das AI-Gesetz in erster Linie eine größere rechtliche Sicherheit bringen, da es den Rahmen für Innovationen klar definiert: die Prinzipien des Entwurfs, der Entwicklung und der Anwendung von KI-Systemen. Es wird es Unternehmen erleichtern, in KI-basierte Lösungen zu investieren und rechtliche Risiken zu reduzieren. Darüber hinaus werden in der gesamten Union geltende Vorschriften eine Marktfragmentierung verhindern.

Die europäischen Vorschriften zur künstlichen Intelligenz wurden am 9. Dezember 2023 vom Europäischen Parlament und dem Rat der Europäischen Union angenommen. Nun müssen sie von beiden Institutionen formal akzeptiert werden, um in Kraft zu treten.

Wesentliche Aspekte des AI-Gesetzes für Unternehmen

Das EU AI-Gesetz führt eine Reihe von Anforderungen für KI-Systeme ein, abhängig vom Risikoniveau. Diese Anforderungen umfassen unter anderem:

• die Verpflichtung zur Transparenz und zur Benachrichtigung der Nutzer im Falle von Interaktionen mit Chatbots, biometrischen Systemen oder Technologien zur Emotionserkennung,
• das Verbot der Verwendung sensibler Attribute zur biometrischen Kategorisierung,
• eine verpflichtende Konformitätsbewertung vor dem Markteintritt für Hochrisikosysteme,
• eine verpflichtende Registrierung in der EU-Datenbank – nach Inkrafttreten des AI-Gesetzes müssen KI-Systeme, die in Schlüsselbereichen wie Bildung, Beschäftigung, Gesundheitswesen und Strafverfolgung eingesetzt werden, registriert werden.

Hersteller und Unternehmen, die KI-Systeme verwenden, sind auch verpflichtet, Risiken nach der Markteinführung zu überwachen. Dies wird sich direkt auf Unternehmen auswirken, die KI-Systeme entwerfen und implementieren.

Risikostufen von KI-Systemen gemäß dem EU AI-Gesetz

Das AI-Gesetz klassifiziert KI-Systeme in vier Kategorien basierend auf ihrem Risikoniveau:

1. Unacceptable risk
2. High risk
3. Limited risk
4. Minimal risk

Schauen wir uns genauer an, wie jede Gruppe definiert wird, zusammen mit Beispielen für Systeme und deren Klassifikationen.

Unacceptable risk

Die Europäische Union verhängt ein vollständiges Verbot für die Verwendung von Technologien, die im AI-Gesetz als Systeme mit inakzeptablem Risiko aufgeführt sind. Dies sind hauptsächlich Systeme, die darauf ausgelegt sind, die Anfälligkeit von Individuen für Suggestionen zur Manipulation oder Täuschung auszunutzen, Systeme, die künstlicher Intelligenz die Fähigkeit verleihen, in entscheidenden Angelegenheiten Entscheidungen zu treffen, und solche, die zu einem Machtmissbrauch führen könnten. Beispiele für KI mit inakzeptablem Risiko sind:

• autonome Waffen, die ohne menschliche Aufsicht operieren,
• Glaubwürdigkeitsbewertungssysteme, die von Strafverfolgungsbehörden verwendet werden,
• automatische Identifizierungssysteme von Personen in öffentlichen Räumen, wie solche, die auf Überwachungskameraaufnahmen basieren,
• künstliche Intelligenzsysteme, die für Personen mit körperlichen oder geistigen Behinderungen schädlich sein könnten,
• KI, die für Strafverfolgungszwecke eingesetzt wird, mit begrenzten Ausnahmen,
• künstliche Intelligenzsysteme, die schädliche “subliminale” und manipulative Techniken nutzen.

Für Unternehmen ist die letzte Kategorie besonders wichtig. Deshalb wird Transparenz im Betrieb von Systemen, die Vorschläge an Nutzer und Kunden machen, entscheidend für die Einhaltung der neuen Gesetzgebung der Europäischen Union sein.

High risk

Künstliche Intelligenz, die als Hochrisiko-KI-Lösung eingestuft wird, muss strenge Anforderungen erfüllen, bevor sie auf den Markt kommt. Dies umfasst Konformitätsbewertungen und strenge Tests, bevor sie zur Nutzung genehmigt wird. Diese Risikokategorie umfasst acht Bereiche, wie:

• autonome Fahrzeuge,
• medizinische Diagnosesysteme,
• prädiktive Algorithmen zur Unterstützung des Justizsystems,
• Migration und Asylmanagement, Grenzkontrolle sowie
• Beschäftigungs- und Arbeitskräfteverwaltung.

Limited risk

Auf Systeme mit begrenztem Risiko, die in der Wirtschaft am häufigsten verwendet werden, haben die Gesetzgeber glücklicherweise viel weniger Aufmerksamkeit gelegt. Diese Kategorie umfasst:

• KI-Chatbots – verwendet für den Kundenservice oder zur Beantwortung häufig gestellter Fragen in Form eines freien Gesprächs,
• Emotionserkennungssysteme – verwendet, um beispielsweise Daten über die Meinungen von Kunden zu einem Unternehmen zu sammeln,
• biometrische Kategorisierungssysteme – wie die Einschätzung des Geschlechts oder Alters von Kunden in einem physischen Geschäft,
• Bild-, Audio- oder Videoerzeugung – trotz der Bedrohung durch Deepfakes wird dieser Bereich einem begrenzten Satz von Verpflichtungen unterliegen.

Low or minimal risk

KI-Lösungen mit niedrigem Risiko unterliegen keinen gesetzlichen Vorschriften. Das AI-Gesetz wird nur erwähnen, dass die Schöpfer und Nutzer solcher Lösungen freiwillig Nutzungsrichtlinien festlegen sollten. Dies betrifft Lösungen wie:

• Inhaltsempfehlungssysteme in Streaming-Diensten oder
• Chatbots auf Websites, die auf typische Kundenfragen antworten.

Welche Anforderungen stellt das AI-Gesetz an Lösungen, die von meinem Unternehmen verwendet werden?

Um zu überprüfen, ob die von einem Unternehmen verwendete künstliche Intelligenz mit dem AI-Gesetz übereinstimmt, sollten Sie:

• sie in eine der vier oben beschriebenen Risikokategorien einordnen,
• wenn es sich um KI mit hohem Risiko handelt, eine Konformitätsbewertung durchführen,
• gute Praktiken in Bezug auf KI mit niedrigem Risiko anwenden.

Schauen wir uns Beispiele für häufig verwendete KI-Lösungen von Unternehmen an. Welche Anforderungen müssen sie erfüllen?

Ein Kundenservice-Chatbot, der grundlegende Informationen über Produkte bereitstellt oder typische Kundenfragen beantwortet, wird wahrscheinlich als System mit minimalem Risiko eingestuft. Er muss:

• die Nutzer informieren, dass sie mit KI interagieren,
• die Möglichkeit bieten, an einen menschlichen Berater weitergeleitet zu werden,
• allgemeine Anforderungen an Transparenz, Nichtdiskriminierung usw. einhalten.

Ein Produktempfehlungssystem im E-Commerce wird wahrscheinlich als System mit niedrigem Risiko betrachtet. Es wird notwendig sein, die Kunden darüber zu informieren, dass sie personalisierte Empfehlungen erhalten, und die Möglichkeit zu bieten, diese zu deaktivieren.

Andererseits wird ein System für automatische medizinische Diagnosen als Hochrisikosystem eingestuft. Es muss eine strenge Bewertung vor dem Markteintritt durchlaufen und von einem Menschen überwacht werden. Darüber hinaus wird es notwendig sein, seinen Betrieb zu überwachen und Vorfälle zu melden.

Das städtische Verbrechenspräventionssystem wird ebenfalls als Hochrisiko betrachtet. Es muss die Vorschriften zum Schutz der Privatsphäre und anderer grundlegender Rechte einhalten. Sein Betrieb muss unter ständiger menschlicher Aufsicht stehen.

Es ist unklar, in welche Kategorie KI-gestützte Entscheidungssysteme fallen werden. Es ist wahrscheinlich, dass ein KI-gestütztes Rekrutierungssystem, das selbstständig Einstellungsentscheidungen trifft, als KI-Lösung mit inakzeptablem Risiko betrachtet wird. Andererseits würde ein Rekrutierungsunterstützungssystem, das Menschen bei ihrer Arbeit hilft, als Hochrisikolösung angesehen werden.

Im Interesse des Wohls der Nutzer sowie möglicher Änderungen in den Klassifikationen ist es sehr wichtig, von Anfang an ethisch und verantwortungsbewusst mit dem Entwurf und der Nutzung von KI-Systemen umzugehen.

Was sind die Folgen der Nichteinhaltung des AI-Gesetzes?

Die Nichteinhaltung des AI-Gesetzes könnte zu erheblichen Geldstrafen für Unternehmen führen, die von 35 Millionen Euro oder 7 % des globalen Umsatzes für große Unternehmen bis zu 7,5 Millionen Euro oder 1,5 % für KMU reichen. Illegale KI-Systeme könnten vom Markt genommen werden, und ihre Nutzung könnte eingeschränkt werden.

Wie bereitet man sich auf das Inkrafttreten des AI-Gesetzes vor?

Wie bereitet man ein Unternehmen, das künstliche Intelligenz nutzt, auf das Inkrafttreten des AI-Gesetzes im Jahr 2025 vor? Hier sind einige Tipps, wie KMU und Start-ups sich auf diesen Moment vorbereiten können:

• über den Fortschritt der Arbeiten und den Zeitplan für die Umsetzung der Vorschriften informiert bleiben,
• bereits verwendete KI-Systeme bewerten und an die neuen Anforderungen anpassen,
• besonderen Wert auf ethische Aspekte bei der Gestaltung von KI legen.

Zusammenfassung

Die Einführung des AI-Gesetzes ist eine große Veränderung für das KI-Ökosystem in Europa. Mit klaren und konsistenten Regeln verspricht es jedoch, die sichere und ethische Entwicklung dieser Technologie zu gewährleisten, von der insbesondere KMU und Start-ups profitieren sollten.

Das AI-Gesetz, das 2025 in Kraft treten wird, wird erhebliche Veränderungen in der Art und Weise mit sich bringen, wie kleine und mittlere Unternehmen (KMU) künstliche Intelligenz nutzen können. Für KMU bedeutet dies in erster Linie die Notwendigkeit einer sorgfältigen Überlegung und Analyse der KI-Lösungen, die sie verwenden, sowohl in Bezug auf die Einhaltung der Vorschriften als auch auf die potenziellen Auswirkungen auf Kunden und die Gemeinschaft.

Für kleine Geschäftsinhaber und Manager ist es wichtig zu verstehen, wie ihre KI-Systeme hinsichtlich des Risikos kategorisiert sind und welche Maßnahmen erforderlich sind, um sie mit den bevorstehenden Vorschriften in Einklang zu bringen. Nehmen wir zum Beispiel KI-Systeme, die im Kundenmanagement oder im Marketing verwendet werden, die zuvor recht frei eingesetzt wurden. Jetzt erfordern sie eine gründliche Analyse zur Einhaltung des AI-Gesetzes. Dies könnte neue Möglichkeiten für Unternehmen schaffen, die sich auf rechtliche Beratung im Technologiebereich spezialisiert haben, und KMU Unterstützung bei der Anpassung an diese neuen Anforderungen bieten.

Wenn Ihnen unser Inhalt gefällt, treten Sie unserer aktiven Community auf Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.