Einführung
Das Gesetz über künstliche Intelligenz (EU-KI-Gesetz) der Europäischen Union ist eine bahnbrechende Verordnung, die darauf abzielt, die Entwicklung und den Einsatz vertrauenswürdiger KI-Systeme zu fördern. Da Unternehmen zunehmend auf KI-Technologien, einschließlich Sprach-KI und Large Language Models (LLMs), angewiesen sind, wird die Einhaltung des EU-KI-Gesetzes von entscheidender Bedeutung. In diesem Blogbeitrag geht es um die wichtigsten Herausforderungen, die die Verordnung mit sich bringt, und darum, wie Shaip Ihnen bei der Bewältigung dieser Herausforderungen helfen kann.
Das EU-KI-Gesetz verstehen
Das Gesetz über künstliche Intelligenz (EU-KI-Gesetz) der Europäischen Union führt einen risikobasierten Ansatz zur Regulierung von KI-Systemen ein und kategorisiert sie anhand ihrer potenziellen Auswirkungen auf den Einzelnen und die Gesellschaft. Da Unternehmen KI-Technologien entwickeln und einsetzen, ist das Verständnis der mit verschiedenen Datenkategorien verbundenen Risikostufen von entscheidender Bedeutung für die Einhaltung des EU-KI-Gesetzes. Das EU-KI-Gesetz klassifiziert KI-Systeme in vier Risikokategorien: minimales, begrenztes, hohes und inakzeptables Risiko.
Basierend auf dem Vorschlag für das Gesetz über künstliche Intelligenz (2021/0106(COD)) finden Sie hier die Risikokategorien und die entsprechenden Datentypen und Branchen im Tabellenformat:
KI-Systeme mit inakzeptablem Risiko:
| Datentypen | Branchen |
| Unterschwellige Techniken zur Verhaltensverzerrung | Alle |
| Ausnutzung von Schwachstellen bestimmter Gruppen | Alle |
| Soziales Scoring durch Behörden | Behörden |
| Biometrische Fernidentifizierung in Echtzeit in öffentlich zugänglichen Räumen für die Strafverfolgung (mit Ausnahmen) | Strafverfolgung |
KI-Systeme mit hohem Risiko:
| Datentypen | Branchen |
| Biometrische Identifizierung und Kategorisierung natürlicher Personen | Strafverfolgung, Grenzkontrolle, Justiz, kritische Infrastruktur |
| Management und Betrieb kritischer Infrastruktur | Versorgungsunternehmen, Transport |
| Schul- und Berufsausbildung | Bildung |
| Beschäftigung, Arbeitnehmermanagement, Zugang zur Selbstständigkeit | HR |
| Zugang zu und Nutzung wesentlicher privater und öffentlicher Dienstleistungen | Regierungsdienstleistungen, Finanzen, Gesundheit |
| Strafverfolgung | Strafverfolgung, Strafjustiz |
| Migrations-, Asyl- und Grenzkontrollmanagement | Grenzkontrolle |
| Rechtspflege und demokratische Prozesse | Justiz, Wahlen |
| Sicherheitskomponenten von Maschinen, Fahrzeugen und anderen Produkten | Fertigung, Automobil, Luft- und Raumfahrt, medizinische Geräte |
KI-Systeme mit begrenztem Risiko:
| Datentypen | Branchen |
| Emotionserkennung oder biometrische Kategorisierung | Al |
| Systeme, die Inhalte generieren oder manipulieren („Deep Fakes“) | Medien, Unterhaltung |
| KI-Systeme zur Interaktion mit natürlichen Personen | Kundenservice, Verkauf, Unterhaltung |
KI-Systeme mit minimalem Risiko:
| Datentypen | Branchen |
| KI-gestützte Videospiele | Unterhaltung |
| KI zur Spam-Filterung | Alle |
| KI in industriellen Anwendungen ohne Auswirkungen auf Grundrechte oder Sicherheit | Fertigung, Logistik |
Die obigen Tabellen bieten eine allgemeine Zusammenfassung darüber, wie verschiedene Datentypen und Branchen den im Verordnungsvorschlag definierten KI-Risikokategorien zugeordnet werden. Der eigentliche Text enthält detailliertere Kriterien und Definitionen des Geltungsbereichs. Generell sind KI-Systeme, die unzumutbare Risiken für Sicherheit und Grundrechte darstellen, verboten, während solche, die hohe Risiken bergen, strengen Anforderungen und Konformitätsbewertungen unterliegen. Für Systeme mit begrenztem Risiko gelten hauptsächlich Transparenzpflichten, während für KI mit minimalem Risiko keine zusätzlichen Anforderungen gelten, die über die bestehende Gesetzgebung hinausgehen.
Wesentliche Anforderungen an Hochrisiko-KI-Systeme nach dem EU-KI-Gesetz.
Das EU-KI-Gesetz sieht vor, dass Anbieter von Hochrisiko-KI-Systemen bestimmte Verpflichtungen einhalten müssen, um potenzielle Risiken zu mindern und die Vertrauenswürdigkeit und Transparenz ihrer KI-Systeme sicherzustellen. Die aufgeführten Anforderungen lauten wie folgt:
- Implementieren Sie ein Risikomanagementsystem um Risiken während des gesamten Lebenszyklus des KI-Systems zu identifizieren und zu mindern.
- Nutzen Sie hochwertige, relevante und unvoreingenommene Trainingsdaten das repräsentativ und frei von Fehlern und Vorurteilen ist.
- Hilft dabei ausführliche Dokumentation über den Zweck, das Design und die Entwicklung des KI-Systems.
- Gewährleisten Transparenz und Bereitstellung klarer Informationen für Benutzer über die Fähigkeiten, Einschränkungen und potenziellen Risiken des KI-Systems.
- Implementierung menschliche Aufsichtsmaßnahmen um sicherzustellen, dass KI-Systeme mit hohem Risiko der menschlichen Kontrolle unterliegen und bei Bedarf außer Kraft gesetzt oder deaktiviert werden können.
- Gewährleisten Robustheit, Genauigkeit und Cybersicherheit Schutz vor unbefugtem Zugriff, Angriffen oder Manipulationen.
Herausforderungen für Sprach-KI und LLMs
Sprach-KI und LLMs fallen aufgrund ihrer potenziellen Auswirkungen auf Grundrechte und gesellschaftliche Risiken häufig in die Hochrisikokategorie. Zu den Herausforderungen, mit denen Unternehmen bei der Entwicklung und Bereitstellung dieser Technologien konfrontiert sind, gehören:
- Erhebung und Verarbeitung hochwertiger, unvoreingenommener Trainingsdaten
- Abschwächung potenzieller Verzerrungen in den KI-Modellen
- Gewährleistung der Transparenz und Erklärbarkeit der KI-Systeme
- Implementierung wirksamer menschlicher Überwachungs- und Kontrollmechanismen
Wie Shaip Ihnen hilft, sich in Risikokategorien zurechtzufinden
Die KI-Datenlösungen und Modellbewertungsdienste von Shaip sind darauf zugeschnitten, Sie bei der Bewältigung der Komplexität der Risikokategorien des EU-KI-Gesetzes zu unterstützen:
Minimales und begrenztes Risiko
Bei KI-Systemen mit minimalem oder begrenztem Risiko kann Shaip Ihnen dabei helfen, die Einhaltung der Transparenzpflichten sicherzustellen, indem es eine klare Dokumentation unserer Datenerfassungs- und Annotationsprozesse bereitstellt.
Hohes Risiko
Für risikoreiche Sprach-KI- und LLM-Systeme bietet Shaip umfassende Lösungen, die Ihnen helfen, die strengen Anforderungen zu erfüllen:
- Detaillierte Dokumentation von Datenerfassungs- und Annotationsprozessen, um Transparenz zu gewährleisten
- Ethische KI-Daten für Sprach-KI: Bei unseren Datenerfassungsprozessen stehen die Zustimmung des Benutzers, der Datenschutz (Minimierung personenbezogener Daten) und die Beseitigung von Vorurteilen aufgrund von Demografie, sozioökonomischen Faktoren oder kulturellen Kontexten an erster Stelle. Dadurch wird sichergestellt, dass Ihre Sprach-KI-Modelle dem EU-KI-Gesetz entsprechen und diskriminierende Ergebnisse vermieden werden.
- Abmilderung von Verzerrungen in Sprachdaten: Wir verstehen die Nuancen der gesprochenen Sprache und mögliche Vorurteile, die sich in Daten einschleichen können. Unser Team analysiert Daten sorgfältig, um potenzielle Verzerrungen zu identifizieren und zu beseitigen und so fairere und zuverlässigere Sprach-KI-Systeme zu gewährleisten.
- Modellbewertung unter Berücksichtigung der Einhaltung des EU-KI-Gesetzes: Mit den Modellbewertungs- und Benchmarking-Lösungen von Shaip können Sie Ihre Sprach-KI-Modelle auf Faktoren wie Relevanz, Sicherheit und potenzielle Verzerrungen hin bewerten. Dadurch wird sichergestellt, dass Ihre Modelle die Anforderungen des EU-KI-Gesetzes an Transparenz und Fairness erfüllen.
Inakzeptables Risiko
Shaips Engagement für ethische KI-Praktiken stellt sicher, dass unsere Datenlösungen und -dienste nicht zur Entwicklung von KI-Systemen mit inakzeptablem Risiko beitragen, und hilft Ihnen, verbotene Praktiken gemäß dem EU-KI-Gesetz zu vermeiden.
Wie Shaip helfen kann
Durch die Partnerschaft mit Shaip können Unternehmen die Komplexität des EU-KI-Gesetzes sicher bewältigen und gleichzeitig modernste Sprach-KI- und LLM-Technologien entwickeln.
Das Navigieren in den Risikokategorien des EU-KI-Gesetzes kann eine Herausforderung sein, aber Sie müssen es nicht alleine schaffen. Arbeiten Sie noch heute mit Shaip zusammen, um auf fachkundige Beratung, hochwertige Trainingsdaten und umfassende Modellbewertungsdienste zuzugreifen. Gemeinsam können wir sicherstellen, dass Ihre Sprach-KI- und LLM-Projekte dem EU-KI-Gesetz entsprechen und gleichzeitig Innovationen vorantreiben.
