Die EU-Kommission wolle bei der Aufsicht von Technologiekonzernen, die Anwendungen im Bereich der Künstlichen Intelligenz entwickeln, um jeden Preis deregulieren. Dieser Meinung ist Daniel Leufer, KI-Experte beim weltweit tätigen Nichtregierungs-Netzwerk Access Now. Dieses wird auch vom Schweizer Aussendepartement finanziell unterstützt.
Es werden grundlegende Sicherheitsstandards und Transparenzvorschriften aufgehoben.
«Die EU-Kommission spricht von Vereinfachungen – in der Realität werden aber grundlegende Sicherheitsstandards und Transparenzvorschriften der bestehenden Gesetzgebung aufgehoben», sagt er.
Transparenz dank des EU-Gesetzes
Die Kommission will die Vereinfachung in der eben erst eingeführten Regulierung, weil die Kritik immer lauter wird. Komplizierte EU-Bestimmungen verhinderten Innovation, heisst es etwa. Darum laufe Europas Tech-Industrie Gefahr, den Anschluss zu verlieren.
Im Fokus des umfangreichen Pakets, das die EU-Digitalregeln vereinfachen soll, stehen besonders die Bereiche Datenschutz, Cybersicherheit und KI. Besonders aus den USA gab es zuletzt immer wieder Beschwerden wegen der europäischen Gesetzgebung.
Die EU-Kommission will mit den Vorschlägen auch auf den Wunsch von Mitgliedsstaaten und Unternehmen nach Entbürokratisierung reagieren und mehr Innovationen ermöglichen – erntete dafür aber bereits heftige Kritik von Daten- und Verbraucherschützern. (dpa)
Dem widerspricht Daniel Leufer. Er begleitet die europäische Gesetzgebung seit den Anfängen. Das weltweit erste KI-Gesetz der EU habe dringend nötige Transparenz geschaffen. «KI-Anwendungen in der höchsten Risikoklasse werden jetzt in einem öffentlichen Register aufgeführt. Das ist hervorragend und eine zentrale Verbesserung gegenüber früher», so Leufer.
Das KI-Gesetz der EU gewichtet KI-Anwendungen in vier Risikoklassen. Nur für die oberste Hochrisikoklasse gelten Einschränkungen. Das betrifft etwa Anwendungen, die beispielsweise Menschen nach Hautfarbe, Gesichtsausdruck oder bestimmten Bewegungsmustern kategorisieren.
In der EU ist der Einsatz solcher Software verboten, ausser zu Forschungszwecken. Allerdings hätten die Mitgliedstaaten Schlupflöcher im Gesetz geschaffen, erklärt Leufer.
Grosse Entscheidungsgewalt bei Tech-Konzernen
Einerseits seien staatliche Strafverfolgungs- und Einwanderungsbehörden ausgenommen von der Pflicht, die von ihnen eingesetzte KI-Software nach Risikoklassen der Aufsichtsbehörde zu melden. Zudem wurde es Tech-Konzernen überlassen, zu beurteilen, ob Teile ihrer Softwareentwicklung zur höchsten Risikoklasse gehörten.
«Das ist geradezu verrückt», kritisiert der KI-Experte. Denn Tech-Konzerne könnten so selbst bestimmen, ob sie von einer unabhängigen Aufsichtsbehörde kontrolliert werden wollten.
KI-Entwickler können künftig selber entscheiden, dass ihre Anwendungen nicht den Bestimmungen des europäischen Gesetzes unterworfen sind.
Jetzt will die EU-Kommission noch weiter deregulieren und zahlreiche administrative Verpflichtungen aufheben. So waren zum Beispiel KI-Entwickler bisher zu einer minimalen Selbstdeklaration verpflichtet. Sie mussten gegenüber der Aufsichtsbehörde dokumentieren, dass sie mit ihren Anwendungen nicht gegen Vorschriften im KI-Gesetz der EU verstossen.
Künftig keine Kontrollmöglichkeiten mehr?
Entfalle diese minimale Transparenzpflicht, entfalle auch jede Kontrollmöglichkeit, so Daniel Leufer. «KI-Entwickler können künftig ohne eine für die Aufsichtsbehörde nachvollziehbare Begründung entscheiden, dass ihre Anwendungen nicht den Bestimmungen des europäischen Gesetzes unterworfen sind.»
Damit würde ein Grundgedanke der Gesetzgebung der EU infrage gestellt: Vertrauen zu schaffen gegenüber KI in der breiten Bevölkerung. Denn Vertrauen bedinge minimale Transparenz, so Daniel Leufer.
Er hofft nun auf den Rat der EU-Staaten und auf das EU-Parlament. Sie werden entscheiden, ob der Wegfall einer vermeintlich kleinen administrativen Hürde im Kern nicht das ganze KI-Gesetz der EU aushöhlen könnte.
