Es ist eine Zeitenwende: Das EU-Parlament verabschiedet heute erstmals ein Gesetz, das regelt, wie mit künstlicher Intelligenz umgegangen werden soll. Es ist das weltweit erste Gesetz, das KI nach Risikoklassen reguliert. SRF-EU-Korrespondent Charles Liebherr berichtet aus Brüssel.
Charles Liebherr
EU-Korrespondent
Was bedeutet die Regulierung nach Risikoklassen?
Die EU versucht, Anwendungen von künstlicher Intelligenz möglichst offen zu regulieren. Das Prinzip ist einfach: Je höher die Risiken für Menschen oder die Gesellschaft von KI-Anwendungen sind, desto stärker werden sie überwacht oder eingeschränkt. Das ist ein demokratischer, gesellschaftlicher Verhandlungsprozess.
Was ist der Sinn dahinter?
Es geht darum, Transparenz zu schaffen und die Privatsphäre der Bürgerinnen und Bürger zu schützen. Es gilt, den Schutz von Grundrechten auch in der digitalen Welt zu schützen. KI spielt eine immer grössere Rolle. Es ist aber noch nicht absehbar, wohin diese technologische Entwicklung geht. Darum müssen Firmen, die künstliche Intelligenz einsetzen, gegenüber den Aufsichtsbehörden offenlegen, auf welchen Daten ihre Modelle basieren.
Was ist in Zukunft zum Beispiel verboten?
Verboten sind Anwendungen in den höchsten Risikoklassen, das sind beispielsweise:
- Schulleiter dürfen im Klassenzimmer keine Kameras einrichten, die Schüler nach Gefühlsmerkmalen identifizieren. Das gilt auch für Arbeitgeber.
- Datenbanken, die Menschen nach Rasse, Religion, politischer Gesinnung oder Geschlecht kategorisieren.
- Wahlloses, systematisches Erfassen von Gesichtern im öffentlichen Raum.
Welche Einschränkungen werden Anbieter von KI-Technologien in der EU künftig haben?
Anwendungen müssen künftig in einer Risikoklasse eingeteilt werden. Dafür müssen Unternehmen künftig ihre Modelle und die Grundlagen ihrer Trainingsdaten gegenüber Aufsichtsbehörden offenlegen. Da geht es noch gar nicht um eine real existierende Anwendung. Das gilt insbesondere in potenziellen Hochrisikobereichen wie Gesichtserkennung oder Erfassung von biometrischen Daten.
Wird es Ausnahmen geben?
Vorgesehen sind Ausnahmen etwa in der Strafverfolgung. Die Polizei beispielsweise darf bei Kindesentführung oder beim Fahnden nach Terroristen KI-Anwendungen auch in Hochrisikobereichen einsetzen. Das gilt aber nur, wenn rechtsstaatliche Normen eingehalten werden; unabhängige Staatsanwälte und Richter müssten das genehmigen.
Die EU ist weltweite Vorreiterin. Wer wird nachziehen?
Nachziehen werden wahrscheinlich viele demokratische Staaten. Japan und die USA haben schon angekündigt, dass sie ähnliche Regulierungsansätze verfolgen werden.
Was ist von Staaten wie China oder Russland zu erwarten?
Transparenz kann von solchen nicht-demokratischen Staaten nicht erwartet werden. Wenn in den USA oder in Europa gewisse Anwendungen verboten sind, dann ist damit ja auch klar gekennzeichnet: In autoritären Staaten werden entsprechende Anwendungen genutzt, um Menschen zu überwachen oder zu diskriminieren.
