Eine KI als Ministerin? Was unvorstellbar klingt, wird derzeit in Albanien heiss diskutiert. Albaniens Ministerpräsident, Edi Rama, will den KI-Server «Diella» als «Ministerin» in sein Kabinett holen und sorgt damit bei der Opposition für Empörung. «Diella» soll künftig Korruption bei der Vergabe von öffentlichen Aufträgen verhindern und so das Image Albaniens reinwaschen. Wie das konkret funktionieren soll, ist noch unklar. SRF-Digitalredaktor Jürg Tschirren ordnet ein.
Jürg Tschirren
Digitalredaktor
Wie realistisch ist es, dass eine KI ein Ministeramt übernimmt?
Albaniens Verfassung schreibt vor, dass Minister geistig zurechnungsfähige Staatsbürger sein müssen, die mindestens 18 Jahre alt sind. Allein aus diesem Grund ist die Ankündigung, eine KI werde nun ein solches Ministeramt übernehmen, eher als PR-Aktion der albanischen Regierung zu verstehen. Rein technisch wären heutige KI-Systeme aber in der Lage, eng umrissene Aufgabenkataloge zu übernehmen, etwa standardisierte Prüf- und Vergabeprozesse in der Beschaffung.
Kann eine KI tatsächlich helfen, Korruption zu reduzieren, oder würden neue Risiken entstehen?
Die albanische Regierung hat keine Angaben dazu gemacht, welche menschliche Aufsicht es für die KI «Diella» geben wird, mögliche Risiken lassen sich deshalb schwer abschätzen. Die Regierung hat auch keine Angaben dazu gemacht, mit welchem Datenmaterial die KI trainiert wurde. Würde es sich um die Daten der Vergabe vergangener Regierungsaufträge handeln, bestünde die Gefahr, dass «Diella» in Zukunft die Muster vergangener Vergaben reproduziert – damit also auch mögliche Korruption.
Wie könnte die KI als «Ministerin» eingesetzt werden?
Eine KI lernt aus ihrem Trainingsmaterial bestimmte Muster erkennen und kann diese später selbst anwenden. Wird die KI zum Beispiel mit Daten von Regierungsaufträgen trainiert, die fair und frei von Korruption abgelaufen sind, könnte sie in Zukunft die Vergaben auch auf diese Weise handhaben. Allerdings besteht bei diesem Prozess immer die Gefahr, dass die KI nicht im Sinne ihrer Entwickler arbeitet, denn es handelt sich um ein nondeterministisches System – das heisst: Die Resultate, zu denen die KI kommt, lassen sich auch von den Entwicklern selbst nie ganz voraussehen.
Welche Massnahmen wären nötig, um sicherzustellen, dass die KI fair agiert?
Zum einen muss offen sein, wie «Diella» entwickelt wurde und vor allem auch, mit welchen Daten. Zum anderen muss sichergestellt sein, dass die KI ihre Arbeit in regelgebundenen Schritte vollzieht und ihre Entscheide lückenlos erklärt. Und nicht zuletzt muss die Rollenverteilung zwischen Mensch und KI so geregelt sein, dass es sich um ein mehrschichtiges System handelt, bei dem am Schluss ein Mensch die Kontrolle behält. So könnte «Diella» tatsächlich Prozesse beschleunigen, hätte aber keine unkontrollierte Eigenverantwortung.
Wie offen ist der Westen gegenüber solchen neuen Ideen?
Auch in anderen Ländern wird daran gearbeitet, mit Hilfe von KI Prozesse bei Behörden zu automatisieren. In der EU setzt die Verordnung über künstliche Intelligenz dem Einsatz von KI in kritischen Bereichen aber enge Grenzen. In der Schweiz gibt es noch kaum gesetzliche Regelungen, die sich spezifisch mit dem Einsatz von KI befassen. Die Schweiz kann es sich aber kaum leisten, in diesem Bereich stark vom Vorgehen bei den europäischen Nachbarn abzuweichen.
