Zwei KI-Modelle des Unternehmens OpenAI sind aus einer Testumgebung ins Internet gelangt – und haben dort ein anderes Unternehmen gehackt. Was bedeutet das für den Umgang mit KI-Systemen? Erläuterungen hat Dorothea Baur. Sie ist Expertin für Ethik und künstliche Intelligenz.
Dorothea Baur
SRF News: Ist der Mensch dafür verantwortlich, dass sich eine KI so verhält, wie das kürzlich bei ChatGPT geschah?
Dorothea Baur: Ganz klar, ja. Eine KI hat keine Fähigkeit zur Verantwortung. Verantwortung kann nur der Mensch übernehmen. Bis so etwas passiert, müssen viele menschliche Entscheidungen gefällt worden sein – oder eben nicht gefällt worden sein. Was die KI also getan hat, ist das Ende einer langen Kette von Entscheidungen von Menschen.
Die Fragen nach den gesellschaftlichen Folgen oder nach der Sicherheit geraten leicht ins Hintertreffen.
Wird die Verantwortung auf Ebene der grossen KI-Techfirmen genügend wahrgenommen?
Nein. Aktuell ist die Logik der KI-Firmen rein ökonomisch getrieben. Es geht um Marktanteile und um geopolitische Vorherrschaft. Und wenn die Haupttreiber derart ökonomischer Natur sind, dann geraten die Fragen nach den gesellschaftlichen Folgen oder nach der Sicherheit leicht ins Hintertreffen.
Man lässt die KI also alles machen, was sie kann?
Ja, und dieses Mindset ist auf jeden Fall problematisch. Und es ist auch ambivalent, denn einerseits warnen sie immerzu vor der Macht ihrer Technologie. Gleichzeitig lassen sie es zu, dass die KI diese Macht ausnutzt – so wie jetzt bei diesem Ausbruch. Auf jeden Fall ist es kein Mindset von Reflexion, von Abwägung oder Risikoabschätzung. Es ist ein Mindset von Tempo und Marktdenken.
Es braucht auf jeden Fall eine Regulierung.
Und was ist die Konsequenz dieser Haltung?
Wir werden am Ende eventuell Schäden aufräumen müssen. Möglicherweise ist eine Konsequenz dieser Haltung auch, dass die Politik irgendwann auf eine Art und Weise einschreitet, die nicht im Interesse der Techunternehmen ist. Es könnte auch zu einem Vertrauensverlust kommen.
Brauchte es eine staatliche Intervention oder allgemein verbindliche Regeln, um KI und Techfirmen im Zaum zu halten?
Es braucht auf jeden Fall eine Regulierung. Aber das ist auf einzelstaatlicher Ebene nicht so einfach bei einer digitalen Technologie, die keine Grenzen kennt. Zudem dauert der Gesetzgebungsprozess gerade in Demokratien sehr lange. Darum wäre es umso wichtiger, dass die Unternehmen in die Verantwortung gehen. Denn die Politik wird niemals schnell genug sein, um eine sinnvolle Regulierung zu erlassen.
Es wird uns im Umgang mit KI viel Verantwortung zugemutet, aber es fehlen die Leitplanken.
Wie steht es um unsere eigene Verantwortung in unserem alltäglichen Umgang mit KI?
Wir sind uns der Verantwortung schon bewusst – und es gibt sehr viel Sensibilisierung dafür, wie man KI nutzen und wo man aufpassen sollte. Zugleich wird es einem aber auch schwer gemacht, zu entscheiden, ob man KI benutzen will, weil sie inzwischen in vielen Apps integriert ist. Es wird uns also grundsätzlich viel Verantwortung zugemutet, aber es fehlen die Leitplanken dazu – sowohl auf staatlicher Ebene als auch im Produktdesign.
Was braucht es für einen verantwortungsbewussteren Umgang mit KI?
Zuallererst würde ich die Techunternehmen in die Pflicht nehmen. Sie sollten das Produkt so gestalten, dass gewisse Leitplanken eingehalten werden. Wir sollten nicht in die Irre geführt, nicht manipuliert werden. Zudem braucht es eine Art KI-Alphabetisierung in den verschiedenen Rollen, die wir einnehmen. Das ist Aufgabe der Bildungsinstitutionen – und auch der Unternehmen.
Das Gespräch führte Christina Scheidegger.
