ChatGPT, Midjourney und Co. - Künstliche Intelligenz: Alles, was Sie zum Thema wissen müssen

Über 1000 IT-Fachleute fordern einen Forschungsstopp für künstliche Intelligenz, kurz KI. Zudem sperrt Italien den Textroboter ChatGPT wegen Datenschutzbedenken. Was steckt dahinter?

Was fordern die IT-Fachleute bezüglich KI? Tech-Experten wie Tesla-Chef Elon Musk und Apple-Mitbegründer Steve Wozniak befürchten, dass die Entwicklung künstlicher Intelligenzen ausser Kontrolle geraten könnte. Daher fordern mehr als 1000 IT-Expertinnen und Experten in einem offenen Brief, dass leistungsstarke KI-Tools während mindestens sechs Monaten nicht weiterentwickelt werden. Während dieses Forschungsstopps solle die Branche Sicherheitsstandards festlegen und Schäden durch riskante KI-Technologien abwenden.

Ist ein KI-Forschungsstopp realistisch? Die Forschung an künstlicher Intelligenz ist lukrativ. ETH-Wissenschaftshistoriker Michael Hagner glaubt daher nicht, dass die Branche einen Stopp einlegen wird. «Wenn gewisse Forscherinnen und Forscher sagen würden, «jetzt machen wir mal Pause», dann würden andere – ob in China, Russland oder in den USA – natürlich weiterarbeiten.» Die KI-Forschung sei nicht mehr aufzuhalten, so Hagner.

Wieso sperrt Italien ChatGPT? Wegen des Verdachts auf Datenschutzverstösse haben Italiens Datenschützer Ermittlungen gegen ChatGPT und deren Entwickler OpenAI eingeleitet. «Es fehlt die Rechtsgrundlage für eine massenhafte Erhebung und Speicherung personenbezogener Daten, um die der Plattform zugrunde liegenden Algorithmen zu trainieren», teilte die Behörde am Freitag mit. Daher habe sie vorläufig die Verwendung von Daten italienischer Nutzerinnen und Nutzer beschränkt. Ausserdem beanstandete sie die laxe Altersprüfung.

Einige Beispiele für KI-Systeme

Als künstliche Intelligenz, kurz KI, werden Systeme bezeichnet, die durch die Auswertung komplexer Datensätze Vorhersagen machen sowie Texte, Bilder, Audios und Videos generieren können. Die Systeme basieren auf maschinellem Lernen und werden mit riesigen Datenmengen gefüttert.

Seit dem vergangenen November sorgt der Textroboter ChatGPT von OpenAI für Wirbel. Die Online-Software kann innert Sekunden auf Befehl Texte erstellen, Fragen beantworten und Dialoge führen. Google ist mit dem KI-Tool Bard nachgezogen.

Apps wie Midjourney , Lensa, DALL-E 2 und FaceApp erstellen mittels künstlicher Intelligenz auf Anweisung praktisch jedes beliebige Bild. Diese wirken zwar täuschend echt, sind aber «Deepfakes» – also komplett durch künstliche Intelligenz erzeugt und niemals so fotografiert worden.

Es gibt auch KI-Systeme, die Videos fälschen können, etwa die Google-Anwendung Dreamix . Andere Anwendungen künstlicher Intelligenz können anhand weniger Sekunden Audiomaterials die Stimme jedes beliebigen Menschen täuschend genau nachahmen.

Welche Ängste weckt künstliche Intelligenz? Nebst den Datenschutzbedenken und der Befürchtung, dass KI ausser Kontrolle geraten könnte, kursiert die Angst, dass die Fehlerhaftigkeit der Systeme zu Problemen führen kann. Die KI könnte falsche Ratschläge erteilen sowie zur Verbreitung von Fakenews und Diskriminierung beitragen. Denn die Algorithmen vertreten primär die europäische, männliche Perspektive, wie Medienphilosoph Roberto Simanowski betont . Am Montag warnte die Polizeibehörde Europol zudem, dass Kriminelle bereit seien, KI für Cyberkriminalität zu nutzen.

Ein Beispiel für die Verbreitung von Fakenews: Kürzlich kursierten Bilder der Verhaftung des amerikanischen Ex-Präsidenten Donald Trump auf Social Media, praktisch zeitgleich machten Fotos des russischen Präsidenten Wladimir Putin die Runde, wie er vor seinem chinesischen Amtskollegen Xi Jinping niederkniet. Auch Bilder von Papst Franziskus in einer weissen Daunenjacke gingen viral. Es sind eindrückliche Aufnahmen mit einem Haken: Sie wurden innert weniger Sekunden mithilfe künstlicher Intelligenz erstellt.

• 

  Wurde Trump wirklich verhaftet? Dass dieses Bild ein Deepfake ist, lässt sich bei genauem Hinsehen etwa an den weich gezeichneten Haaren des Ex-Präsidenten erkennen.

  Twitter/@EliotHiggins

• 

  Papst Franziskus in der hippen, weissen Daunenjacke: So sehr wir uns diesen Anblick wünschen, das Bild wurde von einer künstlichen Intelligenz erstellt.

  Twitter via @skyferrori

• 

  Ebenfalls ein Bild mit grosser politischer Brisanz: der Kniefall von Russlands Staatsoberhaupt Wladimir Putin vor Chinas Präsident Xi Jinping. Auch dieses Bild wurde von einer KI generiert.

  Twitter via @Amanda_Florian

Ersetzt KI bald Jobs von Journalistinnen und Fotografen? Die Text- und Bildroboter weisen eine grosse Schwäche auf: Die künstliche Intelligenz arbeitet nicht mit Wahrheiten, sondern mit Wahrscheinlichkeiten. Grundlage des Algorithmus sind Millionen von Texten, die ein statistisches Modell zur Berechnung von Wortfolgen bilden. So können Textroboter zwar Berichte schreiben, die Fakten können aber falsch sein. Gut möglich also, dass Textroboter dereinst als Assistenten dienen und gewisse Jobs erleichtern. Die Gefahr, dass KI bald den Menschen ersetzt, stufen Expertinnen und Experten jedoch als gering ein.

Ergreift die Politik KI-Massnahmen? Im Dezember hat sich der Rat der Europäischen Union auf eine gemeinsame Ausrichtung in puncto künstlicher Intelligenz geeinigt. Ein Gesetz soll gewährleisten, dass KI-Systeme sicher sind und die Grundrechte der EU gewahrt bleiben. Anwendungen mit hohem Missbrauchspotenzial will die EU kontrollieren oder verbieten. Auch im Europarat gibt es Bestrebungen, KI-Anwendungen zu regulieren. Eine Beratergruppe erarbeitet bis im November einen Rechtsrahmen zur Kontrolle von künstlicher Intelligenz. Die Schweiz beteiligt sich mit einer Delegation an der Ausgestaltung dieses Regelwerks zur KI .

Unesco fordert strengere ethische Regeln für KI

Die Entwicklung von KI-Systemen müsse rechtsstaatlichen Grundsätzen folgen und es müsse eine Rechenschaftspflicht eingeführt werden, sagte Unesco-Generalsekretärin Audrey Azoulay am Donnerstag in Paris. Eine Selbstregulierung der Industrie reiche nicht aus, um Gefahren abzuwenden, die durch die Weiterentwicklung von KI-Systemen drohten. Azoulay rief zur Umsetzung einer Empfehlung zu künstlicher Intelligenz auf, die die Unesco 2021 verabschiedet hatte.

Zur Umsetzung der Empfehlung in Deutschland hat die Deutsche Unesco-Kommission eine Studie vorgelegt, die zeigt, dass in vielen Bereichen grundsätzlicher Nachholbedarf besteht. Dies gilt zum Beispiel für Regeln zur Vermeidung diskriminierender KI wie auch für die Sicherstellung von mehr Diversität bei der Entwicklung von KI-Systemen. Die Unesco versteht ihre Empfehlungen als eine wichtige Ergänzung der anstehenden EU-Regulierung zu künstlicher Intelligenz. (awp)

«Tagesschau» 19:30 Uhr

Mehr zum Thema sehen Sie heute Abend um 19:30 Uhr in der «Tagesschau» auf SRF 1.