Zum Inhalt springen

Maschinelles Lernen Die Technologie hinter ChatGPT kann mehr als Sprache

2017 entwickelten Forscherinnen und Forscher bei Google mit dem Transformer einen Mechanismus, der den grossen Sprachmodellen wie ChatGPT zum Durchbruch verholfen hat. Schon bald zeigte sich: Transformer können mehr als plaudern und übersetzen.

Der Chemiker und Informatiker Alain Vaucher vom IBM Lab in Rüschlikon zeichnet am Laptop eine Formel für eine neue chemische Verbindung. Auf Knopfdruck berechnet eine KI die dazu notwendigen Zutaten, eine andere KI-basierte Software das Rezept.

Schliesslich führt ein Roboter die von der KI generierte Anweisung in einem Labor aus und stellt eine neue chemische Verbindung her. RoboRXN heisst dieses System, an dessen Entwicklung im IBM Lab gearbeitet wird.

Transformer eruieren Herkunft von Edelsteinen

Saphire gehören zu den wertvollsten Substanzen, die in der Natur vorkommen. Für besondere Exemplare werden an Versteigerungen regelmässig mehrere Millionen Dollar bezahlt – pro Gramm.

Zustand und Herkunft eines Steins spielten bei der Bewertung eine zentrale Rolle, erklärt Daniel Nyfeler, Managing Director im Gübelin Gem Lab: «Ein toller Saphir aus Kaschmir kostet vielleicht zehn Millionen Dollar. Ein Stein in gleicher Qualität aus Madagaskar erzielt vielleicht eine Million.»

Spezialisten von Gübelin analysieren in Labors in Luzern, Hongkong oder New York Edelsteine und erstellen dann für die Verkäuferin einen Bericht. Dabei ist es entscheidend, dass alle drei Labors bei der Analyse jeweils zum gleichen Resultat kommen.

Damit bei einer Analyse unabhängig von Expertin oder Labor immer das gleiche Resultat herauskommt, gab Gübelin dem Centre suisse d'électronique et de microtechnique (CSEM) in Alpnach eine KI-Lösung in Auftrag. Die Software macht zuverlässige Aussagen zur Herkunft und zum Zustand eines Edelsteins.

Die Aufgabe, die RoboRXN löst, ist vergleichbar mit einer Übersetzung von einer Sprache in eine andere.
Autor: Alain Vaucher IBM Lab in Rüschlikon

In beiden Projekten arbeitet im Hintergrund ein Transformer, eine KI-Software also, die eigentlich für die Sprachverarbeitung entwickelt wurde. Statt wie bis anhin Wörter stur der Reihe nach zu verarbeiten und jeweils das letzte und das nächste Wort zu analysieren, können Transformer Begriffe in einen grösseren Kontext stellen.

Diese erhöhte Aufmerksamkeitsspanne verhalf den Sprachmodellen zum Durchbruch. Schon bald zeigte sich jedoch, dass dieser Kniff nicht nur bei Sprachanwendungen zum Erfolg führt, sondern auch auf ganz anderen Gebieten, etwa in der Chemie.

Die Aufgabe, die RoboRXN löst, sei vergleichbar mit einer Übersetzung von einer Sprache in eine andere, meint Alain Vaucher. Statt von Englisch auf Deutsch wandelt die Software die Zeichen einer chemischen Verbindung in eine andere Abfolge um.

Einblicke in das Denken gewähren

Auch im Gem Lab spielen Transformer eine wichtige Rolle bei der Auswertung der Spurenelemente, die in einem Edelstein vorkommen. Möglich sei das, weil Transformer so flexibel seien und mit unterschiedlichsten Daten umgehen können, nicht nur mit Sprache, meint Tommaso Bendinelli vom CSEM. Auch bei der Analyse von Bildinhalten kommen Transformer zum Einsatz, etwa bei der Interpretation von Röntgenbildern.

Wenn sich ein Mechanismus für Sprachverarbeitung ebenso eignet wie für die Analyse chemischer Verbindungen, dann stellen sich interessante Fragen: Ist menschliche Sprache mehr als bloss ein Kommunikationsmittel? Spielt Sprache eine grössere Rolle in unserem Denken als bisher angenommen?

Auf der Suche nach Antworten verfolgt die Kognitionsforschung die Entwicklung auf dem Gebiet der künstlichen Intelligenz intensiv, in der Hoffnung, dass die vom Menschen geschaffenen Maschinen wiederum Einblicke in das Denken ihrer Schöpferinnen und Schöpfer gewähren.

SRF 3, 17.05.2023, 10:10 Uhr

Meistgelesene Artikel