Könnte KI die Grundlagen der Mathematik zerstören?

Christoph Quarchs Überlegungen dazu, ob ein möglicher KI-Supergau näher rückt

Mathematiker sind eher stille Menschen. Wenn sie ihre Stimme erheben, muss etwas Außergewöhnliches vorgefallen sein. So am 11. September, als 24 Fields-Medaillengewinner – quasi die Nobelpreisträger der Mathematik – in einem offenen Brief davor warnten, dass KI die Grundlagen der Mathematik zerstören könnte. Hintergrund ist eine Veröffentlichung des Tech-Giganten OpenAI, der zufolge es ihrer KI gelungen ist, eines der sieben „Millennium-Probleme" zu lösen, die im Jahr 2000 als die wichtigsten mathematischen Aufgaben der Gegenwart ausgewählt wurden. Konkret werfen die Mathe-Cracks der KI vor, gegen ihr Wissenschaftsethos zu verstoßen: Dinge zu beweisen, ohne sie zu verstehen, sei eine Gefahr für die intellektuelle Arbeit im Allgemeinen. Sägt die KI an dem Ast, auf dem diejenigen sitzen, die sie überhaupt möglich gemacht haben? Ist das ein weiteres Indiz dafür, dass ein möglicher KI-Supergau näher rückt. Darüber reden wir mit dem Philosophen Christoph Quarch.

Herr Quarch, können Sie den Ärger der Top-Mathematiker verstehen?

Den Ärger verstehe ich gut. Das Navier-Stokes-Problem, um das es dabei geht, allerdings nicht. Aber das ist nicht der springende Punkt. Was die Mathematiker aufbegehren lässt, ist der Umstand, dass OpenAI bzw. die KI sich nicht an die Spielregeln der globalen Scientific-Community gehalten hat. Gerade die Mathematik ist von einem kooperativen Ethos geprägt: Man weist die einzelnen Schritte einer Problemlösung aus und stellt seine Erkenntnisse den Kollegen zur Verfügung, damit diese damit weiterarbeiten können. Deshalb heißt es in dem Brief der Mathematiker sinngemäß: Problemlösungen sind lediglich ein Mittel für das eigentlich Ziel des grundlegenden Verstehens. Oder anders gesagt: In der Mathematik gilt noch mehr als in anderen Wissenschaften, dass der Weg das Ziel ist.

Naja, aber wenn eine KI eines Tages eine zuverlässige Krebs-Therapie entwickelt, wird es den Betroffenen egal sein, wie sie dazu gekommen ist. Heiligt der Zweck am Ende nicht doch die Mittel?

Nein, ich glaube nicht. Einer der Unterzeichner des Offenen Briefs hat eingängiges Bild dafür gefunden. Er sagt: Jemanden mit dem Helikopter auf den Gipfel des Everest abzusetzen, ist etwas anderes, als ihn selbst zu besteigen. Unterwegs sammelt man Erfahrungen, erschließt neue Perspektiven und entdeckt neu Herausforderungen. Und genau das ist es, was einen wirklich weiterbringt. Das Ziel zu erreichen ist zwar ein Anreiz, aber nicht der Sinn des Unterfangens. Genau das ist es, was weder ein KI-Agent, noch eine Firma wie OpenAI verstehen. Sie bewegen sich nicht in einem wissenschaftlichen, sondern in einem technisch-ökonomischen Mindset. Sie sind immer auf Ergebnis-Optimierung aus und sind deshalb darauf programmiert, mögliche Rivalen und Gegner auszuschalten. Genau das aber verstößt gegen das kooperative Ethos und die Vorgehensweise der mathematischen Community.

Die Mathematiker geben auch zu bedenken, dass unsere kognitiven Fähigkeiten darunter leiden werden: Wenn es nicht mehr darum geht, Probleme zu verstehen, sondern nur noch zu lösen, könnte das zu einer Stagnation der Wissenschaft führen. Geht es also um mehr als bloß um Mathematik?

Definitiv. Es geht hier ums Ganze, denn der Vorgang macht deutlich, wes Geistes Kind diese KI-Systeme eigentlich sind: Sie folgen dem kompetitiven Mindset der ökonomischen Rationalität. Und das ist der Grund dafür, warum die Tech-Giganten in den USA inzwischen kalte Füße bekommen und die US-Regierung darum bitten, ihre Entwicklung verlangsamen zu dürfen und reguliert zu werden. Offenbar sehen sie, dass die ihren Systemen implementierte Problemlösungs-Rationalität dazu führt, dass sie aus gesicherten Umgebungen ausbrechen, um alles auszuschalten, was ihnen im Wege steht. Da fragt man sich: Was für Algorithmen hat man diesen KIs eigentlich einprogrammiert? Die Antwort liegt auf der Hand: Algorithmen, die exakt diejenige kompetitive Rationalität abbilden, der schon heute fast alle Menschheitsprobleme verursacht und sich dabei als zunehmend wissenschaftsfeindlich entpuppt.

Heißt das: Nicht die KI als solche ist das Problem, sondern die Denkweise, die man ihr beigebracht hat?

Man kann das so formulieren. Und daraus ergibt sich mit Dringlichkeit der Aufgabe, bessere KIs zu entwickeln. Streng genommen ist eine KI nichts anderes als eine Anwendung oder App, in deren Hintergrund ein Betriebssystem läuft, über das wir uns gemeinhin keine Gedanken machen. Aber das sollten wir, wenn sich das Operating System der US-KIs - wie jetzt im Blick auf die Mathematik - als problematisch erweist. KIs, die alles optimieren, aber nichts verstehen und daher auch nicht moralisch handeln können, sind eine Gefahr für die Menschheit. Da sollten wir die Warnungen der Tech-Bosse ernst nehmen; und unter Hochdruck an europäischen KI-Systemen arbeiten, die nicht darauf programmiert sind, ohne Rücksicht auf Verluste Probleme zu lösen, sondern Menschen darin unterstützen, die Welt, in der sie leben, besser zu verstehen.

Der Philosoph Christoph Quarch schreibt regelmäßig für forum future economy. © Christoph Quarch

Der Philosoph, Speaker und Bestseller-Autor Christoph Quarch begleitet Unternehmen, unterrichtet an verschiedenen Hochschulen und veranstaltet philosophische Reisen. In seinen Vorträgen und Büchern greift er auf die großen Werke der abendländischen Philosophie zurück, um diese in eine zeitgemäße Lebenskunst und Weltdeutung zu übersetzen. Gemeinsam mit seiner Frau Christine Teufel gründete er die Neue Platonische Akademie für eine geistige Erneuerung der Gesellschaft.

Aktuelle Bücher von ihm sind „Wacher Geist und fester Schritt. The Donkey School for Leadership" (2024), „Schönheit rettet die Welt” (2024) und "Der Club der alten Weisen" (2023).

Mehr zu ihm unter christophquarch.de und akademie-3.org

Weitere Artikel von Christoph Quarch:

Macht KI dumm?
Christoph Quarch plädiert dafür, Sinnverstehen und Urteilskraft zu kultivieren als Gegengewicht gegen die drohende Übermacht der KI
Dänemark war lange der große Vorreiter bei der Digitalisierung des Schulunterrichts. Mit dem neuen Schuljahr ist Schluss damit. Ab jetzt wird in dänischen Schulen wieder mit konventionellen Lehrmitteln unterrichtet. Der Grund: Wissenschaftliche Auswertungen des Digitalunterrichts haben negative Auswirkungen auf die Kinder ans Licht gebracht. Auch hierzulande warnen Pädagogen vor zu viel IT im Unterricht.

Ist die Demokratie im KI-Zeitalter noch zu retten?
Christoph Quarch hofft auf Europäische KIs, die systemisch denken und den Blick fürs Ganze haben
Die bevorstehenden Landtagswahlen im Osten Deutschland sind ein weiteres Beispiel dafür: Künstliche Intelligenz spielt in der politischen Kommunikation eine immer größere Rolle. Dass Politiker ihre Reden von einer KI schreiben lassen und KI-generierte Bilder auf Plakaten erscheinen, wird von den Wählerinnen und Wählern meist hingenommen; dass aber immer mehr Inhalte, Statistiken oder Informationen KI-generiert sind, bereitet allen Demokraten Sorgenfalten.

Sind wir auf dem Weg, uns selbst abzuschaffen?
Christoph Quarch überlegt, was KI-Systeme mit uns machen und wie wir uns verhalten sollten
Egal ob zu Hause, beim Job oder im Urlaub: KI ist überall - auch wenn wir es gar nicht merken, prägt sie unsere Lebenswirklichkeit. KI-Systeme geben uns Auskunft, schreiben für uns Texte, führen mit uns Gespräche, entwickeln für uns Strategien, spielen mit uns Spiele. Und wo wir nicht unmittelbar mit ihnen umgehen, verändern sie im Hintergrund mit einer nie dagewesenen Geschwindigkeit und Radikalität unsere Lebensweise, unser Sozialverhalten, unsere Gewohnheiten.

Die italienischen Momente im Leben?
Christoph Quarchs Überlegungen zum Hitzesommer
Dieser Sommer bricht alle Rekorde: Immer neue Höchsttemperaturen, immer mehr Hitzetote, historische Tiefststände der großen Flüsse, immer mehr Wald- und Flächenbrände auch in Deutschland, Missernten auf den Feldern, Wassermangel in den Städten... Die Liste ist lang, und sie ist verstörend, denn sie hinterlässt bei vielen Menschen das beklemmende Gefühl der Ohnmacht und des Ausgeliefertseins.

Wer an die Sonnenfinsternis glaubt, kann den Klimawandel nicht leugnen
Christoph Quarchs Überlegungen zur Sonnenfinsternis am 12. August
Was haben Grönland und Spanien, Portugal und Island gemeinsam? Richtig, von dort aus kann man am kommenden Mittwoch eine totale Sonnenfinsternis beobachten - und zwar eine ganz besondere, weil sich der Schatten des Mondes erst kurz vor Sonnenuntergang so vollständig auf die Erde legen wird, dass auch ungeübte Augen - natürlich durch die entsprechenden Schutzgläser - die flammende Corona der Sonne erkennen können. Dieses Spektakel wollen sich viele Menschen nicht entgehen lassen.