Warum ist KI so gefährlich?

Für Christoph Quarch ist Künstliche Intelligenz strukturell lebensfeindlich.

Eindringlicher könnte die Warnung nicht sein: Künstliche Intelligenz ist eine Bedrohung für die Menschheit, vergleichbar mit Pandemien und Atomkriegen. So die Ansicht führender Experten aus der IT-Branche, die in einer aktuellen Stellungnahme globale Anstrengungen fordern, um „das Risiko einer Vernichtung durch KI zu verringern". Zu den Unterzeichnern zählen OpenAI-Boss Sam Altman, Demis Hassabis, Chef der auf KI spezialisierten Google-Schwesterfirma DeepMind und Geoffrey Hinton, einer der führenden Forscher in dem Bereich. Warum ist KI so gefährlich? Und wie können wir den Gefahren begegnen? Darüber reden wir mit unserem Philosophen Christoph Quarch.

Herr Quarch, überrascht Sie die Stellungnahme der Tech-Experten?

Mich überrascht, dass sie erst jetzt kommt. Die Gefahren einer ungebremsten Entwicklung Künstlicher Intelligenz sind seit langem bekannt. Aufmerksame Beobachter wie der frühere FAZ-Herausgeber Frank Schirrmacher haben schon in den frühen 2010er Jahren vor den sozialen Implikationen der KI gewarnt. Und spätestens seit dem Film „Transcendence" aus dem Jahr 2014 konnte jeder ahnen, welche Risiken in dieser Technologie stecken. Aber wir wollten es nicht hören. Wir glaubten lieber denen, die uns eine leuchtende Zukunft mit selbstfahrenden Autos und smarten Kühlschränken verheißen.

Die Autoren der Stellungnahme warnen vor der Entwicklung KI-gestützter autonomer Waffen, systematischer Desinformation und immer gefährlicheren Cyberangriffen.

Das sind beängstigende Szenarien, letztlich aber nur die Symptome einer viel tiefer liegenden Problematik: Künstliche Intelligenz ist strukturell lebensfeindlich. Sie taugt für die Steuerung von Maschinen, aber sie simuliert in keiner Weise die Intelligenz lebendiger Organismen. Lebewesen erschließen sich die Welt fühlend, sie sind schöpferisch und interagieren fortwährend mit ihrer Umwelt. Und das alles vor dem Horizont eines jederzeit möglichen Todes. Auch die leistungsfähigsten Algorithmen werden nie verstehen, was Lebendigkeit ist. Sinnfragen und Ethik sind ihnen per se fremd.

Biologen und Evolutionsforscher sehen das anders. Sie behaupten, Lebewesen seien biochemische Algorithmen, die darauf programmiert sind, im Überlebenskampf zu bestehen.

Das ist einer der größten Irrtümer der Wissenschaftsgeschichte. Es lässt sich nachweisen, dass Darwin für seine Evolutionstheorie ein Modell aus der Volkswirtschaftslehre des viktorianischen Englands benutzte. Die lebendige Welt geriet so zu einem Schlachtfeld und der Sinn des Lebens zum Erfolg im Überlebenskampf. Überlebensstrategien im Krieg können algorithmisch berechnet werden. Nicht zufällig liegen die Ursprünge der KI im militärischen Bereich. Aber dabei geht es gerade nicht um die Entfaltung von Lebendigkeit und Lebenssinn, sondern um eine wert- und sinnfreie Effizienz beim Erreichen strategischer Ziele. KI ist die dafür erforderliche Rationalität in Perfektion. Mehr nicht.

Nun ist diese Technik einmal da. Niemand kann sie stoppen. Auch der Appell der Experten klingt einigermaßen hilflos. Was ist Ihrer Ansicht nach zu tun?

Als erstes muss die Häme aufhören, mit der selbst ernannte Optimisten alle Bedenken gegenüber KI abbügeln. Kritiker sind eben keine ewiggestrigen Maschinenstürmer, sondern denkende Menschen, die sich mit gutem Grund um unser aller Zukunft sorgen. Bedenklich ist in meinen Augen vor allem die religiöse Inbrunst, mit der KI-Enthusiasten an die Verheißungen ihrer Propheten glauben. Das zeigt das ganze Ausmaß der Verblendung. Es zeigt aber auch, wo man den Hebel ansetzen muss. Im Bereich des Religiösen. Hier schlummert die einzige Energie, die wir dem KI-Kult entgegensetzen können: eine Wiederentdeckung der Heiligkeit des Lebens. Aber das wird dauern. Bis wir soweit sind, bleibt uns nichts anderes, als das Recht zu bemühen. Es ist gut, dass die EU an einem AI-Act arbeitet, der die Anwendung von KI rechtlich reglementiert. Dieses Gesetzeswerk brauchen wir so schnell wie möglich.

Der Philosoph Christoph Quarch schreibt regelmäßig für forum Nachhaltig Wirtschaften. © Christoph Quarch

Der Bestseller-Autor Christoph Quarch ist Philosoph aus Leidenschaft. Seit ihm als junger Mann ein Büchlein mit »Platons Meisterdialogen« in die Hand fiel, beseelt ihn eine glühende Liebe (philia) zur Weisheit (sophia), die er als Weg zu einem erfüllten und lebendigen Leben versteht. Als Autor, Publizist, Berater und Seminarleiter greift er auf die großen Werke der abendländischen Philosophen zurück, um diese in eine zeitgemäße Lebenskunst und Weltdeutung zu übersetzen."

In seinem neuen Buch "Begeistern! Wie Unternehmen über sich hinauswachsen" geht's um Fragen wie diese:

Wie kommt der Geist in unsere Unternehmen? – Durch Begeisterung! Und wie entsteht Begeisterung? Anders als die meisten glauben.

Lesen Sie mehr von ihm unter www.christophquarch.de

Als forum-Redakteur zeichnete Christoph Quarch verantwortlich für den Sonderteil „WIR - Menschen im Wandel".

Weitere Artikel von Christoph Quarch:

Könnte KI die Grundlagen der Mathematik zerstören?
Christoph Quarchs Überlegungen dazu, ob ein möglicher KI-Supergau näher rückt
Mathematiker sind eher stille Menschen. Wenn sie ihre Stimme erheben, muss etwas Außergewöhnliches vorgefallen sein. So am 11. September, als 24 Fields-Medaillengewinner – quasi die Nobelpreisträger der Mathematik – in einem offenen Brief davor warnten, dass KI die Grundlagen der Mathematik zerstören könnte. Hintergrund ist eine Veröffentlichung des Tech-Giganten OpenAI, der zufolge es ihrer KI gelungen ist, eines der sieben „Millennium-Probleme“ zu lösen, die im Jahr 2000 als die wichtigsten mathematischen Aufgaben der Gegenwart ausgewählt wurden. Konkret werfen die Mathe-Cracks der KI vor, gegen ihr Wissenschaftsethos zu verstoßen: Dinge zu beweisen, ohne sie zu verstehen, sei eine Gefahr für die intellektuelle Arbeit im Allgemeinen. Sägt die KI an dem Ast, auf dem diejenigen sitzen, die sie überhaupt möglich gemacht haben? Ist das ein weiteres Indiz dafür, dass ein möglicher KI-Supergau näher rückt. Darüber reden wir mit dem Philosophen Christoph Quarch.

Macht KI dumm?
Christoph Quarch plädiert dafür, Sinnverstehen und Urteilskraft zu kultivieren als Gegengewicht gegen die drohende Übermacht der KI
Dänemark war lange der große Vorreiter bei der Digitalisierung des Schulunterrichts. Mit dem neuen Schuljahr ist Schluss damit. Ab jetzt wird in dänischen Schulen wieder mit konventionellen Lehrmitteln unterrichtet. Der Grund: Wissenschaftliche Auswertungen des Digitalunterrichts haben negative Auswirkungen auf die Kinder ans Licht gebracht. Auch hierzulande warnen Pädagogen vor zu viel IT im Unterricht.

Ist die Demokratie im KI-Zeitalter noch zu retten?
Christoph Quarch hofft auf Europäische KIs, die systemisch denken und den Blick fürs Ganze haben
Die bevorstehenden Landtagswahlen im Osten Deutschland sind ein weiteres Beispiel dafür: Künstliche Intelligenz spielt in der politischen Kommunikation eine immer größere Rolle. Dass Politiker ihre Reden von einer KI schreiben lassen und KI-generierte Bilder auf Plakaten erscheinen, wird von den Wählerinnen und Wählern meist hingenommen; dass aber immer mehr Inhalte, Statistiken oder Informationen KI-generiert sind, bereitet allen Demokraten Sorgenfalten.

Sind wir auf dem Weg, uns selbst abzuschaffen?
Christoph Quarch überlegt, was KI-Systeme mit uns machen und wie wir uns verhalten sollten
Egal ob zu Hause, beim Job oder im Urlaub: KI ist überall - auch wenn wir es gar nicht merken, prägt sie unsere Lebenswirklichkeit. KI-Systeme geben uns Auskunft, schreiben für uns Texte, führen mit uns Gespräche, entwickeln für uns Strategien, spielen mit uns Spiele. Und wo wir nicht unmittelbar mit ihnen umgehen, verändern sie im Hintergrund mit einer nie dagewesenen Geschwindigkeit und Radikalität unsere Lebensweise, unser Sozialverhalten, unsere Gewohnheiten.

Die italienischen Momente im Leben?
Christoph Quarchs Überlegungen zum Hitzesommer
Dieser Sommer bricht alle Rekorde: Immer neue Höchsttemperaturen, immer mehr Hitzetote, historische Tiefststände der großen Flüsse, immer mehr Wald- und Flächenbrände auch in Deutschland, Missernten auf den Feldern, Wassermangel in den Städten... Die Liste ist lang, und sie ist verstörend, denn sie hinterlässt bei vielen Menschen das beklemmende Gefühl der Ohnmacht und des Ausgeliefertseins.