Ethik und KI

Kühe und Künstliche Intelligenz haben viel gemein – nur sind Kühe komplexer

Haben Sie eine Meinung, was für eine Milch, welchen Kaffee oder welches Fleisch Sie bevorzugen? Bio oder konventionell? Fairtrade oder so günstig wie möglich? Freiland oder Käfighaltung? Wahrscheinlich haben Sie eine genaue Vorstellung davon, welche Produkte mit Ihrer persönlichen Ethik in Einklang stehen! Aber haben Sie auch eine Meinung, was für Algorithmen Sie bevorzugen? Geht Sie nichts an? Ist Ihnen zu komplex? Bilden Sie sich eine Meinung, denn auch bei Algorithmen ist Ethik entscheidend!

Algorithmen und Künstliche Intelligenz (KI) sollen dem Menschen dienen, nicht umgekehrt. Dafür ist es wichtig, dass sie möglichst wenig Verzerrungen beinhalten – bei der Datenerhebung und im Verarbeitungsprozess. Es gibt jedoch bewusste Verzerrungen, wenn diese im Interesse der Anbieter liegen. Und es gibt unbewusste Verzerrungen (unconscious bias), wenn bei der Entwicklung zu wenig Perspektiven, im schlimmsten Fall nur die eines Entwicklers oder einer sehr ähnlichen Gruppe von Entwicklern, berücksichtigt wurden. Wenn hier keine Transparenz herrscht, fallen bewusste und unbewusste Verzerrungen dem Anwender nicht auf; Filterblasen, Echokammern, Diskriminierung oder Manipulation sind die Folge.

Die gute Nachricht: Transparenz ist möglich

Wer bei Kühen und Milch mitreden kann, kann das auch bei KI, denn Kühe und KI haben viel gemein:

Das Endprodukt hängt davon ab, was ins System reinkommt: Futter beziehungsweise Daten. Dieser Input kann qualitativ gut oder schlecht sein und zu unseren persönlichen ethischen Vorstellungen passen oder auch nicht.
Der Produktionsprozess kann ganz unterschiedlich ablaufen – Kühe sind im Stall oder haben Auslauf, Bauern werden fair entlohnt oder auch nicht. Die Architektur und die Regeln von KI-Systemen begünstigen Diskriminierung oder sind fair, die dahinterliegenden Annahmen bevorzugen eine Gruppe oder blenden eine andere aus.
Wir alle konsumieren, was rauskommt: die Milch beziehungsweise die durch Algorithmen getroffenen Entscheidungen. Beides beeinflusst uns, unseren Körper, unser Wohlergehen, unser Kaufverhalten, unsere Gesellschaft.
Wir können dem Resultat kaum ansehen, wie es hergestellt wurde, ob nach unseren Vorstellungen oder nicht. Versuchen Sie mal, bei Milch herauszuschmecken, ob die Bauern fair entlohnt wurden.
Sie sind komplex, die dahinterliegenden Mechanismen sind für Laien schwer zu verstehen – das trifft in jedem Fall auf Kühe zu. Die wenigsten von uns wären in der Lage, eine Kuh artgerecht zu halten, gesund zu ernähren oder zu melken. Auf der anderen Seite entwickeln und benutzen wir alle jeden Tag Algorithmen, zum Beispiel wenn wir die Straße überqueren oder überlegen, was wir zum Frühstück essen möchten. Denn Algorithmen sind einfach Handlungsvorschriften zur Lösung eines Problems.
Wir sind auf Transparenz angewiesen, um eine unseren ethischen Ansprüchen entsprechende Konsumentscheidung treffen zu können. Nur: Bei Lebensmitteln sind Inhaltsstoffe und Produktionsprozesse zu einem beträchtlichen Teil transparent, bei Algorithmen kaum – oder wissen Sie, warum Ihnen auf Amazon ein Vorschlag ganz oben angezeigt wird?

Wäre es möglich, dass das Transparenzniveau des Lebensmittelbereichs auf Algorithmen und Künstliche Intelligenz übertragen wird? Ich meine: Das muss das Ziel sein!

Ja, aber...

Molkereien achten streng auf die Qualität ihrer Lieferanten. Wie steht es damit bei Anbietern und Nutzern von Algorithmen und künstlicher Intelligenz? Rosmarie Steininger arbeitet dazu an der KI-Strategie der Bundesregierung. © Chemistree

Zwei Einwände von Herstellern von Algorithmen und KI höre ich.

Zum einen: „Das ist unser Geschäftsgeheimnis." In der Lebensmittelindustrie wiegt das Verbraucherinteresse schwer, aber warum sollte das bei Algorithmen, deren Ergebnisse uns direkt betreffen, anders sein? Ich spreche nicht davon, dass der Quellcode offengelegt werden soll. Aber es muss nachvollziehbar sein, nach welchen Kriterien entwickelt wurde, welche Qualitäts- und Ethikregeln zugrunde liegen – damit wir alle entscheiden können, ob diese unseren Wünschen und Werten entsprechen.

Der zweite Einwand ist: „Das kann man einem Laien nicht erklären." Wenn wir es schaffen, etwas so Komplexes wie Milchherstellung für praktisch jede und jeden verständlich zu machen, können wir das bei Algorithmen auch. Wer seine IT-Systeme einer Fachfremden nicht transparent machen und erklären kann, versteht entweder selbst nicht, was er oder sie macht, oder hat einen Grund, sie nicht erklären zu wollen.

... wenn KI sich selbst weiterentwickelt

Ja, Künstliche Intelligenz wird schwer nachvollziehbar, wenn sie „lernt", wenn sie also aufgrund von Input-Daten oder Feedbacks Muster und Wahrscheinlichkeiten erkennt und ihre Regeln selbstständig verändert. Aber: Wenn etwas nicht mehr erklärbar ist, ist es dann noch beherrschbar? Wir wollen doch sicher sein, dass ein KI-System qualitativ und ethisch angemessene Ergebnisse erzeugt! Daher geht an Erklärbarkeit kein Weg vorbei. Bei Kühen und bei KI gilt somit: Transparenz ist die Grundvoraussetzung für Qualität und für ethische Entscheidungen. Und sie ist möglich.

Rosemarie Steininger ist Gründerin und Geschäftsführerin der CHEMISTREE GmbH. Diese entwickelt Lösungen, um Menschen zusammenzubringen, also „Beziehungen zu bewirken" – für Mentoring, Personalentwicklung, Communities oder Events. Steininger berät bei der Fortschreibung der KI-Strategie der Bundesregierung im Bereich „Ordnungsrahmen für den menschenzentrierten Einsatz von KI in Arbeit und Gesellschaft".

Dieser Artikel ist in forum 03/2020 - Digitalisierung und Marketing 4 Future erschienen.