Sind Algorithmen objektiv? Eine Illusion.

 

 

Melinda Lohmann: ... dass sie uns dabei hilft, die drängenden Probleme der Menschheit zu lösen. Ich denke an den Gesundheitsbereich oder an den Bereich Straßenverkehr, wo jährlich 1,3 Millionen Menschen in Folge von Verkehrsunfällen sterben. Und wenn man bedenkt, dass 90 Prozent dieser Unfälle auf menschliches Versagen zurückgehen, dann haben wir ein enormes Innovationspotential in dieser Hinsicht.

 

Lohmann: Die größte Angst... Wenn man die Bedenken rund um eine Superintelligenz ernst nimmt, also die Vorstellung, dass wir übertrumpft werden von einer ganz intelligenten künstlichen Intelligenz, dann ist es ein bedrohliches Szenario, was wir ernst nehmen sollten. Kurz bis mittelfristig macht mir Sorgen, dass wir gewisse soziale Ungleichheiten verstärken durch algorithmische Entscheidungssysteme, die von Menschen gemacht sind und mit Daten agieren, die diese Vorurteile enthalten.

 

Lohmann: Ja, das ist eine wichtige Frage. Ich glaube, wir unterliegen da einer Illusion, einer Objektivitätsillusion. Wir denken, weil es aus einer Maschine kommt, einem System, ist es objektiv. Das stimmt natürlich so nicht. Diese Systeme sind von Menschen gemacht, die wiederum selber ihre Vorurteile haben, und ihre Limitationen. Und die Systeme verwenden Daten, die ebenfalls schon gewisse Vorurteile enthalten können. Deswegen denke ich, muss man aufpassen, wenn man sich eben dieser Objektivitätsillusion zu fest hingibt. Aber ich glaube, wenn man gewisse Weichen stellt, dann könnten wir Systeme entwickeln, die wirklich objektiver sind. Auf jeden Fall objektiver als wir Menschen es sind.

 

Lohmann: Das finde ich eine sehr gute Idee, sehr begrüßenswert, weil ich glaube, es ist wichtig, dass gerade Konsumenten wissen, wenn sie mit einer künstlichen Intelligenz interagieren und ich denke auch zur Steigerung des Vertrauens wäre das eine sinnvolle Maßnahme. Auf jeden Fall.

 

Lohmann: Ja, das ist eine spannende Forschungsfrage, die mich sehr beschäftigt und es kommt ganz auf den Kontext an. Was wichtig ist, ist zu bedenken, dass wir immer einen Rechtsrahmen haben. Also eine neue Technologie entsteht ja nicht in einem rechtlichen Vakuum, sondern der geltende Rechtsrahmen ist zu berücksichtigen. Und beispielsweise bei selbstfahrenden Fahrzeugen haben wir ein ziemlich sinnvolles Haftungsregime mit einer verschuldungsunabhängigen Haftung in den meisten europäischen Ländern. Da, denke ich, gibt es nur punktuellen Anpassungsbedarf. Aber gerade, Sie haben es erwähnt, lernfähige Systeme, die vielleicht in einem Setting zum Einsatz kommen, wo nicht ein solches Haftungssystem besteht, da braucht es neue Regeln und da ist man auch dabei schon auf europäischer Ebene sich Gedanken zu machen, wie ein solcher Rechtsrahmen aussehen könnte.

 

Lohmann: Ja, das ist die grundlegende Frage. Wenn wir Juristen uns mit technischen Phänomenen befassen, dann hinken wir immer hinterher. Die Technik ist immer zehn Schritte voraus. Deswegen macht es Sinn, sich schon proaktiv Gedanken zu machen, zu diesen Fragen. Gleichzeitig dürfen wir nicht in einen blinden Aktionismus verfallen. Es macht keinen Sinn, jetzt schon zu regulieren und übermäßig zu regulieren, weil wir einfach gewisse Entwicklungen noch nicht abschätzen können. Aber es ist auf jeden Fall wichtig, dass wir dran bleiben.

 

 

Lohmann: Danke Ihnen.