Bei der Entwicklung und dem Einsatz von k\u00fcnstlicher Intelligenz (KI) geht es ja meist prominent um den Stra\u00dfenverkehr, n\u00e4mlich um selbstfahrende Autos, die dann von einer KI gelenkt werden. Dabei habe ich dann auch immer wieder ein Szenario in den Diskussionen zu dem Thema erlebt, was nat\u00fcrlich auch sehr wichtig ist: Wie verh\u00e4lt sich die KI im Falle eines unvermeidbaren Unfalls? Beliebtes Beispiel: Es besteht nur die Option, entweder in eine Menschengruppe zu fahren und dabei mit gro\u00dfer Wahrscheinlichkeit etliche davon zu t\u00f6ten oder aber den Wagen gegen einen Betonpfeiler oder etwas \u00e4hnlich Robustes zu setzen, was dann eine gro\u00dfe Chance beinhaltet, den Fahrer und eventuelle weitere Insassen zu t\u00f6ten. Mal abgesehen davon, welche L\u00f6sung man hier nun als sinnvoller erachtet, so finde ich es vor allem bedenklich, dass so einer Entscheidung eine in hohem Ma\u00dfe psychopathische Denkweise zugrunde liegt.<\/p>\n
Kurz vorweg zur Begriffskl\u00e4rung: Psychopathie wird ja umgangssprachlich immer wieder mal f\u00fcr alle m\u00f6glichen psychischen St\u00f6rungen, Erkrankungen und Indispositionen verwendet. Psychopathisches Verhalten ist nun allerdings nicht einfach nur etwas, was man salopp als „verr\u00fcckt“ bezeichnen w\u00fcrde, beispielsweise wenn jemand mit seiner Zahnb\u00fcrste an der Leine spazieren geht, sondern ist sehr genau definiert.<\/p>\n
Ein Psychopath handelt vor allem ohne Empathie und verfolgt sein Ziel, dass er f\u00fcr absolut richtig h\u00e4lt (hier ergeben sich oft \u00dcberschneidungen mit dem Narzissmus), ohne R\u00fccksicht auf Verluste oder auf andere Menschen und ohne von seinem Pfad abzuweichen. Das kann dann in kriminelle Handlungen m\u00fcnden, ist aber in einigen Berufen in gewissem Ma\u00dfe sogar ganz n\u00fctzlich. So muss ein Chirurg beispielsweise etwas machen, wogegen man sich normalerweise str\u00e4ubt: einen Menschen aufschneiden. Hier gilt es, das Ziel auch gegen innere Widerst\u00e4nde zu verfolgen.<\/p>\n
Und auch in F\u00fchrungspositionen von Unternehmen finden sich h\u00e4ufig Menschen mit deutlichen psychopathischen Eigenschaften (s. hier<\/a>), bei Tradern und Investmentbankern stellte eine Schweizer Studie vor einigen Jahren sogar ein st\u00e4rker psychopathisches Verhalten fest als bei diagnostizierten Psychopathen in der Forensik (s. hier<\/a>). Das ist nat\u00fcrlich bedenklich, zeigt aber, dass psychopathisches Verhalten in unserer Gesellschaft nicht automatisch dazu f\u00fchrt, keinen Erfolg zu haben oder kriminell zu werden – wobei man Letzteres bei vielen Tradern und auch Spitzenmanagern nat\u00fcrlich noch mal ausgiebig diskutieren k\u00f6nnte.<\/p>\n Als klassisches Beispiel f\u00fcr psychopathisches Denken wird ein Szenario angesehen: Jemand beobachtet, wie eine Stra\u00dfenbahn au\u00dfer Kontrolle ger\u00e4t und in eine Gruppe von Menschen hinzufahren droht. Unmittelbar in seiner N\u00e4he steht eine dicke Person, die mit gro\u00dfer Wahrscheinlichkeit, wenn man sie vor die Stra\u00dfenbahn sto\u00dfen w\u00fcrde, deren Fahrt aufhalten w\u00fcrde. Nun stellt sich die Frage: Soll man eine Person, die einem vollkommen fremd ist, opfern, um dadurch eine ganze Gruppe von Menschen zu retten?<\/p>\n Ein Psychopath w\u00fcrde kein Problem damit haben, den dicken Menschen f\u00fcr das aus seiner Sicht sinnvolle Ziel, so mehr Menschenleben zu retten, auf die Schienen zu schubsen. Alle anderen w\u00fcrden dazu, selbst wenn sie die nackte Rationalit\u00e4t der mehr geretteten Leben einsehen, kaum in der Lage sein. Die Hemmschwelle, einfach so jemanden umzubringen, ist da (gl\u00fccklicherweise) zu hoch.<\/p>\n Nun erinnert diese Szenario ja ziemlich an das oben geschilderte Entscheidungsdilemma von KI in selbstfahrenden Autos in Unfallsituationen. Und die Tendenz geht, soweit ich das mitbekommen habe, eindeutig in die Richtung, dass m\u00f6glichst viele Menschenleben gerettet oder verschont werden sollten.<\/p>\n Also eine klar psychopathische Entscheidung, welche die KI da zu treffen hat.<\/p>\n In der Programmierung der KI muss also so ein psychopathisches Muster angelegt werden, damit entsprechend in kritischen Situationen ausschlie\u00dflich vermeintlich rational entschieden wird, um so den Schaden m\u00f6glichst gering zu halten. Nun kommt ja noch hinzu, dass KI so konstruiert werden, dass sie selbstlernend sind, um sich selbst zu verbessern und Situationen in ihren „Erfahrungsschatz“ aufzunehmen, die so noch nicht in der Programmierung angelegt waren.<\/p>\n Und diesem Eigenlernen l\u00e4ge dann also eine psychopathische Basiskomponente zugrunde. Ich wei\u00df nicht, ob ich das nun so richtig toll finde …<\/p>\n Wenn eine KI n\u00e4mlich zur Beurteilung ihrer Umgebung und zum Aufbau ihres Erfahrungshorizonts psychopathische Strukturen nutzt, dann k\u00f6nnte sie ja, durchaus naheliegend, wie ich finde, auch auf die Idee kommen, dass Menschen eigentlich ein St\u00f6rfaktor f\u00fcr reibungslose Abl\u00e4ufe sind. Und dass man diesen St\u00f6rfaktor am besten eliminieren sollte.<\/p>\n