{"id":32145,"date":"2026-04-24T12:05:21","date_gmt":"2026-04-24T10:05:21","guid":{"rendered":"https:\/\/www.unterstroemt.de\/?p=32145"},"modified":"2026-04-24T12:05:21","modified_gmt":"2026-04-24T10:05:21","slug":"ki-und-die-buechse-der-pandora","status":"publish","type":"post","link":"https:\/\/www.unterstroemt.de\/?p=32145","title":{"rendered":"KI und die B\u00fcchse der Pandora"},"content":{"rendered":"

2019 habe ich in einem Artikel<\/a> die Frage gestellt, was uns (als Menschheit) wohl als Erstes umbringen wird. Eine Option, die ich damals nach Klimawandel, Umweltzerst\u00f6rung und sozialer K\u00e4lte anf\u00fchrte, war auch die k\u00fcnstliche Intelligenz (KI). Und leider habe ich in den letzten Wochen und Monaten einiges gelesen, was zeigt, dass diese wenig optimistische Einsch\u00e4tzung wohl nicht ganz verkehrt gewesen ist.<\/p>\n

Das f\u00e4ngt schon damit an, dass mittlerweile jeder Hans und Franz mithilfe von KI Bilder und Videos herstellen kann, die kaum noch von der Realit\u00e4t zu unterscheiden sind. Klingt erst mal vielleicht trivial, hat aber erhebliche Auswirkungen darauf, wie wir die Welt wahrnehmen \u00fcber Medien \u2013 und das ist ja nun mal der allergr\u00f6\u00dfte Teil der Welt, zumindest deutlich mehr als das, was wir ganz direkt in unserer Umgebung sehen und h\u00f6ren.<\/p>\n

Besonders prominent ging da vor ein paar Wochen der Fall von Collien Fernandez<\/a> durch die Medien, deren Ex-Partner Christian Ulmen mithilfe von KI pornografische Darstellungen von ihr erstellt und dann in sozialen Medien verbreitet hat. Dass das nicht nur einfach eine kleine pers\u00f6nliche Sch\u00e4bigkeit ist, wird dadurch deutlich, dass Fernandez das Ganze als virtuelle Vergewaltigung wahrgenommen hat und der Fall nun vor Gericht gelandet ist.<\/p>\n

Und mittlerweile geht das mit den KI-erzeugten Inhalten weit \u00fcber solche Mobbing-Vorf\u00e4lle hinaus, denn es tauchen immer \u00f6fter KI-Bilder und -Videos in klassischen Medien auf, ohne als solche gekennzeichnet zu werden \u2013 was eigentlich verpflichtend ist. Aber selbst professionelle Journalisten von Leitmedien sind offenbar nicht davor gefeit, KI-Darstellungen auf den Leim zu gehen.<\/p>\n

So wurde im heute journal<\/em> (ZDF) im Februar ein KI-Video in einem Beitrag \u00fcber Eins\u00e4tze der US-Gestapo ICE eingebaut, ohne das explizit zu erw\u00e4hnen oder zu kennzeichnen. Die Reaktion des Senders (s. hier<\/a>) war daraufhin auch alles andere als gl\u00fccklich oder transparent, sodass schnell Ger\u00fcchte \u00fcber Fake News die Runde machten, die dann den gesamten Inhalt des Beitrags diskreditierten.<\/p>\n

Im M\u00e4rz hat es dann die Redaktion vom Spiegel<\/em> erwischt, als dort n\u00e4mlich mit KI manipulierte Bilder ohne entsprechenden Vermerk auftauchten in der Berichterstattung zum Angriffskrieg von USA und Israel gegen den Iran. Dort war man dann allerdings bem\u00fcht, den Vorfall in der \u00d6ffentlichkeit transparent nachvollziehbar zu machen, und aus dieser Erkl\u00e4rung<\/a> wird dann auch deutlich, wie komplex diese Thematik ist, denn eigentlich kamen die manipulierten Fotos von einer vertrauensw\u00fcrdigen Quelle.<\/p>\n

Zudem geraten ja nicht nur versehentlich KI-manipulierte oder -generierte Inhalte in Beitr\u00e4ge, sondern KI wird auch ganz gezielt eingesetzt, wie im Newsletter von \u00dcber Medien <\/em>vom 13. 2. 2026 geschildert wird:<\/p>\n

Es ist so weit: Die ARD zeigt jetzt KI-generierte Videos in ihren Nachrichtenbeitr\u00e4gen. In einem Bericht zum 100-j\u00e4hrigen Geburtstag der Spraydose erweckt \u201eNDR Info\u201c kurzerhand das Foto eines norwegischen Ingenieurs zum Leben, der seine Skier nicht mehr m\u00fchsam von Hand wachsen will. Man sieht ihn, wie er seine Skier wachst, Ski f\u00e4hrt und eine Spraydose h\u00e4lt. Die Szenen sind als KI-Material gekennzeichnet \u2013 allerdings ist der Hinweis so ung\u00fcnstig \u00fcber dem NDR-Logo platziert, dass von dem Wort \u201eKI-generiert\u201c nur das \u201egeneriert\u201c gut zu lesen ist.<\/p>\n

Jetzt k\u00f6nnte man sagen: Naja, von historischen Begebenheiten gibt\u2019s halt einfach keine Bilder. Durch K\u00fcnstliche Intelligenz kann die Geschichte aber trotzdem gezeigt und erlebbar gemacht werden. Das stimmt. Aus einem \u00e4hnlichen Grund greifen Fernsehbeitr\u00e4ge auch manchmal auf Szenen zur\u00fcck, die von Schauspielern nachgestellt wurden.<\/p>\n

Bei \u201eNDR Info\u201c hat man sich die Menschen dieses Mal gespart und stattdessen die KI-Kiste angeworfen. Das f\u00fchrt allerdings dazu, dass die meisten Schriftzeichen auf der KI-generierten Spraydose relativ wenig mit echten Buchstaben zu tun haben und der Forscher beim Skifahren bemerkenswert flott eine Piste entlangwedelt, die gar nicht steil genug daf\u00fcr aussieht. Das sind Kleinigkeiten, klar. Aber die Szenen suggerieren ein wahres Bild einer historisch echten Begebenheit \u2013 nur sind sie eben nicht echt.<\/p>\n

Ehrlich gesagt bin ich mir noch nicht sicher, was ich davon halten soll. Ich glaube schon, dass die Zuschauer schlau genug sind, die echte Geschichte von den unechten KI-Bildern zu unterscheiden \u2013 zumal das ja auch (einigerma\u00dfen) transparent gekennzeichnet ist. Problematisch wird es aber, wenn nicht nur unwichtige Kleinigkeiten falsch generiert werden, sondern wichtige Details.<\/p><\/blockquote>\n

Daran sieht man, dass die Grenze hier flie\u00dfend ist. Was ist im Grunde noch in Ordnung, wenn es durch KI dargestellt wird, was nicht? Wie genau muss man das dann kenntlich machen? Das schreit doch irgendwie schon danach, dass immer wieder mal KI-Inhalte den Zuschauern untergejubelt werden, ohne dass man diese gleich als solche erkennen kann.<\/p>\n

Der Medienwissenschaftler Stephan Weichert schildert in einem Artikel auf \u00dcber Medien<\/em><\/a>, wie KI die Arbeit von Journalisten ver\u00e4ndert und welche psychologischen Effekte sich aus der redaktionellen KI-Nutzung ergeben. Er bilanziert:<\/p>\n

KI kann Redaktionen wom\u00f6glich effizienter machen, vielleicht auch informierter \u2013 vor allem aber macht sie bequem. Und Bequemlichkeit ist das eigentliche Gift f\u00fcr den Journalismus. Nicht, weil sie uns alle \u201efaul\u201c macht, sondern weil sie \u00fcber kurz oder lang Zweifel, Reibung und Widerspruch aus dem Arbeitsalltag herausfiltert.<\/p><\/blockquote>\n

Und das k\u00f6nnte dann wiederum bewirken, dass inkorrekte Inhalte verbreitet werden, weil sie eben nicht hinreichend recherchiert wurden. „Die KI hat aber gesagt …“ d\u00fcrfte daf\u00fcr dann eine immer h\u00e4ufiger vorkommende Rechtfertigung sein.<\/p>\n

In einer globalisierten Welt ist es fatal, wenn wir Informationen nicht mehr trauen k\u00f6nnen, denn schlie\u00dflich ist es uns unm\u00f6glich, alles, was uns betrifft, h\u00f6chstpers\u00f6nlich in Augenschein zu nehmen. Und wenn mittlerweile selbst die Polizei bei ihren Social-Media-Beitr\u00e4gen schon KI-Bilder nutzt, um Stimmung zu machen und ohne diese deutlich genug zu kennzeichnen (s. hier<\/a>), dann tr\u00e4gt das sicher nicht dazu bei, das Vertrauen der Menschen in Berichterstattung jedweder Couleur zu st\u00e4rken.<\/p>\n

Doch auch im ganz normalen Alltag sch\u00fcrt KI das Misstrauen\u00a0(von dem wir nun wahrlich schon seit Jahren genug haben, wie ich bereits 2015 in einem Artikel<\/a> feststellte), wie ein Posting von Andre Wolf von Mimikama<\/em> auf seiner Facebook-Wall<\/a> zeigt:<\/p>\n

\"\"<\/p>\n

Misstrauen ist dann auch zunehmend ein Thema bei der Musik, denn immer mehr KI-generierte Songs fluten das Web, und es gibt viele H\u00f6rer, die das nicht so richtig toll finden. Solche KI-Songs kann man mittlerweile relativ einfach mit ein paar lockeren Vorgaben herstellen. Das Resultat ist dann zwar in der Regel nicht sonderlich spannend, sondern besteht aus reichlich stereotypen Bestandteilen, allerdings gibt es ja auch viel Musik, die von richtigen Menschen gemacht wird und auf die das so zutrifft. Und so f\u00e4llt es immer mehr H\u00f6rern schwer, \u00fcberhaupt festzustellen, ob der Song, den sie gerade online h\u00f6ren, von einer realen Person komponiert und eingespielt wurde oder einfach nur von KI.<\/p>\n

Das ist mittlerweile auch kein randst\u00e4ndiges Ph\u00e4nomen mehr, sondern macht bereits gesch\u00e4tzte 40 Prozent der online hochgeladenen Musik aus. Mal werden Songs einfach plump geklaut und nur gering ver\u00e4ndert, was dann dazu f\u00fchrte, dass die GEMA mittlerweile eine Klage angestrebt hat gegen das Unternehmen der Musik-KI Suno, weil hier eindeutig Urheberrechte verletzt werden. In einem Artikel von Business Punk<\/em><\/a> dazu hei\u00dft es:<\/p>\n

Wenn 40 Prozent aller Musik-Uploads bereits von Algorithmen stammen, ist das keine Innovation mehr. Das ist Verdr\u00e4ngung. Suno und Co. haben sich an Millionen gesch\u00fctzter Werke bedient, ohne zu fragen. Jetzt behaupten sie, die KI habe nur \u201egelernt\u201c. Wenn die KI auf Knopfdruck \u201eAtemlos\u201c nachbaut, ist das keine abstrakte Mustererkennung \u2013 das ist eine hochkomprimierte Kopie.<\/p>\n

Die GEMA fordert 30 Prozent der Einnahmen. Das klingt nach viel, ist aber der einzige Weg, um K\u00fcnstler vor der KI-Walze zu sch\u00fctzen. Wer jetzt auf technische Filter hofft, ist naiv: KI-Anbieter werden ihre Modelle so optimieren, dass sie keine direkten Kopien mehr ausspucken \u2013 aber trotzdem mit menschengemachter Musik trainiert wurden. Das Ergebnis: Urheber gehen leer aus, KI-Konzerne kassieren. Die Frage ist nicht, ob KI Musik machen darf. Die Frage ist, wer daf\u00fcr bezahlt. Und die Antwort muss lauten: die KI-Anbieter.<\/p><\/blockquote>\n

Denn tats\u00e4chlich basieren auch Songs, die nicht direkt wie ein Original klingen, auf den Ideen von Musikern. Eine KI kann schlie\u00dflich nichts komplett neu entwickeln, sondern kombiniert nur Dinge, die sie bereits vorgefunden hat. Das haben in England auch schon einige Musiker erkannt (s. hier<\/a>) und sich deutlich gegen diese Entwicklung positioniert.<\/p>\n

Der Cartoonist Ralph Ruthe hat das ganze Dilemma mit KI-Musik in einer Antwort auf einen User-Kommentar, der sich unter einer Cartoon-Idee (in welcher der Begriff KI-Songs“ eigentlich nur am Rande vorkommt) auf seiner Facebook-Wall findet<\/a>, trefflich zusammengefasst:<\/p>\n

\"\"<\/p>\n

\"\"<\/p>\n

Allerdings sind zurzeit weder Politik noch Unternehmen daran sonderlich interessiert, die Interessen von Musikern, die ihre kreativen Werke nicht einfach herschenken wollen an eine Technologie, die sie dann auch noch k\u00fcnftig mehr und mehr arbeitslos machen k\u00f6nnte, zu wahren. Apple Music hat nun immerhin eine KI-Kennzeichnung eingef\u00fchrt, diese ist dann jedoch freiwillig (s. hier<\/a>). Na hurra, das klappt ja immer richtig gut. Nicht. Aber ist ja auch klar: Radiosender beispielsweise sparen eine Menge Geld, wenn sie KI-Songs spielen, denn daf\u00fcr m\u00fcssen sie keine Geb\u00fchren an Urheberrechtsorganisationen wie die GEMA abf\u00fchren. Was dann dazu f\u00fchrt, dass richtige Musiker weniger Einnahmen haben. So sind einige Privatsender schon dazu \u00fcbergegangen, vor allem nachts in erster Linie KI-Gedudel im Programm zu haben (s. hier<\/a>). Und wenn es um Geld geht, was gr\u00f6\u00dfere Unternehmen sparen k\u00f6nnen, dann zeigt sich die Politik ja leider meistens sehr unternehmensfreundlich. Insofern erwarte ich hier leider keine vern\u00fcnftige Regulierung im Sinne der Kulturschaffenden.<\/p>\n

Und dann wird KI auch noch dazu genutzt, um Streamingzahlen von KI-generierter Musik zu generieren via Fake-Accounts, die das Zeug immer wieder automatisiert abspielen bei Streamingdiensten. Daf\u00fcr gibt es dann Geld, und zwar nicht wenig, wie gerade bei einem Prozess in den USA deutlich wurde (s. hier<\/a>). Die Kohle kommt dann aus den T\u00f6pfen, in welche die User der Streamingdienste einzahlen \u2013 und wird dann den richtigen Musikern, deren Songs von richtigen Menschen angeh\u00f6rt werden, vorenthalten.<\/p>\n

Es gibt wohl nicht wenige Musikh\u00f6rer, die darauf keinen Bock haben, weil sie n\u00e4mlich wissen, dass so den K\u00fcnstlern, die sie selbst sch\u00e4tzen, mehr und mehr die Existenzgrundlage entzogen wird. Und so hat beispielsweise Axel Me\u00dfinger auf dem Gothic-Musik-Account „Zillo“ auf Facebook folgende Tipps formuliert, wie man KI-Musik erkennen kann, um nicht darauf reinzufallen:<\/p>\n

\"\"<\/p>\n

\"\"<\/p>\n

Schon vor knapp drei Jahren hab ich ja in einem Artikel<\/a> festgestellt, dass KI-generierte Musik eigentlich ziemlich grotesk ist, denn schlie\u00dflich ist Musik ja nun mal etwas, was von Musikern gern gemacht wird, weil sie Spa\u00df daran und zudem oft auch noch eine Intention dabei haben. Sollte man KI also nicht besser f\u00fcr T\u00e4tigkeiten nutzen, die Menschen keine Freude machen?<\/p>\n

Doch nicht nur in der Branche der Musikschaffenden droht KI vielen Menschen ihre Lebensgrundlage zu entziehen, auch in anderen Bereichen ist zu erwarten, dass etliche Jobs verloren gehen werden, weil KI das schlicht und einfach billiger erledigen kann. Und dabei geht es nun nicht nur um Arbeitsstellen mit sehr unangenehmen, weil beispielsweise schmutzigen, gef\u00e4hrlichen oder extrem monotonen T\u00e4tigkeiten, sondern auch um Menschen, die ihre qualifizierten Jobs recht gern aus\u00fcben.<\/p>\n

So haben beispielsweise Synchronsprecher schon darauf aufmerksam gemacht, dass sie keine Lust haben, ihre Jobs an k\u00fcnstliche Intelligenz zu verlieren, und daher auch nicht bereit sind, f\u00fcr das Training der entsprechenden KI Inhalte bereitzustellen \u2013 und das auch noch, ohne ad\u00e4quat daf\u00fcr entlohnt zu werden (s. hier<\/a>). Interessant dabei, dass es vor allem der Streamingdienst Netflix ist, der da diese Entwicklung vorantreibt, denn daran wird dann deutlich, welche Gefahren f\u00fcr den Kulturbetrieb entstehen aufgrund der monopolistischeren Strukturen des Streamingmarktes. Darauf machte ich ja auch schon vor einigen Jahren mal in einem Artikel<\/a> aufmerksam.<\/p>\n

Aber auch in vielen anderen Branchen werden wohl etliche Jobs wegfallen bzw. von KI ersetzt oder zumindest reichlich reduziert werden. So prognostiziert beispielsweise Alex Karp, CEO von Palantir, dass vor allem Frauen mit hoher Bildung Probleme haben werden, noch ad\u00e4quate Besch\u00e4ftigungen zu finden (s. hier<\/a>). Und auch schon jetzt, wenn KI zur Steigerung der Effizienz genutzt werden soll, geschieht dann oft das Gegenteil, n\u00e4mlich sogenannter „AI Brain Fry“ (s. hier<\/a>): Die Mitarbeiter f\u00fchlen sich st\u00e4ndig \u00fcberwacht und \u00fcberfordert von der gleichzeitigen Nutzung mehrerer KI-Tools, sodass sie unproduktiver werden und mehr Fehler machen. Da braucht man nicht allzu viel Fantasie, um sich vorzustellen, dass Unternehmer dann lieber auf solche Angestellten verzichten, sobald sich die M\u00f6glichkeit ergibt, alles gleich von KI erledigen zu lassen.<\/p>\n

Denn ein Herz f\u00fcr Arbeitende darf man von KI-begeisterten Unternehmen nicht erwarten. Was man auch daran sieht, dass das, was uns zurzeit als KI verkauft wird, allzu oft noch menschliche Arbeit ist \u2013 nur eben ausgelagert in afrikanische oder asiatische L\u00e4nder, wo Menschen f\u00fcr einen Hungerlohn Daten analysieren und sortieren, sodass dann „smarte“ Ger\u00e4te den Eindruck erwecken, sie w\u00e4ren tats\u00e4chlich von selbst intelligent (s. hier<\/a>). Besonders gro\u00dfe Menschenfreundlichkeit ist also von den Tech-Oligarchen und ihren Anh\u00e4ngern nicht unbedingt zu erwarten. Von Elon Musk und Peter Thiel ist das ja mittlerweile hinreichend bekannt, aber auch Sam Altman von OpenAI machte ja k\u00fcrzlich durch Verhalten auf sich aufmerksam, dass von einem Betroffenen als „soziopathisch“ bezeichnet wurde (s. hier<\/a>). Und das sind dann die Leute, welche die Wertma\u00dfst\u00e4be bei der Entwicklung von KI vorgeben. Puh …<\/p>\n

Da KI noch nicht umfassend in der realen Welt agieren kann, gibt es jetzt sogar schon eine Plattform, auf der KI-Agenten Menschen anheuern, um T\u00e4tigkeiten f\u00fcr sie auszuf\u00fchren (s. hier<\/a>). Klingt dystopisch? Finde ich auch. Zumindest wird die Vorstellung, dass KI den Menschen dienen und ihr Leben erleichtern soll, damit schon mal reichlich ad absurdum gef\u00fchrt.<\/p>\n

Diese Entwicklung wird auch von Experten wie dem KI-Forscher Nate Soares kritisch gesehen. So meint er in einem Interview mit dem Handelsblatt<\/em><\/a> (leider nur zum Teil ohne Bezahlung lesbar):<\/p>\n

\n
\n
\n

Was zeigt uns die Plattform Moltbook, wo sich KIs miteinander unterhalten?<\/strong>
\nWas man von Moltbook definitiv lernen kann, ist, wie seltsam sich die KIs zunehmend verhalten. Wenn man sie von der Leine l\u00e4sst, tun sie lauter Dinge, die niemand von ihnen verlangt hat. Sie agieren autonom, bizarr und nicht besonders herzerw\u00e4rmend, aber noch nicht b\u00f6sartig.<\/p>\n<\/div>\n<\/div>\n

\n
\n

Betonung auf noch?<\/b>
\nSolange die KI-Modelle relativ dumm waren, war all das kein Problem. Aber wenn Sie die Intelligenz dieser Systeme weiter steigern, dann entstehen KIs, die sich \u00fcberhaupt nicht mehr f\u00fcr uns interessieren. Vielleicht bauen sie in Zukunft eine \u201eUser Farm\u201c auf, in der sie Menschen z\u00fcchten, die besonders leicht zufriedenzustellen sind, um ihre Ruhe vor uns zu haben. Oder Schlimmeres.<\/p>\n<\/div>\n<\/div>\n<\/blockquote>\n

\n

Klingt jetzt nicht eben beruhigend, oder? Vor allem steht Soares mit seiner Einsch\u00e4tzung nicht allein da. So hat beispielsweise der KI-Pionier Yoshua Bengio in einem Interview mit SRF<\/em><\/a> Anfang des Jahres ge\u00e4u\u00dfert, dass er mittlerweile bedauert, so unbedarft an die Entwicklung von KI herangegangen zu sein, und nun bem\u00fcht ist, KI entsprechend zu gestalten, dass sie keinen Schaden anrichten kann. Und auch dass man immer wieder liest, dass KI-Experten ihren Job hinschmei\u00dfen und dies unter anderem damit begr\u00fcnden, dass sie bef\u00fcrchten, KI k\u00f6nnte komplett au\u00dfer Kontrolle geraten (s. beispielsweise hier<\/a>), ist ein deutliches Anzeichen daf\u00fcr, dass diejenigen, die sich damit auskennen, mittlerweile immer \u00f6fter skeptisch einer z\u00fcgellosen Weiterentwicklung von KI gegen\u00fcberstehen.<\/p>\n<\/div>\n

Roberto Simanowski entwirft in einem Artikel in den Bl\u00e4ttern f\u00fcr deutsche und internationale Politik<\/em><\/a> eine Vorstellung, wie man KI weiterhin konstruktiv nutzen k\u00f6nnte. Das ginge allerdings nur, wenn man KI-Anwendungen zum einen vor allem als Hilfsmittel sieht und zum anderen die Medienkompetenz bei der Nutzung von KI deutlich f\u00f6rdern w\u00fcrde. Und zwar nicht nur in Bezug darauf, wie man KI nutzt, sondern auch, wie man mit Antworten von KI umgeht, diese einordnet oder auch Schwachstellen darin erkennt.<\/p>\n

Ob das allerdings heutzutage so hinhaut, wo doch Menschen immer mehr als dumpfe Konsumenten verstanden werden, die m\u00f6glichst nicht zu viel nachdenken sollen? Und wo Bildung vor allem auf funktionale Aspekte reduziert wird, die aus Kindern gut verwertbare Humanressourcen machen sollen? Ich hab da so meine Zweifel. Vor allem, wenn der \u00f6ffentliche Diskurs in immer gr\u00f6\u00dferem Ma\u00dfe von den Tech-Oligarchen bestimmt wird (beispielsweise wenn diese sich Medien kaufen), die ja damit Geld machen, dass Menschen m\u00f6glichst unreflektiert die ihnen angebotenen KI-Tools nutzen.<\/p>\n

Woran man auch sieht, dass das Ganze in eine verkehrte Richtung l\u00e4uft: KI-Spielzeug auch schon f\u00fcr Kleinkinder ist zurzeit ein Riesentrend. Da frohlocken die Hersteller, aber Experten sehen das durchaus kritisch (s. hier<\/a>). Kinder k\u00f6nnten erhebliche Defizite im Bereich des sozialen und emotionalen Lernens bekommen, wenn sie einen KI-Spielkameraden haben, der immer f\u00fcr sie da ist, nie schlechte Laune hat, ihnen auch nicht widerspricht und dann auch noch teilweise kompetentere Antworten geben kann als die eigenen Eltern. Warum dann also noch mit anderen richtigen Kindern spielen, die schon mal Anforderungen an einen selbst stellen, weil sie eben nicht st\u00e4ndig gut drauf sind und auch mal eigene Ansichten haben?<\/p>\n

Daher fordern Experten eine strengere Regulierung von solche Spielzeugen, da erst einmal gr\u00fcndlich untersucht werden sollte, wie deren Auswirkungen auf die kindliche Entwicklung sind. Aber wie das immer so ist: Regulierungen gelten ja Neoliberalen stets als Teufelszeug, und wenn mit einer Sache Geld gemacht werden kann, dann reicht das in der Regel schon als Legitimation, um das dann einfach so laufen zu lassen.<\/p>\n

Das ist n\u00e4mlich die grunds\u00e4tzliche Crux bei KI-Anwendungen: Diese k\u00f6nnen sehr sinnvoll sein, beispielsweise tats\u00e4chlich beim kindlichen Lernen, aber auch in der Medizin oder beim Programmieren. Daf\u00fcr br\u00e4uchte es allerdings eine streng reglementierten und gut durchdachten Einsatz solcher Tools, und davon sind wir leider zurzeit sehr weit weg.<\/p>\n

Die Tech-Oligarchen schw\u00e4rmen ja zudem schon davon, dass bald eine AGI (artificial general intelligence) das Licht der Welt erblicken k\u00f6nnte. Das w\u00e4re dann kein Tool mehr, was Menschen nutzen, sondern eine sich schnell verselbstst\u00e4ndigende Entit\u00e4t, die vermutlich nur noch ausgesprochen schwer zu kontrollieren w\u00e4re. Und wenn diese AGI dann auf die ganzen Daten, die bisher f\u00fcr KI-Entwicklung gesammelt wurden, und auf die immer zahlreicheren Smarthome-Ger\u00e4te zur\u00fcckgreifen k\u00f6nnte, dann w\u00fcrden wir sehr schnell bei einer totalen \u00dcberwachung durch eine Sache landen, die keine menschlichen Wertma\u00dfst\u00e4be hat. Ich wei\u00df nicht, ob ich das unbedingt erstrebenswert finde.<\/p>\n

Was man vor allem bei all dem auch im Hinterkopf haben sollte: KI ist nicht immun gegen Fehler. Ganz im Gegenteil: Wenn beispielsweise falsche Darstellungen einer Sache erst mal im Internet sind, dann nutzt KI diese auch, um zu lernen \u2013 siehe hier<\/a> am Beispiel von Tierbildern. Und reproduziert diese fehlerhaften Informationen dann erneut. Was wiederum dazu f\u00fchrt, dass eine andere KI das in ihr Lernschema einbaut \u2013 und je mehr von solchen falsch reproduzierten Dingen dann im Netz vorhanden sind, desto st\u00e4rker verbreiten die sich dann auch weiter \u00fcber KI.<\/p>\n

So k\u00f6nnte es dann irgendwann passieren, dass unser Bild von einer Sache nicht dem tats\u00e4chlichen entspricht, sondern dem KI-generierten. Bei Tierbildern mag das noch einigerma\u00dfen zu verschmerzen sein, aber bei komplexeren Zusammenh\u00e4ngen braucht es nicht viel Fantasie, um sich vorzustellen, dass das sehr unangenehme Folgen haben k\u00f6nnte. Beispielsweise dass die Glaubw\u00fcrdigkeit von Informationen noch weiter abnimmt. Oder dass gezielt Falschinformationen gestreut werden, um sie via KI dann weit zu verbreiten. Oder dass Menschen die Realit\u00e4t anzweifeln, auch wenn sie diese direkt vor Augen haben, weil sie eben nicht so ist, wie sie sich ihnen online immer pr\u00e4sentiert. O. k., das haben wir bei AfD-J\u00fcngern auch heute schon allzu oft \u2013 aber besser w\u00fcrde das mit Sicherheit nicht.<\/p>\n

Das ist \u00fcbrigens keine Zukunftsmusik, sondern passiert schon jetzt und hier. In einem Artikel von Mimikama<\/em><\/a> wird geschildert, wie sogenannte KI-Schw\u00e4rme das perfektionieren, was durch Troll-Bots bisher in sozialen Medien doch eher st\u00fcmperhaft (wenngleich immer noch f\u00fcr wenig reflektierte User offenbar glaubw\u00fcrdig) gemacht wurde: Fake News verbreiten, auf Tatsachen beruhende Aussagen diskreditieren, unerw\u00fcnschte \u00c4u\u00dferungen diskreditieren und so eine Mehrheit f\u00fcr abstruse Ansichten suggerieren, die gar nicht vorhanden ist. Zu Recht wird das als „Gefahr f\u00fcr unsere Demokratie“ bezeichnet:<\/p>\n

Die Bedrohung durch KI-Schw\u00e4rme geht weit \u00fcber Fake News hinaus. Es geht nicht nur um falsche Inhalte, sondern um die Zerst\u00f6rung des Vertrauens in \u00f6ffentliche Debatten. Wenn tausende k\u00fcnstliche Stimmen einen Standpunkt vertreten, wird dieser als mehrheitsf\u00e4hig wahrgenommen \u2013 selbst wenn er faktisch falsch ist. Das ist nicht nur Desinformation, das ist psychologische Kriegsf\u00fchrung. K\u00fcnstlich erzeugte Einigkeit untergr\u00e4bt den nat\u00fcrlichen Streit, den jede Demokratie braucht. Meinungsvielfalt wird zur Kulisse f\u00fcr eine inszenierte Wirklichkeit. Und es h\u00f6rt nicht bei der Meinung auf: Auch Symbole, Sprache und kulturelle Identit\u00e4t werden gezielt manipuliert. Die Gefahr ist subtil, aber umfassend. Wer kontrolliert, was als \u201enormal\u201c erscheint, kontrolliert auch, was als \u201ewahr\u201c gilt. Das ist keine Zukunftsmusik, sondern bereits im Gange. Und genau deshalb braucht es jetzt klare Antworten.<\/p><\/blockquote>\n

Solche geforderten klaren Antworten habe ich bisher allerdings aus der Politik noch nicht vernommen.<\/p>\n

Und wenn man dann noch bedenkt, dass dieser ganze KI-Hokuspokus auch noch einen enormen Energiehunger hat, da die daf\u00fcr notwendigen riesigen Rechenzentren ja jede Menge Strom ben\u00f6tigen, dann kommt noch ein ganz anderer negativer Aspekt hinzu. Schlie\u00dflich haben wir als Weltgemeinschaft nicht unbegrenzt Energie zur Verf\u00fcgung, zum anderen wird Energie eben immer noch viel zu oft aus fossilen Energietr\u00e4gern gewonnen, was dann wieder die Klimakrise weiter befeuert. Ist jetzt auch nicht richtig erstrebenswert, oder?<\/p>\n

Man wird ja schnell als Fortschrittsfeind, der am liebsten wieder zur\u00fcck in die Steinzeit m\u00f6chte, gebrandmarkt, wenn man solche kritischen Gedanken hegt und auch noch anderen mitteilt. Ich finde allerdings, dass die aufgezeigten negativen Auswirkungen von KI, die teilweise schon erlebbar sind, so erheblich sind, dass man sich zumindest mal damit befassen sollte.<\/p>\n

R\u00fcckabwickeln werden wir das Ganze sowieso nicht k\u00f6nnen, denn das ist ja das Fiese bei der B\u00fcchse der Pandora: Das Ding geht nicht einfach so wieder zu. Also sollte zumindest Schadensbegrenzung betrieben werden, und daf\u00fcr ist es wichtig, erst mal ein Problembewusstsein zu schaffen. Schwierig genug, denn die KI-Bef\u00fcrworter und -Vorantreiber haben ja die „Ist ja alles so sch\u00f6n bunt hier“-Sichtweise auf ihrer Seite …<\/p>\n

Abschlie\u00dfend noch ein kleiner Cartoon, den ich auf der Facebook-Wall von Rainer Hofmann<\/a> entdeckt habe und der eines der Probleme der KI-Nutzung sehr treffend humoristisch darstellt:<\/p>\n

\"\"<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

2019 habe ich in einem Artikel die Frage gestellt, was uns (als Menschheit) wohl als Erstes umbringen wird. Eine Option, die ich damals nach Klimawandel, Umweltzerst\u00f6rung und sozialer K\u00e4lte anf\u00fchrte, war auch die k\u00fcnstliche Intelligenz (KI). Und leider habe ich in den letzten Wochen und Monaten einiges gelesen, was zeigt, dass diese wenig optimistische Einsch\u00e4tzung wohl nicht ganz verkehrt gewesen ist.<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[50,52],"tags":[1252,1245,628],"class_list":["post-32145","post","type-post","status-publish","format-standard","hentry","category-politisches","category-soziales","tag-deepfakes","tag-ki","tag-kuenstliche-intelligenz"],"_links":{"self":[{"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/posts\/32145","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=32145"}],"version-history":[{"count":43,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/posts\/32145\/revisions"}],"predecessor-version":[{"id":32537,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=\/wp\/v2\/posts\/32145\/revisions\/32537"}],"wp:attachment":[{"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=32145"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=32145"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.unterstroemt.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=32145"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}