KI and me (9): Fortschritt oder Fehlentwicklung?

Ich stelle einmal eine überraschend einfache Frage:

Was ist relevanter für echten menschlichen Fortschritt – Autos oder Smartphones?

Der amerikanische Ökonom, Verhaltensforscher und Autor Dan Ariely hat diese Frage kürzlich ganz klar beantwortet: Autos wurden in den letzten 100 Jahren sicherer, nicht weil wir etwa besser fahren, sondern weil sie sich kontinuierlich an unsere Unzulänglichkeiten anpassen. Sicherheitsgurte, Rückspiegel, ABS, Spurassistenten – das Auto ist längst ein System, das uns vor uns selbst schützt. Es ist zu einer Art Co-Piloten geworden, weil wir nicht aufmerksam genug sind. Weil wir manchmal impulsiv, abgelenkt und müde – eben ganz einfach weil wir Menschen sind.

Die Mechanik der Ablenkung

Und dann kam das Smartphone. Oder vielmehr: der digitale Informationskonsum. Auch hier gibt es Jahr für Jahr „Verbesserungen“. Doch diese Verbesserungen funktionieren anders: Sie machen sich unsere Schwächen zunutze. Sie erkennen, dass wir negative Nachrichten lieber klicken als positive – und geben uns mehr davon. Dass wir lieber Bilder sehen als lange Texte – und sie schneiden daraufhin das Komplexe auf TikTok-Format zurecht. Dass wir kürzere Inhalte bevorzugen – und sie ersetzen dementsprechend Tiefe durch Scrollbarkeit. Der Algorithmus ist kein Co-Pilot. Er ist ein Spiegel. Und er kennt unsere Reaktionen besser als wir selbst.

Digitale Systeme stoppen also nicht, wenn sie merken, wie schlecht wir mit ihnen umgehen – ganz im Gegenteil: Sie verstärken genau diese Schwächen.

Autos werden also technisch Jahr für Jahr besser, weil Ingenieurinnen und Entwickler uns vor unseren eigenen Fahrfehlern schützen wollen. Entwickler von Informationssystemen hingegen streben nach dem Gegenteil. Beide erkennen menschliches Verhalten – aber nur eines dieser beiden Systeme arbeitet daran, es zu verbessern.

Denn während Autos unsere Fahrschwächen kaschieren und ausgleichen, ziehen Informationssysteme aus ihnen Profit. Apps und Plattformen liefern genau das, was unsere kleinen Schwächen füttert – algorithmisch verstärkt. Und wir klicken und scrollen weiter, weil das System weiß, dass wir es tun.

Psychische Kollateralschäden

Diese Beobachtung ist nicht neu, aber sie gewinnt an Dringlichkeit. Studien zeigen längst, wie sich übermäßiger Konsum digitaler Inhalte auf unsere psychische Gesundheit auswirkt: Informationsüberflutung führt zu Stress, Entscheidungsarmut und mentaler Erschöpfung.

„Information overload often leads to feelings of anxiety and a perceived loss of control“,

schreibt etwa Delta Psychology. Und das passiert nicht etwa am Ende eines dramatischen Abwärtstrends, sondern bereits ganz am Anfang – still, leise, schleichend. Im Gegensatz zu einem Autounfall ist der digitale Burnout jedoch kein lauter, dramatischer Aufprall. Er schleicht sich langsam ein, reduziert unsere Konzentration und raubt uns – langfristig – Energie

Dabei könnten wir es besser machen. Wenn es möglich ist, ein Auto zu bauen, das uns sanft in der Spur hält, wenn wir abdriften – warum dann nicht auch digitale Systeme, die uns warnen, wenn wir geistig auf Abwege geraten? Warum nicht ein Informationsdesign, das uns nicht mit Dopamin, sondern mit Urteilsvermögen versorgt?

Kann KI etwa die Lösung sein?

Vielleicht: Es gibt zumindest Hoffnung – und Ideen.

Yuval Noah Harari und Tristan Harris haben es in einem Artikel für WIRED so formuliert:

„We need an AI sidekick who knows our weaknesses and protects us against agents trying to hack us.“

Was wie Science-Fiction klingt, ist eine ethische Forderung: Es reicht nicht, Technologien effizienter zu machen. Sie müssen auch gut für uns sein. So wie ein gutes Auto. Oder auch ein gutes Gespräch. Ein solcher Assistent würde nicht unsere Daten ausbeuten, sondern uns genau davor schützen – vergleichbar mit dem ABS-System im Auto.

Verantwortung für Designer:innen und Vermarkter:innen

Irgendwo sind wir falsch abgebogen: Menschlicher Fortschritt misst sich eben nicht daran, wie viele Daten wir bewegen können, sondern wie gut wir mit ihnen umgehen. Ob wir Systeme bauen, die uns dabei unterstützen – oder solche, die uns ausnutzen. Ob wir Technologien schaffen, die uns helfen, Mensch zu bleiben.

Ich bin nicht naiv. Als Marktingmensch weiß ich, wie die Aufmerksamkeitsökonomie funktioniert. Und ich weiß auch, wie schwer es ist, Systeme zu verändern, die auf kurzfristige Reaktionen optimiert sind. Aber ich glaube, dass Marketing, Kommunikation und digitale Gestaltung Verantwortung tragen – mehr denn je. Und dass wir als Gestalter, Trainer, Berater, als Menschen, die mit Menschen arbeiten, nicht nur Klicks zählen dürfen, sondern Wirkungen. Die tieferen. Die stilleren. Die langfristigen.

Dieser Gedankenflug ist nun jedoch keine Vision von Idealisten – er ist vielmehr eine legitime Erwartung an verantwortungsvolle Gestaltung:

Design bewusst steuern: Apps, die bewusst Filter, Entzerrung und Pausen integrieren – wie Spurhalteassistenten fürs Denken.
Algorithmische Fairness: Plattformbetreiber dürfen nicht nur nach Reichweite jagen, sie müssen prüfen: Verstärken wir destruktive Impulse?
Nutzer:innen stärken: Fokusmodus, Digital Detox, reduzierte Push-Benachrichtigungen – das sind einfache Tools für mentale Autonomie.

Wie sollte Fortschritt also heute aussehen?

Wahrer Fortschritt misst sich – wie schon gesagt – nicht an gigantischen Datenmengen oder Nutzerzahlen. Er zeigt sich darin, ob Technologie uns besser macht – nicht nur reicher oder populärer. Ob sie uns schützt, statt auszubeuten. Das Auto wurde sicherer, weil wir Fehler machen. Jetzt ist an der Zeit, dass digitale Systeme ihre Aufgabe ernst nehmen.

Wir alle, die in diesen Bereichen arbeiten, sind gefragt, Inhalte, Kampagnen und Plattformen so zu gestalten, dass sie Menschen langfristig stärken. Damit sie reflektieren, verstehen und wählen können – statt nur zu konsumieren.

Denn eigentlich könnten wir es doch besser machen. Wenn es möglich ist, ein Auto zu bauen, das uns sanft in der Spur hält, wenn wir abdriften – warum dann nicht auch digitale Systeme, die uns warnen, wenn wir geistig auf Abwege geraten? Warum nicht ein Informationsdesign, das uns nicht mit Dopamin, sondern mit Urteilsvermögen versorgt?

Vielleicht ist es Zeit, dass wir digitale Sicherheitssysteme entwickeln. Nicht nur Spamfilter – sondern Denkfilter. Nicht zur Kontrolle, sondern zur Reflexion. Nicht, um uns zu begrenzen, sondern um uns zu schützen.

So wie ein guter Gurt. Oder ein Blick in den Rückspiegel.

makketing – der Blog