Wir starten eine Suchanfrage nach neuen Sneakers auf Zalando oder Amazon. Kurz darauf erscheinen personalisierte Vorschläge, gezielte Rabatte und Bewertungen, die perfekt in unser Suchschema passen. Eine Stunde später taucht genau dieses Modell auf Instagram auf – mit dem Hinweis, dass es „nur noch wenige auf Lager“ gibt. Schließlich landet es im Warenkorb. War das eine freie Kaufentscheidung?
Was wie smarter Service wirkt, ist in Wahrheit das Produkt hochentwickelter Künstlicher Intelligenz (KI). Algorithmen analysieren unser Verhalten, berechnen unsere Vorlieben und steuern unsere Kaufimpulse. Sie erkennen, wann wir zögern, wann wir empfänglich für Angebote sind und wie uns subtile psychologische Mechanismen dazu bringen, eine Entscheidung zu treffen. Doch wo liegt die Grenze zwischen Personalisierung und Manipulation?
KI wird zur treibenden Kraft im Marketing
Die Bedeutung von KI für das Marketing wächst rapide. Eine Studie des Marketingforschungsunternehmens Ascend2 zeigt, dass 60 Prozent der befragten Marketer erwarten, dass KI und maschinelles Lernen den größten Einfluss auf zukünftige Marketingstrategien haben werden. Zudem nimmt die Investitionsbereitschaft in Marketingtechnologie deutlich zu. 47 Prozent der Unternehmen planen, zwischen 20 und 40 Prozent ihres Marketingbudgets für entsprechende Technologien aufzuwenden – eine Verdopplung gegenüber dem Vorjahr.
Dass Marketing und Werbung sich in einem rasanten Veränderungsprozess befinden, weiß Brandon Mina, CEO des kanadischen Performance-Marketing-Unternehmens BrandPilot AI. Er sieht KI als revolutionären Faktor, der von der Zielgruppenansprache über die Optimierung von Inhalten bis hin zur Kampagnensteuerung alles beeinflussen wird. „Um die Wachstumschancen dieser Entwicklung nutzen zu können, müssen Vermarkter und Werbetreibende in die entsprechenden Technologien investieren“, sagt Mina.
Der unsichtbare Einfluss der Algorithmen
Zielgruppenansprache und Personalisierung im E-Commerce sind längst keinen Neuheiten mehr. Seit Jahren setzen Unternehmen auf intelligente Empfehlungssysteme, um ihrer Kundschaft gezielt Produkte vorzuschlagen, die zu ihren bisherigen Käufen oder Suchanfragen passen. Doch während früher simple Filterregeln den digitalen Einkaufsprozess bestimmten, übernehmen diese Aufgabe heute hochentwickelte KI-Systeme. Plattformen wie Amazon, Zalando oder TikTok setzen Algorithmen ein, die das Verhalten ihrer Nutzerschaft in Echtzeit analysieren, um vorherzusagen, worauf sie als Nächstes klicken könnten.
Diese Recommender Systems haben enormen Einfluss darauf, was Konsumenten überhaupt zu Gesicht bekommen. Wer einmal nach Luxusuhren gesucht hat, wird in Zukunft vor allem teurere Modelle vorgeschlagen bekommen. Auf den ersten Blick scheint das sinnvoll – schließlich werden uns Produkte präsentiert, die uns tatsächlich interessieren. Doch in Wahrheit entscheidet nicht mehr der Kunde allein, sondern ein lernfähiges System, das seinen Entscheidungsprozess lenkt. Während die Algorithmen dabei helfen, schneller das zu finden, was wir suchen, schränken sie gleichzeitig unsere Auswahl ein. Der digitale Raum wird immer enger, die Alternativen immer weniger sichtbar.
Auch die Preisgestaltung hat sich verändert. Statt eines festen Preises gibt es heute dynamische Preisanpassungen, die sich in Echtzeit an das Verhalten der Kundinnen und Kunden anpassen. Wer sich mehrfach nach einem Produkt erkundigt, könnte plötzlich feststellen, dass der Preis steigt – weil das System erkannt hat, dass ein echtes Kaufinteresse besteht. Umgekehrt kann einem zögerlichen Käufer ein spezieller Rabatt angeboten werden, um ihn zur Kaufentscheidung zu bewegen. Diese Strategie steigert den Umsatz der Unternehmen, stellt aber gleichzeitig die Fairness des Marktes infrage.
Wenn Maschinen zu Verkäufern werden
Besonders problematisch wird KI, wenn sie aktiv mit Kundinnen und Kunden interagiert. Chatbots und KI ersetzen zunehmend den Kundenservice und können durch psychologische Signale wie Unsicherheit oder Entscheidungsfreude gezielt Kaufabschlüsse fördern.
Diese Art der Persuasive AI ist in vielen Online-Shops bereits fest integriert. Zalando nutzt beispielsweise seit 2024 einen KI-gestützten Modeberater, der nicht nur passende Outfits empfiehlt, sondern sich auch direkt an den Bedürfnissen der Kundschaft orientiert. Wer nach einem Outfit für eine Hochzeit sucht, erhält zum Beispiel auch eine kuratierte Auswahl an Accessoires – inklusive direktem Kauflink. Während Unternehmen solche Assistenten als Service verkaufen, warnen Experten vor dem manipulativen Potenzial solcher Technologien.
Ein weiteres Beispiel findet sich in der Online-Werbung. Generative KI erstellt heute automatisiert Produkttexte und Anzeigen, die sich exakt an den Nutzerinnen und Nutzern anpassen. Während klassische Werbung oft als störend empfunden wurde, schafft personalisierte KI-Werbung eine neue Dimension der Beeinflussung. Der Nutzer sieht exakt die Worte und Bilder, die ihn emotional ansprechen und ihn zum Kauf bewegen sollen – ein Mechanismus, der immer weiter verfeinert wird.
Studien: KI kann Kaufentscheidungen gezielt manipulieren
Die zunehmende Macht der KI im Online-Handel wirft ernste ethische Fragen auf. Wie frei sind unsere Kaufentscheidungen wirklich, wenn Algorithmen unser Verhalten vorhersehen und aktiv beeinflussen? Kritiker argumentieren, dass Verbraucherinnen und Verbraucher – ebenso wie Wähler – oft gar nicht bemerken, wie stark sie gelenkt werden.
Das ist auch Gegenstand der Forschung. In einer Studie der University of Michigan entwickelten die Wissenschaftler einen Chatbot, der personalisierte Werbeinhalte in seine Antworten einbettete, um zu untersuchen, wie Nutzer darauf reagieren. In einem Experiment mit 179 Teilnehmern wurden drei Szenarien getestet: ein Chatbot ohne Werbung, ein Chatbot mit nicht gekennzeichneter personalisierter Werbung und ein Chatbot, bei dem die Werbung als solche erkennbar war.
Die Ergebnisse zeigten, dass viele Nutzende die Werbung in den Antworten des Chatbots nicht erkannten – und dass sie die Interaktion sogar positiver bewerteten, wenn die Werbung nicht als solche ausgewiesen wurde. Wurde sie hingegen klar gekennzeichnet, empfanden die Teilnehmer den Chatbot als aufdringlicher und manipulativer. Besonders brisant: Viele Nutzer versuchten, ihre Datenschutzeinstellungen zu ändern, anstatt die Werbung bewusst wahrzunehmen. Das wirft Fragen zur Transparenz und Wahrnehmung von KI-gestütztem Marketing auf. Denn es zeigt, wie tief automatisierte Systeme in unser Kaufverhalten eingreifen können.
Auch eine andere Studie zeigt, dass KI-gestützte Plattformen das Kaufverhalten gezielt manipulieren können. Die Forscher nutzten den sogenannten „Glossiness-Effekt“, der beschreibt, wie Produkte durch äußere Merkmale attraktiver erscheinen, ohne dass sich ihre tatsächliche Qualität verbessert. Und sie sprechen eine Warnung aus: „KI-gestützte Systeme lernen, welche Merkmale Kunden ansprechen, und nutzen diese gezielt zur Verhaltensmanipulation.“
Regulierungsbehörden sind alarmiert
Zusätzlich kann KI gezielt psychologische Schwächen von Verbraucherinnen und Verbrauchern ausnutzen, indem sie Werbeanzeigen, Empfehlungen und sogar Preise individuell anpasst, um Kund*innen zum Kauf zu bewegen. Laut der Studie verstärkt sich diese Manipulation, je besser die KI das Verhalten der Nutzer versteht. Die Autoren kommen zu dem Schluss, dass eine Regulierung dieser Technologie dringend notwendig ist, um Verbraucher vor versteckter Beeinflussung zu schützen.
Regulierungsbehörden haben diese Entwicklungen längst im Blick. In der EU trat 2023 der AI Act in Kraft, der bestimmte manipulative KI-Techniken verbietet – insbesondere dann, wenn sie darauf abzielen, Menschen durch unterschwellige Mittel oder die gezielte Ausnutzung von Schwächen erheblichen Schaden zuzufügen.
Ob gängige Online-Werbepraktiken wie personalisierte Werbung oder dynamische Preisgestaltung darunterfallen, ist derzeit jedoch nicht eindeutig und hängt von der konkreten Ausgestaltung ab. In den USA wurden im letzten Jahr fünf KI-Firmen von der Regierung wegen unzulässigen Praktiken verklagt. “Die Verwendung von KI-Tools zur Täuschung, Irreführung oder zum Betrug von Menschen ist illegal”, sagte die damalige Vorsitzende der US-Kartellbehörde Lina M. Khan. Doch seit Donald Trumps Wiederwahl sind die Bestrebungen für verbindliche KI-Richtlinien zurückgefahren worden.
Wie dem wachsenden Einfluss der KI-Technologie in der personalisierten Ausspielung von Werbung und von Plattformen in der EU mit dem Digital Service Act Paket begegnet wird, und welche konkreten Maßnahmen ergriffen werden, diese zu begrenzen, bleibt abzuwarten.
(amx, Jahrgang 1989) ist seit Juli 2022 Redakteur bei der absatzwirtschaft. Er ist weder Native noch Immigrant, doch auf jeden Fall Digital. Der Wahlberliner mit einem Faible für Nischenthemen verfügt über ein breites Interessenspektrum, was sich bei ihm auch beruflich niederschlägt: So hat er bereits beim Playboy, in der Agentur C3 sowie beim Branchendienst Meedia gearbeitet.
Nicht-IAB Standard