Eine neue Moderationspolitik soll TikTok vor Fehlinformationen, Wahleinmischungen und anderen Formen manipulativer Inhalte im Zusammenhang mit der US-Präsidentschaftswahl 2020 schützen. Diese ist eine weitere Reaktion auf das drohende US-Verbot für die Videoplattform.
Das Unternehmen, das derzeit in eine beispiellose Übernahmeverhandlung mit Microsoft verwickelt ist, untersagt nun ausdrücklich Deepfakes. Deepfakes sind künstliche Intelligenz-basierte Manipulationen von Audio- und Videodateien, um Menschen über etwas, das jemand getan oder gesagt hat, in die Irre zu führen. Bei diesen Videos wird das Gesicht einer Person durch das einer anderen ersetzt. Die Mimik der Originalperson bleibt allerdings erhalten. Auch Stimmfälschungen per Deepfake sind möglich.
Fake-Videos leicht zu erstellen
Der Effekt kann visuell mitunter sehr überzeugend sein, gerade bei schnellen Socia-Media-Videos in geringer Auflösung. Die Produktion der Fake-Videos ist im Vergleich zu herkömmlichen Fälschungsmethoden günstig und schnell. In der extrem dynamischen Video-Flut bei TikTok könnten die Fake-Videos kaum als Fälschung auffallen. Plattformen wie YouTube, Twitter und Facebook haben bereits zuvor Deepfakes-Regel verabschiedet. Anfang Januar gab Facebook bekannt, schädliche und gefährliche Deepfakes verhindern zu wollen – satirische oder parodistische Deepfakes sind weiter erlaubt. YouTube und Twitter aktualisierten ihr Regelwerk im Februar mit Anti-Deepfake-Paragraphen.
Die Technologie zur Schaffung von Deepfakes hat in den vergangenen Jahren in Punkto Raffinesse und Benutzerfreundlichkeit massiv zugenommen. Ursprünglich war sie eher in der Pornoindustrie verbreitet. Zuletzt sind weltweit Bedenken aufgekommen, dass Deepfakes irgendwann dazu verwendet werden können, Aussagen von Politikern zu verändern. Täuschend echte Bearbeitungen könnten diese diskreditieren oder ihrem Ruf schaden. Darum sind in vielen Ländern Deepfakes für den Einsatz in der politischen Werbung verboten.
US-Präsident Donald Trump machte sich dies im Kampf gegen China und TikTok zu eigen. Seine Motivation ist klar: Gründe sammeln, um die Video-Plattform verbieten zu lassen. So hatte Trump bereits zuvor per Dekret festgelegt, dass US-Amerikaner keine Geschäfte mit TikTok und seinem Mutterkonzern Bytedance machen dürfen. Bytedance solle Nutzerdaten an die chinesische Regierung weitergegeben haben. Das Unternehmen bestreitet dies.
Trump hat auch persönliches Motiv für Verbot
Die Video-App wurde in den USA bereits rund 175 Millionen Mal heruntergeladen. Sie ist vor allem bei jungen Nutzern sehr beliebt und gilt als die am schnellsten wachsende Social-Media-App der Welt. Damit macht sie auch US-Plattformen wie Facebook oder Instagram Konkurrenz. Doch geht es bei dem Verbotsversuch nicht nur um den Handelskrieg zwischen den USA und China. Es geht wie so oft um Trump persönlich. TikTok-Nutzer hatten im Juni einen Boykott einer Wahlkampfveranstaltung von Trump in Tulsa im US-Bundesstaat Oklahoma organisiert. Sie hatten massenweise die angebotenen Eintrittskarten reserviert, ohne sie anschließend zu nutzen.
TikTok muss nun, um auf dem US-Markt zu bleiben, Kompromisse eingehen. Die Maßnahmen gegen Deepfakes sind dafür wichtig. Sie sind aber ohnehin international gefordert. Das Unternehmen will die Technologien auf seiner Plattform unter anderem mit der Hilfe von Technikexperten, externen Plattformen und Faktencheckern bekämpfen. Das Unternehmen gab an, dass es seine Fact-Checking-Partnerschaften mit PolitiFact und Lead Stories erweitert, „um potenzielle Fehlinformationen im Zusammenhang mit der US-Wahl 2020 zu überprüfen“. Es fügt ebenso eine Wahl-Fehlinformation-Option zu seinem In-App-Berichtsmechanismus hinzu, damit Benutzer verdächtige Inhalte oder Konten kennzeichnen können. Das Unternehmen betonte ebenso seine Partnerschaft mit der Countering Foreign Influence Task Force des Department of Homeland Security als eine weitere Front im Kampf gegen ausländische Einmischung. TikTok verbannt auch andere Arten von manipulierten Medien, nimmt Deepfakes aber jetzt explizit in die eigenen Richtlinien auf.
Die bereits befürchtete Deepfake-Schwemme zur US-Wahl 2020 ist bislang ausgeblieben. Der wahrscheinlichste Grund liegt darin, dass Aufwand und Qualität trotz des einfachen Zugangs zur KI-Technik noch nicht im Verhältnis stehen. Deepfakes dienen derzeit eher der Unterhaltung. Daher dürften TikTok die Maßnahme nicht allzu weh tun.