TikTok und der DSA

Dr. Martin Degeling
Stiftung neue Verantwortung
17.02.2024

About me

• Forschung zu Profiling und Datenschutz (RUB, CMU)
• seit 2022: Stiftung Neue Verantwortung: Analyse von KI-basierten Empfehlungssystemen

Übersicht

• Was macht TikTok anders - die Logik des For You Feeds
• TikTok und die Umsetzung des Digital Services Act

Dokumentation unserer Arbeit: tiktok-audit.com

Team: Kathy Meßmer, Julian Jaursch, Anna Semenova, Alexander Hohlfeld, Greta Hess

Folien

https://martin.degeling.com/slides/tiktok-2024-02-17/

Warum ist TiKTok relevant

• Starke Verbreitung während Corona
• Andere Netzwerke haben das Prinzip TikTok schnell übernommen
• Heute 134 Millionen monatlich aktive Nutzer*innen in Europa (VLOP)

Was macht TikTok problematisch?

• Verbreitung von Falsch-Informationen und Hate Speech (ISD Global)
• Hohe Nutzungszeit: Sorge um mentale Gesundheit der Nutzenden (Amnesty Tech)
• Starke Kommerzialisierung der Unterhaltung. (NYT)

TikTok hands on

Intro: Empfehlungsmodelle

Abonements       Netzwerk                  Algorithmus

z.B. Podcasts, RSS             z.B. das alte Facebook, IG                       z.B. TikTok, IG Reels, Twitter

Eigene Auswahl              Auswahl anderer                            Gewichtungen

TikTok Interna

• Optimierung auf Nutzungsdauer und Wiederkehrende Nutzer*innen
• Für jedes Video wird ein Wert bestimmt, der mit Wahrscheinlichkeiten für Interaktionen rechnet
• Auswertung beruht vor allem auf Metdaten, weniger auf Inhalt
• Views werden auf die Millisekunde genau gemessen

"Jede*r geht viral"

• Stimmt so nicht
• Kein Video geht ungeprüft Viral (SMW, 14.03.23)
• TikTok Angestellte können einzelne Videos hervorheben (heating)
• Dauerhaft auf der Platform präsent zu sein ist schwierig

The total video views of heated videos accounts for a large portion of the daily total video views, around 1-2%, which can have a significant impact on overall core metrics.

Beliebter Content

TikToks DSA Versprechen

• Bessere Content Moderation
• Transparenz/Einstellbarkeit
• Kontrolle von Werbung
• Überprüfbarkeit durch Dritte

Unsere Aufgabe als zivilgesellschaftliche Organisation: Überprüfung der Einhaltung dieser Versprechen

Content Moderation

• TikTok macht ~2 Mio, meist automatisierte, Moderationen am Tag (EU Transparency Dashboard
• Beschäftigt 6125 Moderator:innen zuständig für die EU, (Youtube mehr 16.000)
• Etwa der Hälfte der wenigen Widersprüche von Usern wird stattgegeben (Tiktok Report)

Transparenz/Einstellbarkeit

• Nicht personalisierten Feeds/Suche (August, 2023), aber: Personalisierung ist Standard
• Einwilligung in personalisierte Werbung wird abgefragt, aber: und Interface nutzt Nudging
• Erklärung des Empfehlungssystems existiert, aber: konkrete Erklärungen sind fehlerhaft

Werbung: Profiling Minderjähriger

• TikTok: ab Juli 2023 kein Profiling Minderjähriger mehr
• Merklichen Rückgang erst im August
• Bis heute sind Verstöße in der Ad Library zu finden

Werbung: Politikverbot

Werbung: Politikverbot

• Ein Jahr nach der Ankündigung war es problemlos möglich 100 politische Anzeigen zu finden
• Nachdem Netzpolitik.org über unsere Ergebnisse berichtet hat, sind alle Anzeigen verschwunden.

Werbung: Politikverbot

Data Access & APIs

TikTok stellt einige Datenzugänge (Art 40 DSA) bereit:

• Research API
• Commercial Content API

Research API

• Zugang zur Research API ist auf akademische Forschung beschränkt
• Mit den bereit gestellten Daten kann nur eine begrenzte Zahl an Forschungsfragen beantwortet werden
• Es fehlen z.B: Metadaten, Empfehlungen, Suche

Beispiel: Analyse von Werbung auf Tiktok

• Wieviel Werbung sehen Nutzer:innen?
• Erhebbar nur durch Simulation von Nutzungsverhalten nicht möglich über die API

Beispiel: Analyse von Werbung auf Tiktok

Commercial Content API

• Die Werbe Datenbank erlaubt keine aggregierte Auswertung
• Durch Scraping ermittelt: die meisten Anzeigen werde erst nach dem Ausspielen gelöscht
• Das Löschen aller Referenzinformationen macht eine Bewertung der Misstände unmöglich

Such-Empfehlungen

• Wenig beachtete Zusatzfunktion von TikTok
• Suchempfehlungen pro Video und allgemein
• Enthalten nicht selten probelmatische Suchvorschläge

Zusammenfassung

Was TikTok ändern muss

• Ende des Transparenz Theater und (für alle) funktionierende Datenzugänge
• Optimierung des Algoritmus auf anderes als Konsum und längere Nutzungszeiten
• Wirksame Moderation von Hass und Mis-/Desinformationen in allen Teilen der Platform