UE zarzuca TikTokowi szkodliwy wpływ algorytmu i żąda zmian rekomendacji

Komisja Europejska przedstawiła TikTokowi wstępne ustalenia dotyczące możliwego naruszenia Aktu o usługach cyfrowych (DSA). Sprawa dotyczy systemu rekomendacji „For You”, który może kierować użytkowników, w tym osoby nieletnie, do powtarzalnych strumieni treści związanych między innymi ze zdrowiem psychicznym i obrazem własnego ciała.

Według Komisji algorytm może wykorzystywać historię oglądania i polubień do proponowania kolejnych, podobnych materiałów. W ten sposób użytkownik może trafić do tzw. rabbit hole, czyli zamkniętego ciągu rekomendacji o zbliżonej tematyce. Wśród wskazanych kategorii znalazły się treści dotyczące smutku, izolacji, odchudzania, obrazu własnego ciała i problemów ze zdrowiem psychicznym.

Komisja wstępnie uznała, że TikTok niewystarczająco ocenił i ograniczył ryzyko związane z takim działaniem systemu. Zastrzeżenia dotyczą dobrostanu użytkowników, ich zdrowia psychicznego oraz postrzegania własnego ciała. Nie oznacza to jednak potwierdzenia, że algorytm powoduje pogorszenie zdrowia psychicznego. Materiały opisują przedstawioną przez Komisję ocenę ryzyka, a nie ustalone skutki działania platformy.

Wśród oczekiwanych zmian Komisja wymieniła większe uwzględnianie jasno wyrażonych preferencji użytkowników, ograniczenie znaczenia czasu oglądania jako sygnału rekomendacyjnego oraz zwiększenie dostępności narzędzi kontroli treści. Wskazała także na potrzebę regularnego testowania algorytmu. Według przekazanych informacji funkcja „Nie interesuje mnie” nie ogranicza wystarczająco skutecznie częstotliwości rekomendowania potencjalnie szkodliwych materiałów. Źródła nie zawierają jednak danych ani metodologii tej oceny.

Wstępne ustalenia nie są ostateczną decyzją stwierdzającą naruszenie prawa ani decyzją o karze. TikTok może przedstawić Komisji swoje stanowisko. Organ może następnie zmienić zarzuty, przyjąć zobowiązania spółki albo wydać decyzję końcową. Źródła wskazują, że ewentualna kara może sięgnąć 6 proc. właściwego rocznego obrotu, ale nie pozwalają ustalić jej kwoty ani przesądzić, obrót którego podmiotu byłby podstawą obliczeń.

Sprawa wpisuje się w szersze działania Komisji wobec TikToka dotyczące między innymi ochrony dzieci, projektowania sprzyjającego uzależnieniu i przejrzystości platformy. TikTok nie przedstawił w dostarczonych materiałach stanowiska wobec najnowszych ustaleń.