Astăzi, Comisia Europeană a constatat, cu titlu preliminar, că TikTok încalcă Regulamentul privind serviciile digitale (DSA) pentru așa-numitul efect de tip „rabbit hole” al sistemului său de recomandare. Feed-ul TikTok „For You” le arată utilizatorilor un flux continuu de videoclipuri personalizate, chiar și atunci când acestea sunt legate de probleme de sănătate mintală și de imaginea corporală.
Cu cât un utilizator interacționează mai mult cu un anumit tip de conținut, cu atât algoritmul de alimentare „For You” al TikTok recomandă mai mult conținut similar. Acest design poate fi dăunător atunci când o astfel de expunere nesfârșită și repetată implică, de exemplu, conținut despre tristețe, izolare sau imagine corporală. Aceste efecte de tip „rabbit hole” pot avea un impact negativ asupra sănătății mintale a utilizatorilor, în special a adulților și a minorilor vulnerabili.
Constatările preliminare de astăzi se axează atât pe evaluarea riscurilor, cât și pe măsurile de atenuare.
Cu titlu preliminar, Comisia a constatat că TikTok nu a evaluat în mod adecvat modul în care algoritmul său de recomandare îi poate conduce pe utilizatori în astfel de „rabbit holes”, punându-le în pericol bunăstarea. Constatările preliminare arată că proiectarea algoritmului poate juca un rol important în apariția unor efecte de tip „rabbit hole”. Algoritmul folosește informații despre implicarea utilizatorilor, cum ar fi vizionarea și aprecierea videoclipurilor, pentru a personaliza conținutul recomandat acestora.
De exemplu, atunci când un utilizator urmărește sau îi place în mod repetat conținutul care poate declanșa, cum ar fi conținutul despre pierderea în greutate sau imaginea corporală, sistemul interpretează aceste interacțiuni ca semne pozitive de interes și recomandă mai mult același lucru.
Expunerea repetată la un astfel de conținut poate avea efecte negative grave asupra bunăstării utilizatorilor, inclusiv sentimente crescute de tristețe sau anxietate, nemulțumire corporală, stimă de sine mai scăzută sau agravarea tulburărilor de alimentație și a condițiilor mentale existente.
Constatările de astăzi concluzionează, de asemenea, cu titlu preliminar, că TikTok nu a reușit să pună în aplicare măsuri de atenuare proporționale, rezonabile și eficace pentru a aborda aceste riscuri.
Deși TikTok a pus deja în aplicare anumite măsuri pentru a atenua riscul efectului de tip „rabbit hole”, Comisia a constatat, cu titlu preliminar, că aceste măsuri nu sunt eficace.
Măsurile de recomandare a unui conținut diversificat nu reduc suficient frecvența cu care se recomandă un conținut similar, inclusiv conținutul legat de problemele de sănătate mintală și de imaginea corporală.
` Instrumentele de control nu permit în mod eficient utilizatorilor să controleze conținutul care le este recomandat. De exemplu, este posibil ca utilizarea butonului „nu este interesat” să nu fie suficientă pentru a modifica fluxul de conținut. Algoritmul prioritizează afișarea conținutului utilizatorilor în funcție de timpul de vizionare, față de alegerea lor de a vedea mai puțin dintr-un anumit conținut.
În această etapă a investigației, Comisia consideră că TikTok trebuie să modifice designul feedului „For You”. De exemplu, TikTok ar trebui să se bazeze mai mult pe preferințele explicite ale utilizatorilor, să dezactiveze timpul de vizionare ca indicator pentru a recomanda conținut, să crească accesibilitatea și gradul de utilizare a controalelor utilizatorilor și să-și testeze în mod regulat algoritmul.
TikTok are acum posibilitatea de a-și exercita dreptul la apărare. Acesta poate examina documentele din dosarele de investigație ale Comisiei și poate răspunde în scris la constatările preliminare ale Comisiei. În paralel, va fi consultat Comitetul european pentru servicii digitale.
În cazul în care opiniile Comisiei sunt confirmate în cele din urmă, Comisia poate emite o decizie de neconformitate, care poate declanșa o amendă proporțională cu natura, gravitatea, recurența și durata încălcării și poate ajunge până la 6 %, dar nu mai mult de 6 % din cifra de afaceri anuală totală la nivel mondial a furnizorului.
Redactor: Lupu Geanina
