« Oficialii din domeniul informațiilor au avertizat că alegerile prezidențiale din 2024 ar putea fi confruntate cu un val fără precedent de știri false, alimentat de inteligența artificială, provenind de la actori străini. O analiză realizată de Wall Street Journal a videoclipurilor de pe TikTok a arătat că acest lucru se întâmplă deja.
În mijlocul știrilor politice generale și al meme-urilor legate de alegeri de pe TikTok, Wall Street Journal a descoperit mii de videoclipuri cu minciuni politice și exagerări. Analiza ulterioară a condus ziarul să identifice 91 de conturi care promovau aceste videoclipuri din China, Nigeria, Iran și Vietnam, fiind legate între ele în moduri complexe. Aceste rețele virale din afara SUA utilizează mecanismul TikTok de creștere a implicării utilizatorilor, promovând afirmații false și uneori incendiare, fără a fi clar cine se află în spatele lor. TikTok susține că unele dintre aceste conturi caută profit. Experții în securitate cibernetică afirmă că astfel de grupuri urmăresc adesea să creeze haos.
Indiferent de intenție, narațiunile divizive corodează discursul politic deja radicalizat din SUA, într-un moment în care aproximativ o treime dintre tinerii americani se bazează pe TikTok pentru știri.
Poveștile false au prosperat online încă din primele zile ale internetului. Inițial, majoritatea se bazau pe texte și fotografii înșelătoare sau modificate. Acum, inteligența artificială și alte instrumente automate au făcut extrem de ușor să montezi clipuri și să scrii postări cu costuri minime.
„Oricine are 5 dolari și un card de credit poate face asta,” a spus Jack Stubbs, director de informații la firma de cercetare Graphika.
Oamenii pot apoi răspândi aceste minciuni la audiențe largi online, cu ajutorul algoritmilor care identifică preferințele utilizatorilor.
TikTok și alte platforme de social media se luptă să țină pasul.
Regulile TikTok interzic dezinformarea despre alegeri pe care compania o consideră dăunătoare. TikTok a declarat că a angajat experți, a adăugat politici și a construit instrumente pentru a încerca să combată acești actori răi. TikTok și cercetătorii spun că actorii răi își schimbă continuu tacticile pentru a evita apărarea platformei.
Experiența pe TikTok
Wall Street Journal a creat conturi automate, sau „boti”, care au operat în toată SUA pentru a înțelege ce conținut promovează TikTok oamenilor înainte de alegeri.
Botii au navigat pe feed-ul „For You” al TikTok, fluxul de conținut extrem de personalizat și practic infinit, creat de algoritmul TikTok. Wall Street Journal a programat unii dintre ei să rămână pe videoclipuri cu hashtaguri politice comune. Alții s-au concentrat doar pe videoclipuri de la surse de știri mainstream, indiferent de subiect.
Boti au vizionat peste 60.000 de videoclipuri. Multe dintre ele conțineau comentarii politice generale. TikTok a servit boti-ilor mai mult de 6.000 de videoclipuri care îl menționau Trump în descriere—mai mult de două ori numărul de videoclipuri care îl menționau pe președintele Biden. Acest lucru a fost valabil chiar și înainte ca acesta să se retragă din cursa prezidențială. În general, videoclipurile despre Trump au avut mai multă implicare pe platformele de social media decât videoclipurile despre Biden.
Un tipar ciudat a început să apară: videoclipuri cu minciuni evidente despre Trump, ale căror voci AI repetau aceleași expresii ciudate, au condus Wall Street Journal să înceapă să dezvăluie rețeaua de 91 de conturi.
TikTok a servit videoclipuri de la cele 91 de conturi la aproape toți boti-ii Wall Street Journal, uneori în câteva ore de la configurare.
Conturile erau prolifice. În decurs de o lună, au spamat utilizatorii TikTok cu peste 3.000 de videoclipuri noi, multe promovând dezinformarea despre Trump. Postările au atins un vârf de 152 de videoclipuri într-o singură zi.
TikTok a spus că eliminase deja aproape jumătate din cele 91 de conturi înainte ca Wall Street Journal să contacteze compania în timpul raportării. Platforma a continuat să șteargă conturi după ce Wall Street Journal le-a semnalat. Chiar și atunci, botii Wall Street Journal au continuat să primească videoclipuri de la alte conturi aproape identice cu cele care fuseseră eliminate.
„Luăm măsuri în mod continuu împotriva conturilor spam,” a declarat o purtătoare de cuvânt a TikTok. Ea a spus că TikTok „va continua să îmbunătățească modul în care luptăm împotriva comportamentului înșelător”.
Crearea haosului
Utilizatorii nu știu, dar conturile postau din țări îndepărtate. Setările conturilor și conținutul video au legat unele dintre conturi de China și Vietnam.
După ce Wall Street Journal a semnalat conturile către TikTok, compania a lansat o investigație internă care a confirmat că acestea aparțineau unor operațiuni din cele două țări, precum și din Nigeria și Iran.
Printre sutele de videoclipuri despre Trump într-un cont se afla un videoclip eronat filmat pe fereastra unei clădiri înalte din Tengzhou, China. Acest cont a operat în concert cu alte câteva, inclusiv unul numit trump_news_today, care a postat videoclipuri aproape identice la câteva minute distanță.
TikTok nu este disponibil în China. Compania a spus că nu a determinat dacă conturile din China aparțin unei operațiuni de influență susținută de stat. A declarat că a eliminat alte rețele din China care vizează utilizatorii din SUA.
Nu există dovezi directe că vreunul dintre conturi ar fi rezultatul unor operațiuni susținute de stat, dar multe țări, inclusiv China, au externalizat unele dintre campaniile lor de influență către firme private, care pot atât să ascundă legăturile guvernamentale, cât și motivele lor. Uneori, haosul este doar scopul.
„Operațiunile de informare sunt de obicei concepute pentru a eroda încrederea în instituții,” a spus John Hultquist, analist principal la divizia de securitate cibernetică Mandiant de la Google Cloud. „Asta fac ele cel mai bine.”
‘Old Donnie’
TikTok a afirmat că datele sale arată că conturile false identificate de Wall Street Journal aparțin unor operațiuni multiple și distincte. Wall Street Journal a descoperit, de asemenea, că acestea împărtășeau tipuri similare de conținut și comportament, ceea ce ar putea sugera o coordonare sau copierea reciprocă.
Contul care a postat videoclipul despre asasinatul lui Trump, gloriabarton19684, avea un nume, prenume și un număr în identificatorul utilizatorului. Aproximativ trei duzini de alte conturi identificate de Wall Street Journal au urmat un model similar. Ele erau conectate și în alte moduri… Multe dintre ele aveau zeci de clone cu aceleași nume și numere similare, dar pentru că clonele nu postau despre politică, ele nu au fost incluse în analiza Wall Street Journal.
Două conturi, lidakylie19712 și marcialawson19744, postau obsesiv despre Trump. Dar clonele lor — lidakylie19958 și marcialawson1966, care aveau același avatar — postau doar despre jocuri video.
Multe dintre conturile de TikTok copiau scenarii de la câteva canale YouTube, dar foloseau adesea voci generate de AI diferite. YouTube a eliminat conturile înainte de a fi contactat de Wall Street Journal.
Câteva conturi aveau legături cu China. Trei dintre ele au postat videoclipuri înregistrate în China. Acestea și alte două conturi aveau setată limba chineză în aplicația TikTok. Unul dintre ele postase în mod repetat același conținut la intervale de 10 minute după celelalte conturi.
Aproximativ o treime din conturi remixau comentarii partizane extrase de la MeidasTouch, o rețea de media online care postează frecvent conținut critic la adresa lui Trump. Conturile au postat fragmente scurte din videoclipurile MeidasTouch și au inserat titluri senzaționaliste. Brett Meiselas, co-fondator al MeidasTouch, a spus că firma sa nu era conștientă de faptul că aceste conturi foloseau conținutul său și că nu ar fi autorizat acest lucru.
Multe conturi au postat videoclipuri folosind aceleași fraze neobișnuite, cum ar fi referirea la fostul președinte ca „Old Donnie”. Deși unele conturi sunt conectate în mai multe moduri cu altele, TikTok și cercetătorii au spus că conturile de tip spam fură uneori conținut unele de la altele și imită comportamentul acestora, ceea ce face dificil de stabilit dacă sunt operate de aceeași rețea.
„E un adevărat cuib de șerpi,” a spus Stubbs despre descoperirile Wall Street Journal.
TikTok a afirmat că unele dintre conturile care postau videoclipuri false despre Trump o făceau pentru profit și că multe dintre ele aveau legături cu Vietnamul. TikTok a afirmat că aceste conturi au încălcat regulile sale împotriva comportamentului înșelător și a spam-ului.
TikTok a afirmat că rețeaua din Vietnam include aproximativ 650 de conturi, unele dintre ele exploatând programul său de recompense pentru creatori. Acest program compensează deținătorii de conturi pe baza vizualizărilor și a altor metrici.
Dacă TikTok a plătit conturilor identificate de Wall Street Journal 10 cenți per mia de vizualizări, care este la capătul inferior al ratei pe care TikTok o plătește creatorilor, aceste conturi ar fi putut câștiga aproximativ 10.000 de dolari — mai mult decât un venit anual de clasă medie în Vietnam.
Videoclipurile au primit mai mult de 2,5 milioane de aprecieri și peste 300.000 de comentarii.
Unele dintre conturi și-au schimbat opinia despre Trump într-o manieră care sugerează o căutare a profitului, au spus cercetătorii. Creatorii de clickbait uneori își schimbă opinia atunci când urmăresc vizualizările pentru câștiguri. Înainte de a-l viza pe Trump, unul dintre conturi a distribuit în ianuarie un videoclip negativ despre Biden. Toate videoclipurile sale ulterioare au fost critice la adresa lui Trump sau a republicanilor. În mai, a apărut un cont numit gloria_barton19684, al cărui regiune a contului era setată în Nigeria. Spre deosebire de gloriabarton19684, care a postat videoclipul despre asasinat, și de celelalte conturi Gloria Barton, acesta era mândru de susținerea sa pentru Trump.
Contul gloria_barton19684 a preluat conținut de la un cont pro-Trump mult mai mare, AmericaFirst617, care nu a răspuns la cererea de comentarii.
Un purtător de cuvânt al lui Trump nu a răspuns pentru comentarii.
Mai multe alte conturi au fost înregistrate cu nume de utilizator și identificatori de cont care susțin Trump, cum ar fi „TrumpWin51”. Un comentariu de pe unul dintre ele spunea „Îl iubesc pe Trump 🥰”, înainte de a posta videoclipuri negative despre fostul președinte.
Indiferent de intențiile conturilor sau cine se află în spatele lor, flip-flop-ul și conținutul scandalos sunt în mâinile actorilor de stat care vizează alegerile din SUA, au spus experții.
TikTok a afirmat că a eliminat 24 de operațiuni de influență de pe platforma sa în primele șase luni ale anului 2024. În primele trei luni ale anului, TikTok a afirmat că a eliminat mai mult de 170 de milioane de conturi false sau inautentice de pe platformă. TikTok colaborează cu verificatorii autenticității postărilor și știrilor pentru a verifica anumite afirmații de pe platforma sa. TikTok elimină conținutul și conturile care încalcă regulile sale; în cazuri mai puțin clare, când conturile postează informații care nu pot fi verificate, TikTok uneori etichetează conținutul și încetează să-l recomande utilizatorilor.
Pe măsură ce tehnologia pe care actorii rău intenționați o folosesc pentru a evita moderarea evoluează, companiile de social media se luptă să țină pasul. Tehnologia de detectare a conținutului creat cu AI nu este la fel de sofisticată ca tehnologia de creare a acestuia, iar platformele descoperă adesea conținutul fals abia atunci când utilizatorii lor îl semnalează. Și AI poate crea probleme de scară care sunt greu de depășit pentru platforme. În mai, TikTok a anunțat că va începe să eticheteze automat anumite conținuturi generate de AI.
Wall Street Journal a încercat să contacteze toate conturile de TikTok pentru comentarii. Unul dintre ele a răspuns.
Contul, numit BBN Official News, nu a răspuns la întrebările despre numeroasele sale videoclipuri anti-Trump.
În schimb, persoana care opera contul a sugerat că acesta era de vânzare.
„Dacă doriți să cumpărați acest cont, vă rog să mă contactați,” a spus persoana într-un mesaj. »
Sursa: WSJ.com
