Creșterea paginilor de Facebook cu imagini generate de inteligența artificială în România
În fiecare zi, zeci și chiar sute de pagini de Facebook își fac apariția în România, promovând imagini create cu ajutorul inteligenței artificiale. Acest fenomen a câștigat popularitate și în țara noastră, similar cu ceea ce s-a întâmplat în alte colțuri ale lumii, conform unor surse de informare. Chiar și fondatorul Facebook, Mark Zuckerberg, a fost atras de această capcană, oferind un like unei imagini false ce reprezenta un cal din pâine, care a păcălit milioane de utilizatori.
Avertismente din partea experților
Silviu Gresoi, expert în domeniul inteligenței artificiale și al combaterii fraudei, atrage atenția asupra riscurilor asociate cu aceste imagini pe rețelele de socializare. „Din păcate, peste 30.000 de aprecieri a strâns această poză generată de AI, fiind utilizată pentru a solicita donații. Imaginea nu pare deloc „reală”, iar un instrument de verificare confirmă falsitatea observată. Acest tip de fraudă va crește în frecvență. Nu donați, verificați și raportați”, a scris Gresoi.
În afară de obținerea de fonduri ilegale, specialiștii subliniază că aceste pagini urmăresc și manipularea percepțiilor sociale. De exemplu, paginile care promovează fotografii din perioada comunistă, însoțite de mesaje nostalgice, tind să evoce amintiri despre trecut și să sugereze că prezentul este mult mai greu de suportat.
Campanii de manipulare și percepție socială
Campanii care au ca scop inducerea sentimentului de nefericire în rândul oamenilor sunt din ce în ce mai frecvente. De exemplu, o campanie activă pe Facebook, care folosește imagini generate cu inteligența artificială, transmite mesajul „am realizat acest lucru, dar nimeni nu apreciază”. Aceasta are menirea de a-i face pe utilizatori să simtă că nu sunt singurii nefericiți într-o lume care nu îi apreciază.
În ultimele zile, o echipă de cercetare a monitorizat paginile ce conțin acest tip de conținut. Postările, atât textul cât și imaginile, sunt create de inteligența artificială, iar fiecare postare atrage zeci de mii de reacții în câteva ore de la publicare. De exemplu, pagina „România autentică” are aproape 100.000 de urmăritori, iar o recentă postare despre Ceaușescu a generat aproape 1.000 de like-uri și zeci de comentarii în doar o oră.
Exemple de conținut viral
Paginile de Facebook promovează postări precum „Este ziua mea și nimeni nu apreciază asta” sau „Am construit calul ăsta din ceapă și nimeni nu apreciază”. Acestea sunt întâlnite și pe alte pagini, cum ar fi „România tradițională” sau „Despre România”, unde peste 90% din postări conțin imagini generate de inteligența artificială, strângând like-uri de la sute de mii de români.
Doi cercetători americani au publicat, anul trecut, un studiu referitor la aceste pagini de Facebook, evidențiind impactul acestora asupra utilizatorilor și societății în general.
Cercetarea privind paginile de Facebook cu imagini generate de inteligența artificială
O recentă cercetare a analizat 120 de pagini de Facebook care au postat cel puțin 50 de imagini generate cu ajutorul inteligenței artificiale fiecare. Aceste pagini au fost împărțite în trei categorii: spam, escrocherii și „alți creatori”. Unele dintre ele formau grupuri coordonate, administrate de aceiași utilizatori.
Imaginile create artificial au generat, în total, sute de milioane de interacțiuni. O postare care conținea o imagine generată cu AI s-a clasat printre cele mai vizualizate conținuturi pe Facebook în trimestrul al treilea din 2023, având 40 de milioane de vizualizări.
Paginile de spam au utilizat tehnici de clickbait, încercând să direcționeze utilizatorii către site-uri externe cu conținut de calitate slabă. Cealaltă categorie, paginile de escrocherii, a încercat să vândă produse inexistente sau să obțină informații personale de la utilizatori. Unele dintre aceste pagini au postat imagini generate de AI pe conturi furate.
Imaginile generată artificial sunt vizibile în News Feed-ul utilizatorilor Facebook, inclusiv pentru cei care nu urmăresc paginile respective. Se suspectează că aceste imagini sunt afișate în feed datorită algoritmului de clasificare, care promovează conținutul ce generează un angajament ridicat.
Comentariile la imaginile generate cu AI sugerează că mulți utilizatori nu realizează că acestea sunt sintetice. Totuși, un grup restrâns de utilizatori postează comentarii sau infografice pentru a-i avertiza pe ceilalți. Aceasta ilustrează necesitatea etichetării clare și a unor măsuri suplimentare de transparență pentru astfel de conținuturi.
Un alt aspect semnificativ este utilizarea unor practici înșelătoare de către anumite pagini, cum ar fi furtul sau preluarea conturilor, și creșterile suspecte ale numărului de urmăritori. Aceste concluzii au fost formulate de cercetătorii Renee DiResta și Josh A. Goldstein, care și-au exprimat temerile că aceste tehnologii ar putea fi utilizate pentru a introduce informații false în discursul politic.
Profilul utilizatorilor români care interacționează cu postările false
Se ridică întrebări cu privire la cine beneficiază de pe urma acestor pagini și ce transformări pot suferi. Conform antropologului Radu Umbreș, conținutul acestor pagini se adresează în special persoanelor dintr-o categorie mai tradiționalistă, adesea mai în vârstă, care caută materiale ce rezonează cu valorile și gusturile lor. Aceste pagini exploatează o latură emoțională a utilizatorilor, iar datorită tehnologiilor de inteligență artificială, crearea acestor imagini devine extrem de simplă și rapidă.
Umbreș subliniază că aceste pagini reprezintă „o unealtă informatică” și că, în istorie, cei care inovează și utilizează aceste instrumente eficient vor avea un avantaj temporar. Aceasta ridică probleme legate de utilizarea responsabilă a tehnologiilor, fie în scopuri benefice, fie dăunătoare.
Analiza comportamentală a distribuitorilor de conținut fals
Nansi Lungu, analist comportamental, discută despre profilul persoanelor care aleg să aprecieze și să distribuie informații false generate de inteligența artificială. Potrivit lui Lungu, există o categorie de indivizi care sunt dispuși să promoveze chiar și neadevăruri, un aspect crucial în comunicare, deoarece oamenii tind să susțină perspectivele care le sunt favorabile. Lungu observă că mulți afirmă că oamenii nu recunosc adevărul și sunt manipulați, însă studii în domeniu sugerează că, de fapt, multe persoane sunt conștiente de adevăr și aleg să-l răspândească.
Motivațiile creatorilor de conținut fals
Mihai Rotariu, manager al Direcției Comunicate, Media și Marketing din cadrul Directoratului Național de Securitate Cibernetică (DNSC), aduce în discuție motivațiile celor care creează conținut fals. El subliniază că astfel de pagini sunt utilizate atât pentru răspândirea de știri false, cât și pentru activități infracționale în mediul online. Rotariu menționează că, începând cu 2023, infracționalitatea cibernetică s-a mutat în mare parte pe platformele de social media, datorită costurilor reduse implicate.
Un exemplu de activitate infracțională include compromiterea unor pagini pentru a lansa reclame sponsorizate, utilizând tehnologia deepfake, care alterează mesajul inițial al clipurilor sau imaginilor. Aceasta permite promovarea unor tentative de fraudă care vizează programele naționale de îmbogățire. Utilizatorii sunt redirecționați către site-uri de phishing, unde sunt colectate informații personale, date sensibile și informații despre carduri.
Conștientizarea și securitatea online
Deși fenomenul fraudelor online a mai scăzut datorită îmbunătățirii instrumentelor de identificare a tentativelor de fraudă de către rețelele de socializare, este esențial să fim conștienți de existența acestui fenomen. De asemenea, este crucial să avem o igienă de securitate online, similară cu cea pe care o practicăm în viața reală, pentru a ne proteja de aceste amenințări.
