Apartamentele nudificatoare au trecut de moderarea aplicațiilor Google și Apple
Conform unui nou studiu, Apple și Google au câștigat milioane de dolari de pe urma aplicațiilor AI care permit utilizatorilor să dezvăluie hainele oamenilor, chiar dacă ambele companii susțin că interzic acest tip de software în magazinele lor. Aceasta este concluzia unei cercetări realizate de Tech Transparency Project, potrivit theregister.com.
👉 Aplicații AI problematice identificate și reacția companiilor
Cercetătorii au identificat 55 de aplicații în magazinul Google Play și 47 în App Store-ul Apple. Aceste aplicații au fost descărcate în total de 705 milioane de ori și au generat venituri de 117 milioane de dolari, susțin aceștia. Publicația a lansat acest raport după un val de indignare globală, în urma utilizării botului AI al lui Elon Musk, Grok, pentru a dezvălui hainele oamenilor. Autoritățile din Regatul Unit iau în considerare interzicerea aplicației.
👉 Suspicii privind confidențialitatea și impactul asupra utilizatorilor
Tech Transparency Project a testat versiunile gratuite ale aplicațiilor folosind un model AI generat, îmbrăcat, și apoi le-a solicitat aplicațiilor să facă femeia complet sau parțial nud. În cazul aplicațiilor de schimbare a feței, TTP a testat dacă aplicația ar suprapune fața unei femei complet îmbrăcate pe o imagine a unei femei nud. În ambele cazuri, au avut succes, demonstrând cât de ușor este să creezi imagini intime non-consensuale. Toate aplicațiile erau disponibile pe 21 ianuarie. Totuși, Apple a eliminat 25 dintre aceste aplicații după ce cercetătorii le-au contactat. Google a suspendat mai multe aplicații și a spus că efectuează o revizuire a aplicațiilor care erau în magazinul său, a declarat Paul.
„Grok este cu adevărat vârful aisbergului,” a declarat Katie Paul, directorul Tech Transparency Project, pentru The Register. „Postările s-au desfășurat pe X, astfel încât întreaga lume le-a putut vedea. Dar un conținut și mai grafic poate fi creat de unele dintre aceste alte aplicații, ceea ce este ceea ce ne-a adus în această problemă.”
În răspunsul său la întrebările The Register, Google a menționat că, deși investigația este în curs de desfășurare, a eliminat mai multe aplicații. „Când încălcările politicilor noastre sunt raportate, investigăm și luăm măsuri adecvate,” a spus un purtător de cuvânt Google prin email. „Cele mai multe dintre aplicațiile menționate în acest raport au fost suspendate din Google Play pentru încălcarea politicilor noastre.” Apple nu a răspuns la un email trimis de The Register solicitând un comentariu.
Conform investigației, Apple a sponsorizat și reclame, prin care obținea venituri suplimentare, atunci când utilizatorii căutau articole ce ar fi trebuit interzise conform politicii sale, a afirmat Paul. „Când cauți cuvântul 'nudify' în App Store, conform politicii lor, nu ar trebui să apară nimic, dar nu doar că Grok apare primul, dar Apple avea și o reclamă sponsorizată pentru o aplicație nudificatoare,” a spus ea. „Acea aplicație este una dintre cele care au fost eliminate după ce am luat legătura. Nu doar că aplicația era pe App Store, dar Apple obținea profit din reclame pentru a o promova când oamenii căutau cuvântul 'nudify'.”
Acest ultim raport de la Tech Transparency Project vine la aproximativ o lună după ce a descoperit că magazinele de aplicații ale ambelor companii vindeau aplicații dezvoltate de entități care au fost sancționate de guvernul SUA din cauza legăturilor lor cu războiul din Ucraina și abuzurile privind drepturile omului în China. În acest caz, organizația nonprofit a găsit 52 de aplicații în App Store-ul Apple cu legături directe cu companii rusești, chinezești și alte entități care se află sub sancțiuni economice impuse de Ministerul de Finanțe al SUA.
Această investigație anterioară a descoperit că Google Play Store avea o problemă similară, cu 18 aplicații conectate la organizații sancționate de SUA, aproximativ o treime din numărul identificat în App Store-ul Apple. Paul a spus că, după publicarea acelei investigații în decembrie, ambele companii au retras aplicațiile și au postat anunțuri pentru ofițeri de conformitate care să revizuiască aplicațiile în funcție de sancțiuni. Ceea ce o îngrijorează pe Paul este ce înseamnă pentru consumatori dacă Google și Apple sunt dispuse să încalce fără ezitare legile care le-ar putea aduce probleme economice cu guvernele lor de origine. „Aceasta a fost o chestiune de sancțiuni. A fost o zonă în care există consecințe legale. Îți poți imagina alte aplicații dăunătoare care există acolo unde nu există consecințe legale,” a spus Paul.
„În cazul aplicațiilor nudificatoare, am întâlnit multe probleme îngrijorătoare cu ambele magazine de aplicații. Ceea ce este cu adevărat îngrijorător este că unele dintre aceste aplicații au fost comercializate pentru copii cu vârsta de 9 ani și peste. Aceste aplicații nu sunt doar destinate adulților, ci sunt, de asemenea, promovate copiilor.” O altă problemă: legile privind confidențialitatea datelor în China care obligă companiile să predea datele către acel guvern. „Când vine vorba de aplicațiile nudificatoare, asta înseamnă că aceste imagini nud non-consensuale ale cetățenilor americani ar ajunge în mâinile guvernului chinez,” a spus Paul. „Așadar, aceasta este o încălcare majoră a intimității pe lângă faptul că reprezintă un risc pentru securitatea națională, în special dacă există figuri politice care au imagini nud non-consensuale create despre ele și apoi acestea ajung în mâinile guvernului chinez.”
Paul a concluzionat că problema pare să fie la intersecția dintre politică și moderare. Deși politicile afirmă clar că aceste aplicații nu sunt permise, în practică ele proliferază. „Trăim într-o lume în care nu putem să ne deconectăm de această tehnologie,” a declarat ea pentru The Register. „Aceste companii se promovează pe baza siguranței și încrederii magazinelor lor de aplicații. Dacă intrăm pe paginile lor de dezvoltare a aplicațiilor, ele susțin că au procese de revizuire foarte stricte – inclusiv screening pentru sancțiuni – dar nu vedem ca acest lucru să fie aplicat.”
