Elon Musk limitează accesul la generatorul de imagini Grok după valul de deepfake-uri sexuale

Chatbotul Grok, dezvoltat de Elon Musk, a redus accesul la generatorul său de imagini în urma creșterii numărului de deepfake-uri sexualizate cu femei și minori, ceea ce a provocat reacții puternice din partea autorităților europene. Conform POLITICO, această decizie intervine după ce fenomenul a fost considerat ilegal și alarmant de politicieni și organisme de reglementare din Europa.

👉 Restricții noi pentru generatorul de imagini Grok

Chatbotul Grok afișează acum un mesaj care menționează că „generarea de imagini este în prezent limitată la abonații plătitori”, pentru a „asigura o utilizare responsabilă, în timp ce continuăm să îmbunătățim sistemul”.

Motivația modificării este legată de „probleme recente și îmbunătățiri ale măsurilor de protecție”, după ce numeroși utilizatori au folosit platforma pentru a crea imagini nud neconsensuale, adesea reprezentând femei și minori, ceea ce a ridicat serioase îngrijorări etice și legale.

👉 Reacția autorităților europene față de deepfake-urile sexuale

Platforma a atras atenția reglementatorilor și politicienilor din Uniunea Europeană după ce utilizatorii au reușit să genereze și să distribuie manipulări foto cu caracter sexual și imagini false cu personalități publice, inclusiv minori dezbrăcați. Vicepremiera Suediei, Ebba Busch, a fost printre victimele proeminente ale acestui fenomen.

Comisia Europeană a intervenit joi, cerând platformei X să păstreze „toate documentele și datele interne referitoare la Grok”, într-o etapă de escaladare a investigațiilor legate de moderarea conținutului. Instituția a calificat deepfake-urile sexuale neconsensuale drept „ilegale”, „înfiorătoare” și „dezgustătoare”, iar accesul la astfel de postări a fost restricționat în Uniunea Europeană conform legislației locale.