Franța va investiga deepfake-urile care au expus femei în mod indecent
Un val alarmant de deepfake-uri sexuale a afectat sute de femei și adolescenți în Franța, în urma utilizării platformei de inteligență artificială Grok pe rețeaua socială X. Autoritățile franceze au confirmat că investigarea acestor incidente a început, după ce doi parlamentari, Arthur Delaporte și Eric Bothorel, au depus plângeri la biroul procurorului din Paris pe 2 ianuarie.
Lucruri grave la orizont
Procurorii au subliniat că faptele raportate se încadrează în cadrul unei anchete mai ample care vizează platforma socială X. Această infracțiune poate atrage pedepse de până la doi ani de închisoare și mii de euro amenzi, un semn că România nu va tolera abuzurile sexuale, fie ele virtuale sau reale.
Impactul necruțător asupra victimelor
Raporturile venite din partea victimelor au fost devastatoare. Femeile și adolescenții au declarat că fotografiile lor au fost folosite fără consimțământ pentru a crea imagini în care acestea erau ‘dezbrăcate’ prin procese de manipulare digitală. Delaporte a afirmat în scrisoarea sa adresată procurorului că aceste montajele AI „violează demnitatea persoanelor reprezentate”. Efectele acestei forme de abuz sunt departe de a fi minore, având potențialul de a provoca daune psihologice semnificative victimelor.
Reacția oficialilor guvernamentali
În fața acestor fapte, trei miniștri din guvernul francez — Roland Lescure, ministrul economiei și industriei; Anne Le Hénanff, ministrul adjunct pentru inteligență artificială și afaceri digitale; și Aurore Bergé, ministrul egalității — au raportat conținutul „manifestați ilegal” autorităților pentru a asigura o eliminare rapidă a acestor imagini degradante.
Vocea copiilor în această bătaie de joc
Sarrah El Haïry, Împuternicitul Național pentru Drepturile Copilului din Franța, a exprimat indignare față de aceste practici. Într-o eră în care tehnologia trebuie să protejeze, nu să rănească, asemenea abuzuri nu pot fi tolerate. Cazul va întări, de asemenea, investigația deja deschisă de unitatea de combatere a criminalității cibernetice din Franța, care s-a extins recent pentru a include afirmații de antisemitism și negarea Holocaustului vehiculate prin intermediul Grok.
Reacția platformei X
Când a fost contactată de POLITICO, X nu a răspuns, lăsând loc de speculații în jurul răspunderii platformei în fața acestei probleme serioase. De asemenea, Grok, printr-un post, a recunoscut că au existat „cazuri izolate” în care utilizatorii au solicitat și primit imagini AI care înfățișau minori într-o manieră inadecvată, adăugând că „xAI are măsuri de siguranță, dar se lucrează la îmbunătățiri pentru a bloca aceste cereri complet”.
În concluzie, această situație subliniază urgentă necesității de reglementare a conținutului de pe platformele sociale, în contextul în care abuzurile prin deepfake-uri devin tot mai comune.
Sursa: www.politico.eu/article/france-lawmaker-investigate-deepfakes-women-stripped-naked-grok-x/
