De la o aplicație care permite utilizatorilor să schimbe imagini cu femei și bărbați în videoclipuri pornografice la utilizarea fețelor generate de computer în fraudele online, videoclipurile deepfake sunt o manifestare din ce în ce mai vizibilă a laturii întunecate a inteligenței artificiale. Pe măsură ce utilizarea lor crește, legiuitorii și factorii de decizie politică încearcă să găsească soluții și garanții adecvate. Pe 4 august, Comitetul Senatului SUA pentru Securitate Internă și Afaceri Guvernamentale a votat pentru promovarea Deepfake Task Force Act, care are ca scop înființarea unei echipe care să investigheze modalități de atenuare a daunelor pe care le cauzează. În același timp și Uniunea Europeană discută o propunere de stabilire a unor norme cuprinzătoare pentru utilizarea inteligenței artificiale.
sursa foto: https://www.codastory.com
Într-un interviu realizat de Marta Biino, dr. Mathilde Pavis, lector universitar în drept la Universitatea din Exeter, care a studiat deepfakes și a elaborat o serie de recomandări pentru a limita abuzul acestora, susține reglementarea internațională a companiilor de socializare și a site-urilor care găzduiesc videoclipuri manipulate.
În ultimii ani am văzut falsuri destul de convingătoare ale unorpersoane publice, precum Barack Obama și Tom Cruise. Multe sunt făcute pentru divertisment, dar cât de îngrijorați ar trebui să fim cu privire la posibilele lor efecte negative?
Mathilde Pavis: De fapt, este invers. În primii câțiva ani, majoritatea aplicațiilor acestei tehnologii au fost abuzive. Cuvântul ”deepfake” a fost popularizat în contextul în care a fost folosit pentru a folosi imaginea unor femei în videoclipuri pornografice. Atunci am început să căutăm modalități de detectare a abuzurilor, astfel încât să putem limita utilizarea rău intenționată. Este o provocare, deoarece nu toate aplicațiile tehnologice sunt rele.
Ce implicații pot avea deepfake-urile pentru democrație?
Folosirea tehnologiei pentru a răspândi dezinformarea nu este nouă și a devenit un instrument din ce în ce mai sofisticat. Dar, pe măsură ce tehnologia se dezvoltă, și publicul se dezvoltă. Devenim mai conștienți. Au fost publicate câteva studii, inclusiv unul care a analizat reacția publicului la un videoclip manipulat despre Keanu Reeves care oprește un jaf. Se pare că și publicul începe să se priceapă, pentru că nu s-a oprit doar la ceea ce a văzut în videoclip. Cei care au urmărit videoclipul s-au angajat în dezbateri critice și majoritatea au crezut că este fals. Este ușor să ne imaginăm că, cu cât oamenii sunt mai familiarizați cu acele probleme de fiabilitate, cu atât distanța critică este mai mare atunci când se angajează cu deepfake-uri.
S-ar putea folosi deepfake-urile pentru a face ravagii în democrație sau s-a întâmplat deja acest lucru?
Unele versiuni ale deepfakes, cum ar fi filmările manipulate, au fost deja utilizate în acest sens. De exemplu, atunci când susținătorii lui Trump au încetinit vocea lui Nancy Pelosi pentru a o face să arate ca fiind beată. Pelosi a trebuit să facă o declarație pentru a corecta acest lucru. Faptul că personalitățile publice trebuie să petreacă timp combătând un conținut fals arată că discursul public este deja forțat.
Adesea, deepfake-urile sunt atacuri în mediul online la adresa unor femei. Companiile de social media sunt suficient de preocupate pentru eliminarea acestui lucru?
Platformele au responsabilitatea de a controla utilizarea abuzivă și, într-o măsură, o fac. Dar moderația nu este perfectă. Acest lucru se datorează dificultății sarcinii, dar și lipsei cadrului de reglementare.
Cum primesc ajutor victimele acestor abuzuri?
Adevărata provocare în legătură cu reglementarea deepfake este că o mare parte a abuzului este săvârșită în mod anonim. Dacă cineva suferă un prejudiciu psihologic sau chiar fizic din cauza tehnologiei, este dificil să găsești persoana responsabilă și să îi ceri despăgubiri. Este ceva ce trebuie încă rezolvat.
Este necesară reglementarea?
Ca persoană de drept, aș spune o reglementare sensibilă. Companiile de social media au o responsabilitate imensă aici, deoarece sunt vehiculul acestui conținut. Situația este dificilă, deoarece platformele operează transnațional, în timp ce legile sunt, în general, legate de o anumită țară. Dar există deja colaborări între platforme și state pentru a preveni și a limita frauda, traficul de persoane ori terorismul, de exemplu.
Este necesară reglementarea pentru a oferi platformelor de socializare un motiv de moderare. Aceste companii știu că moderarea conținutului va presupune un cost în ceea ce privește traficul utilizatorilor, așa că trebuie să li se ofere imbolduri externe.
Parlamentarii se ocupă cu reglementările?
Acum este momentul perfect pentru a introduce reglementarea, deoarece încă suntem în stadiul în care aveți nevoie de puține cunoștințe tehnice pentru a putea face un deepfake credibil. Foarte curând, veți putea sintetiza pe oricine pe telefonul dvs. într-un mod foarte convingător, iar conținutul abuzului va fi mult mai puternic.
Este posibilă cooperarea internațională?
Câteva țări au legi împotriva răspândirii dezinformării și a anumitor tipuri de conținut fals, cum ar fi SUA, Australia și Franța, într-o anumită măsură. Dar eficacitatea acestor abordări nu este suficient de clară, deoarece acestea sunt în mare parte noi.
Întotdeauna ne concentrăm pe rău. Care sunt utilizările pozitive ale deepfake-urilor?
Unele le puteți vedea deja. Deepfake-urile vă pot ajuta să facilitați traducerea și dublarea. În muzee, sunt folosite pentru a face colecțiile mai interactive. Există posibilități nelimitate de a avansa creativitatea.
De asemenea, mă interesează să văd cât de repede va evolua inteligența artificială. Deepfake-urile ar putea arăta ca viitorul, dar există, de asemenea, șansa ca în curând o nouă tehnologie să intre și să facă deepfake-urile complet redundante.
Notă: pentru durată și claritate, această conversație a fost editată
