Els deepfakes s\u00f3n v\u00eddeos creats o modificats gr\u00e0cies a un tipus d’Intel\u00b7lig\u00e8ncia Artificial (IA) anomenat aprenentatge profund (deep learning) fins a aconseguir que semblin reals. Aquesta tecnologia permet generar imatges falses des de zero o modificar \u00e0udios per crear el que es coneix com a ‘clons de veu’, amb els quals sembla que figures p\u00fabliques pronunci\u00efn declaracions que en realitat mai han dit.<\/p>\n
Com es generen?<\/strong><\/p>\n Investigadors universitaris i especialistes en efectes especials estan arribant cada vegada m\u00e9s lluny en el camp de la manipulaci\u00f3 de v\u00eddeo i imatges. Una de les millores m\u00e9s importants ha estat el face swaping o intercanvi de cares. En primer lloc, es processen milers de fotogrames de la cara de dues persones a trav\u00e9s d’un algoritme d’IA anomenat codificador (encoder). El encoder a\u00eflla i apr\u00e8n les similituds entre les dues i les redueix a les seves caracter\u00edstiques comunes compartides, comprimint aquestes imatges. Un segon algoritme d’AI, anomenat descodificador (decoder), recupera les cares a partir de les imatges comprimides. Per realitzar l’intercanvi dels editors nom\u00e9s han d’introduir les imatges codificades en el descodificador contrari, aix\u00ed el resultat \u00e9s un que els trets d’una cara apareixen en l’altra.<\/p>\n Hi ha un segon m\u00e8tode anomenat Xarxa Generativa Antag\u00f2nica, o GAN. Una GAN enfronta dos algorismes d’IA: el primer -generador- s’alimenta de soroll aleatori i el converteix en una imatge. Aquesta imatge sint\u00e8tica s’afegeix a un flux d’imatges reals -d’un fam\u00f3s, per exemple- que s’alimenten en el segon algoritme, conegut com discriminador. A el principi, les imatges sint\u00e8tiques no s’assemblaran en res a les cares, per\u00f2 si el proc\u00e9s es repeteix moltes vegades (amb retroalimentaci\u00f3 sobre el rendiment) tant el discriminador com el generador milloren. Si es realitzen suficients cicles d’assaig i error, aquest generador comen\u00e7ar\u00e0 a produir rostres totalment realistes en situacions inexistents.<\/p>\n Per a qu\u00e8 serveixen<\/strong><\/p>\n Segons l’empresa d’intel\u00b7lig\u00e8ncia artificial Deeptrace el 96% dels deepfakes detectats a la Xarxa eren pornogr\u00e0fics i el 99% d’ells mostraven rostres de famoses.<\/p>\n No obstant aix\u00f2 es tem que puguin ser utilitzats cada vegada m\u00e9s en estafes i en campanyes de desinformaci\u00f3. El passat mes de mar\u00e7, el cap de la filial brit\u00e0nica d’una empresa energ\u00e8tica alemanya va transferir gaireb\u00e9 220.000 euros a un compte bancari hongaresa despr\u00e9s que un estafador li crid\u00e9s amb una imitaci\u00f3 de la veu de el director general, que se sospita va elaborar amb un clon de veu. S’ha informat que estafes similars han utilitzat missatges de veu gravats de WhatsApp.<\/p>\n Quina tecnologia \u00e9s necess\u00e0ria<\/strong><\/p>\n \u00c9s dif\u00edcil aconseguir un bon deepfake amb un ordinador est\u00e0ndard. La majoria es creen en equips de gamma alta amb potents targetes gr\u00e0fiques o amb pot\u00e8ncia de computaci\u00f3 en el n\u00favol. Aix\u00f2 redueix el temps de processament de dies i setmanes a hores per aconseguir resultats sofisticats. Encara que tamb\u00e9 es necessita experi\u00e8ncia, sobretot per retocar els v\u00eddeos acabats i reduir el parpelleig i altres defectes visuals. Dit aix\u00f2, cada vegada hi ha m\u00e9s eines disponibles per ajudar a la gent a fer deepfakes.<\/p>\n Com es desemmascara 1 deepfake?<\/strong><\/p>\n Les falsificacions de baixa qualitat s\u00f3n f\u00e0cils de detectar. La sincronitzaci\u00f3 dels llavis sol ser dolenta o el to de la pell irregular. Els detalls m\u00e9s precisos, com el moviment de cabells, s\u00f3n particularment dif\u00edcils de reproduir. Joies o dents mal reprodu\u00efts tamb\u00e9 poden ser un senyal, a l’igual que els efectes de llum estranys, com la il\u00b7luminaci\u00f3 inconsistent i els reflexos en l’iris.<\/p>\n D’altra banda, els governs, les universitats i les empreses tecnol\u00f2giques estan finan\u00e7ant la investigaci\u00f3 per detectar els deepfakes m\u00e9s sofisticats. El mes passat es va llan\u00e7ar el primer Deepfake Detection Challenge, recolzat per Microsoft, Facebook i Amazon. A m\u00e9s, Facebook acaba de prohibir els deepfakes que puguin induir els espectadors a pensar que alg\u00fa “digui paraules que en realitat no ha dit”, de cara a la propera elecci\u00f3 presidencial dels EUA el 2020.<\/p>\n","protected":false},"excerpt":{"rendered":" Els deepfakes s\u00f3n v\u00eddeos creats o modificats gr\u00e0cies a un tipus d’Intel\u00b7lig\u00e8ncia Artificial (IA) anomenat aprenentatge profund (deep learning) fins a aconseguir que semblin reals. <\/p>\n","protected":false},"author":3,"featured_media":2275,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[32],"tags":[],"_links":{"self":[{"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/posts\/2278"}],"collection":[{"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/comments?post=2278"}],"version-history":[{"count":2,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/posts\/2278\/revisions"}],"predecessor-version":[{"id":2281,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/posts\/2278\/revisions\/2281"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/media\/2275"}],"wp:attachment":[{"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/media?parent=2278"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/categories?post=2278"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.netsupport.es\/ca\/wp-json\/wp\/v2\/tags?post=2278"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}