T02M08 / els deepfakes són indetectables?!

–

Concepte

La intel·ligència artificial generativa fa que la producció de continguts hipertrucats sigui fàcil i barata, i a l’abast de qualsevol usuari.

Aquesta tècnica de manipulació audiovisual fa servir algoritmes d’intel·ligència artificial per crear muntatges molt realistes que contenen situacions fictícies, amb persones dient coses o intervenint en escenes on no han estat mai.

Els deepfakes poden ser de veu, d’imatge o de vídeo.

Com passa amb la resta d’eines tecnològiques, tot depèn d’amb quina finalitat s’utilitza. Si bé, pot tenir usos maliciosos com enganyar, desinformar, difamar i escarnir a les víctimes, també hi ha hipertrucatges positius, per crear continguts humorístics i generar continguts culturals, socials o didàctics.

Un altre exemple, son els humans sintètics són éssers dissenyats per ordinador que s’assemblen i imiten als humans reals i que es fan servir en educació, investigació o l’entreteniment.

Les dades

Un 71% de la població no coneix els deepfakes ni té habilitat per detectar-los.

La taxa d’increment anual de l’hipertrucatge és del 900%.

El 2019, el 96% dels vídeos hipertrucats eren pornogràfics no consentits.

Via iproov.com

Els infants, un col·lectiu a protegir

Les deepfake són un problema creixent i una forma de violència sexual, sobretot contra les dones –recentment, com el de la cantant Taylor Swift–, però també és una forma d’abús de menors, ja que es fan servir imatges de menors famosos, fotografies i vídeos recollits a l’atzar i també de víctimes d’abusos per generar aquest nou material.

La directiva europea vigent (de l’any 2011) no persegueix al gran ventall de depredadors sexuals ni les seues pràctiques ni protegeix a les seues víctimes, ni disposem d’una doctrina comuna a la Unió Europea d’aquest àmbit tecnològic.

Per exemple. Fins ara, no se segueix una pauta clara i unificada sobre les imatges de pornografia infantil hiperrealistes o cap a un altre tipus de continguts que corren per les xarxes, com aquests manuals pedòfils que es poden trobar a la Xarxa. (I no a la darkweb).

El Codi Penal espanyol inclou la pornografia virtual o tècnica infantil que implica l’ús de la imatge alterada o modificada dels menors o la veu, encara que descarta “els materials que per la seva tosquedat revelin la seva condició de muntatge”, cosa que, depèn del cas, ja implica que serà un procés judicial el que podria decidir si el material implicat o no és susceptible de delicte.

Ahir, la Comissió Europea va aprovar la proposta d’actualització de la regulació que amplia la definició de delictes penals relacionats amb l’abús sexual a menors a tots els estats membres i també ampliarà el termini de prescripció dels delictes per donar als supervivents més temps per denunciar.

També garantirà que els estats membres criminalitzin, previnguin, investiguin i jutgin els delictes de transmissió en viu d’abusos sexuals infantils.

La directiva encara necessita la validació del Consell de la UE i el Parlament Europeu.

Quan entri en vigor,

• qui produeix material pornogràfic infantil (sigui amb deepfakes i altres modalitats) s’enfrontarà a un mínim de tres anys de presó.
• qui posseeix o distribueix material pornogràfic infantil, un mínim de dos anys de presó.

Via la Vanguardia

Notícia. Les xarxes de Meta avisaran si una imatge ha estat generada per IA

Moltes companyies comencen a incloure aquests senyals als seus vídeos i àudios generats per IA, per evitar les possibles confusions i enganys.

A finals de setembre de l’any passat, Tiktok ja va afegir una etiqueta que avisa quan una publicació ha estat creada amb aquesta tecnologia.

Ben aviat implementarà l’etiqueta ‘Generat amb IA‘ a Facebook, Instagram i Threads permetrà identificar i etiquetar de manera automàtica les imatges fotorealistes que hagin estat creades per la intel·ligència artificial generativa.

Meta ha indicat que els mateixos editors també podran informar de quan s’està compartint aquest tipus de contingut a les seves xarxes socials, de manera que la plataforma pugui afegir una etiqueta.

Com detectar-los?

Tot i que sovint els deep fakes poden semblar evidents, altres vegades no ho
són tant. És aquí on cal observar amb atenció les imatges i detectar errors o
incongruències.

Imatges

Cal fixar bé en les cares: molts hipertrucatges són transformacions facials. Per trobar pistes, cal centrar l’atenció en els ulls, les galtes i el front. També en els reflexos de les ulleres o la barba.

Vídeos

Cal fixar-se en el parpelleig i el moviment dels llavis. També, analitzar si les imatges estan pixelades i comprovar si hi ha alteracions en les cares i el fons de les imatges.

Cal tenir present que la majoria de deep fakes són vídeos molts curts.

Àudios

La pronunciació incorrecta, sons metàl·lics o monòtons o sons pocs naturals són indicadors d’un àudio hipertrucat.
L’hipertrucatge resulta més difícil de reconèixer quan acompanyat d’efectes sonors o si es tracta d’una cançó.

Com protegir-nos?

La tecnologia d’hipertrucatge també pot ser utilitzada per crear o suplantar identitats i, a través vídeos o àudios falsos realistes, estafar i enganyar les víctimes. Recordes el conte de les cabretes i el llop?

1. En la mesura del possible, evita respondre trucades de números desconeguts.
2. Qüestiona les comunicacions i la conveniència de desvelar dades personals.
3. Per evitar ser clonat, evita abocar informació a la xarxa, que pugui ser usada per recrear la veu o confeccionar vídeos.
4. Verifica la identitat de les persones amb les qui et comuniques i estiguis atenta als senyals d’alerta: veus robòtiques, repetitives o confuses.
5. Estableix una paraula de codi dins del grup familiar, els amics o a l’empresa.
6. Formula preguntes personals que puguin desconcertar una intel·ligència artificial (dates assenyalades o informació de caràcter personal).