Com a pseudoherois digitals ens toca estar al cas de les crides que ens arriben, i si cal, canviar els plans previstos, com és el cas d’avui.
Ahir al matí una participant del gòTIC, m’ensenyava esfereïda la imatge que havia rebut per WhatsApp, d’una cobra que campava entre les vinyes de Verdú. Unes hores més tard, la Laia Pedrós, a través del diari Segre desmentia la veracitat de la imatge, que ja s’havia viralitzat per les xarxes socials, generant alarma entre els veïns i mobilitzant les autoritats locals.
Aquest incident -vist amb perspectiva, fins i tot divertit- ens mostra com una imatge pot alterar la percepció de la realitat i provocar reaccions col·lectives. Per això, al Tenim Una Missió d’avui, parlem d’hipertrucatge.
Conceptes Clau: Hipertrucatge
Conegut també pel terme anglès deepfake, és una tècnica de manipulació audiovisual que utilitza la intel·ligència artificial per crear vídeos, imatges o àudios falsos amb un alt grau de realisme. Aquesta tecnologia permet, per exemple, generar vídeos on una persona aparenta dir o fer coses que mai ha dit o fet, o àudios on se li atribueixen paraules que no ha pronunciat.
L’hipertrucatge es basa en algorismes d’aprenentatge automàtic, especialment en xarxes neuronals profundes (deep learning), que analitzen grans quantitats de dades per aprendre patrons i recrear-los de manera sintètica. Així, es poden generar continguts que imiten la veu, el rostre o els gestos d’una persona real amb una precisió sorprenent.
Com que succeeix amb aquest tipus d’avenços, els usos van sempre davant de la llei, que acota quan l’expansió ja és un fet.
Exemples
Donald Trump
El president dels Estats Unitats ha esdevingut un fenomen global que exemplifica tant les possibilitats creatives com els riscos associats a aquesta tecnologia.
Per exemple, la imatge seva —generada per intel·ligència artificial— en què se’l veu vestit com a Papa i que va ser compartida pels comptes oficials de xarxes socials de la Casa Blanca.
O el vídeo que va difondre a les seues xarxes socials, amb una visió de Gaza creada amb intel·ligència artificial. Al vídeo es contraposa la destrucció actual de la guerra, amb un particular paradís a la manera com ha descrit Gaza com la Riviera d’Orient Mitjà. A les imatges es veu Elon Musk menjant a la platja, llançant bitllets o el mateix Musk entre ballarines o tombat en una hamaca a la platja al costat de Netanyahu.
Objectes i escenaris
L’hipertrucatge també s’aplica a objectes i entorns virtuals. Per exemple, en el món de l’entreteniment, s’han creat versions hipertrucades de figures com Elvis Presley, John Lennon per a actuacions i anuncis, demostrant el potencial de la tecnologia per recrear escenaris i personatges del passat.
Si comprovem el palmarès d’alguns dels festivals més recents per veure que les propostes d’hipertrucatge han estat guanyadores. Per exemple la campanya Con mucho acento de Cruzcampo.
Per aconseguir aquest treball es van necessitar més de 5.000 imatges, principalment gravades als anys 80 i 90, a més d’un complex procés de composició i postproducció.
NotebookLM de Google
Tall 1.
NotebookLM és un assistent d’investigació basat en IA que treballa amb els teus propis materials: pots carregar-hi documents PDF, Google Docs, pàgines web, vídeos de YouTube i més.
A partir d’aquests, l’eina pot
- Resumir textos llargs.
- Generar guies d’estudi, glossaris i línies de temps.
- Crear pòdcasts amb veus sintètiques que expliquen el contingut.
- Respondre preguntes concretes sobre els teus documents.
- Crear mapes mentals i exàmens per repassar temes
Tot això es fa utilitzant el model Gemini 1.5 Pro de Google, que pot processar grans volums d’informació i mantenir-se fidel a les fonts que tu li proporciones.
Tall 2.
NotebookLM és una eina especialment útil per a estudiants universitaris, investigadors, docents i professionals que treballen amb grans quantitats d’informació. Per exemple, si estàs preparant un treball de recerca o estudiant per a un examen, pots carregar els teus apunts i demanar a l’eina que et generi preguntes per repassar o que et resumeixi els punts clau.
Pots utilitzar NotebookLM des del navegador a notebooklm.google o bé descarregar l’aplicació per a dispositius mòbils.
Riscos i usos malintencionats
Tot i que l’hipertrucatge pot tenir aplicacions positives, també presenta riscos significatius:
- Desinformació i manipulació política: Creació de notícies falses o manipulació de declaracions de figures públiques.
- Suplantació d’identitat: Generació de continguts falsos per enganyar o perjudicar individus.
- Pornografia no consentida: Més del 95% dels hipertrucatges detectats a la xarxa estan relacionats amb contingut pornogràfic no autoritzat.
Usos positius
Malgrat els riscos, l’hipertrucatge també pot fer-se servir amb finalitats beneficioses:
- Educació: Recreació d’escenes històriques o simulacions per a l’aprenentatge.
- Cinema i entreteniment: Creació d’efectes especials o recreació d’actors desapareguts.
- Assistència mèdica: Simulacions per a la formació de professionals de la salut.
Com podem detectar un hipertrucatge?
L’ús d’hipertrucatges planteja qüestions importants sobre la veracitat de la informació i la confiança en els mitjans. És essencial que els ciutadans desenvolupin habilitats de pensament crític i usin eines de verificació per discernir entre continguts reals i manipulats.
Detectar un hipertrucatge pot ser cada vegada més difícil a mesura que la tecnologia millora, però hi ha diverses estratègies i eines que poden ajudar-te a identificar continguts manipulats.
Anàlisi visual detallada
Observa amb atenció els següents aspectes en vídeos o imatges sospitoses:
- Moviments facials i sincronització labial amb l’àudio: Desajustos poden indicar manipulació.
- Parpelleig i expressió ocular: Tot i que les versions més recents han millorat aquest aspecte, encara poden presentar anomalies subtils com una falta de parpelleig o parpelleigs no naturals.
- Il·luminació i ombres: Busca inconsistències en la il·luminació, com ombres que no coincideixen amb la font de llum o reflexos inusuals.
- Detalls facials: Presta atenció a elements com arrugues, pèls facials o marques distintives. La manca de detall o una aparença massa suau poden ser indicis de manipulació.
- Proporcions corporals: Comprova si el cap està ben alineat amb el cos i si les proporcions són coherents. Desajustos poden ser signes de superposició de rostres.
Anàlisi d’àudio
Els hipertrucatges d’àudio poden ser difícils de detectar, però hi ha indicadors que poden ajudar:
- Entonació i ritme: Comprova si la veu té un ritme natural i una entonació coherent. Les veus sintètiques poden sonar monòtones o amb pauses inusuals.
- Soroll de fons: La manca de soroll ambiental o canvis bruscos en el fons sonor poden indicar edició.
Verificació de fonts i metadades
- Origen del contingut: Investiga qui ha publicat el vídeo o la imatge. Fonts no verificades o comptes recents poden ser sospitosos.
- Metadades: Analitza les metadades del fitxer per veure informació sobre la seva creació. L’absència o inconsistències poden ser indicis de manipulació.
- Cerca inversa d’imatges: Utilitza serveis com Google Imatges per veure si la fotografia ha estat publicada en altres llocs, la qual cosa pot ajudar a determinar la seva autenticitat.
Educació i pensament crític
La millor defensa contra els hipertrucatges és una ciutadania informada i crítica:
- Abans de difondre continguts, assegura’t de la seua veracitat mitjançant fonts fiables.
- A la xarxa disposem d’espais de formació per aprendre a identificar continguts manipulats. Des del gòTIC, periòdicament, també oferim tallers i recursos.
- Fomenta el debat i parla amb altres persones sobre els riscos dels hipertrucatges i comparteix coneixements per augmentar la consciència col·lectiva.
Eines i recursos per a la detecció
Hi ha diverses eines i projectes que poden ajudar-te a identificar hipertrucatges:
Detect Fakes
detectfakes.kellogg.northwestern.edu
Un projecte del MIT Media Lab
En participar en l’experiment, es presenten una sèrie d’imatges, algunes de les quals són fotografies reals i altres han estat generades per IA.
Cal desvelar si es tracta d’imatges reals o generades per IA, així com el nivell de confiança en aquesta avaluació.
Si cal, ofereix pistes i aspectes a considerar per discernir la veracitat de la imatge.
Aquestes dades s’utilitzen per analitzar la precisió humana en la detecció de mitjans sintètics i per desenvolupar eines i estratègies que ajudin a millorar aquesta capacitat.
DeepWare Scanner
Deepware Scanner és una eina avançada que utilitza algoritmes d’intel·ligència artificial per analitzar vídeos i identificar signes de manipulació facial.
El sistema examina els rostres detectats en el vídeo, cercant anomalies que puguin indicar una manipulació generada per IA. És important destacar que l’eina se centra exclusivament en la detecció de manipulacions facials i no analitza l’àudio ni altres tipus de contingut sintètic.
Permet pujar un vídeo des del teu dispositiu o introduir l’enllaç d’un vídeo de plataformes com YouTube, Facebook o X, amb una durada màxima de 10 minuts.
Forensically
Eina en línia gratuïta i en línia que ofereix diverses funcionalitats per a l’anàlisi forense d’imatges, com ara detecció de clonació, anàlisi de nivell d’error (ELA), extracció de metadades,…
Agència de Ciberseguretat de Catalunya
ciberseguretat.gencat.cat/ca/ciutadania/riscos-ia/hipertrucatges
El web de l’Agència ofereix informació i consells per identificar hipertrucatges, així com activitats educatives.
La caixa d’eines de Verificació de Maldita.es
https://maldita.es/herramientas-de-verificacion
Recurs gratuït dissenyat per ajudar qualsevol persona a detectar i combatre la desinformació. Inclou una selecció d’eines digitals i tutorials pràctics per verificar continguts sospitosos que circulen per xarxes socials, WhatsApp o altres canals digitals.
En conclusió
La millor defensa contra la manipulació digital és el pensament crític i una ciutadania informada i participativa.
Tall 3
