Banner de la Campanya Troba el fake

amb el gòTIC, tenim una missió!

T02M08 / els deepfakes són indetectables?!


El primer dimarts de febrer se celebra el Dia de la Internet Segura per conscienciar la ciutadania sobre la necessitat de fer un ús segur de les xarxes, especialment entre els infants i joves. Es tracta d’una iniciativa present en diferents països de la Unió Europea amb milers d’activitats i programes de conscienciació arreu del continent.

La temàtica d’enguany se centra en la tecnologia d’hipertrucatge o deep fake. Per això al repte d’avui, la mirem fit a fit, per entendre com funciona aquesta tecnologia i desemmascarar-la.

Concepte

La intel·ligència artificial generativa fa que la producció de continguts hipertrucats sigui fàcil i barata, i a l’abast de qualsevol usuari.

Aquesta tècnica de manipulació audiovisual fa servir algoritmes d’intel·ligència artificial per crear muntatges molt realistes que contenen situacions fictícies, amb persones dient coses o intervenint en escenes on no han estat mai.

Els deepfakes poden ser de veu, d’imatge o de vídeo.

Com passa amb la resta d’eines tecnològiques, tot depèn d’amb quina finalitat s’utilitza. Si bé, pot tenir usos maliciosos com enganyar, desinformar, difamar i escarnir a les víctimes, també hi ha hipertrucatges positius, per crear continguts humorístics i generar continguts culturals, socials o didàctics.

Un altre exemple, son els humans sintètics són éssers dissenyats per ordinador que s’assemblen i imiten als humans reals i que es fan servir en educació, investigació o l’entreteniment.

Les dades

Un 71% de la població no coneix els deepfakes ni té habilitat per detectar-los.

La taxa d’increment anual de l’hipertrucatge és del 900%.

El 2019, el 96% dels vídeos hipertrucats eren pornogràfics no consentits.

Via iproov.com

Els infants, un col·lectiu a protegir

Les deepfake són un problema creixent i una forma de violència sexual, sobretot contra les dones –recentment, com el de la cantant Taylor Swift–, però també és una forma d’abús de menors, ja que es fan servir imatges de menors famosos, fotografies i vídeos recollits a l’atzar i també de víctimes d’abusos per generar aquest nou material.

La directiva europea vigent (de l’any 2011) no persegueix al gran ventall de depredadors sexuals ni les seues pràctiques ni protegeix a les seues víctimes, ni disposem d’una doctrina comuna a la Unió Europea d’aquest àmbit tecnològic.

Per exemple. Fins ara, no se segueix una pauta clara i unificada sobre les imatges de pornografia infantil hiperrealistes o cap a un altre tipus de continguts que corren per les xarxes, com aquests manuals pedòfils que es poden trobar a la Xarxa. (I no a la darkweb).

El Codi Penal espanyol inclou la pornografia virtual o tècnica infantil que implica l’ús de la imatge alterada o modificada dels menors o la veu, encara que descarta “els materials que per la seva tosquedat revelin la seva condició de muntatge”, cosa que, depèn del cas, ja implica que serà un procés judicial el que podria decidir si el material implicat o no és susceptible de delicte.

Ahir, la Comissió Europea va aprovar la proposta d’actualització de la regulació que amplia la definició de delictes penals relacionats amb l’abús sexual a menors a tots els estats membres i també ampliarà el termini de prescripció dels delictes per donar als supervivents més temps per denunciar.

També garantirà que els estats membres criminalitzin, previnguin, investiguin i jutgin els delictes de transmissió en viu d’abusos sexuals infantils.

La directiva encara necessita la validació del Consell de la UE i el Parlament Europeu.

Quan entri en vigor,

  • qui produeix material pornogràfic infantil (sigui amb deepfakes i altres modalitats) s’enfrontarà a un mínim de tres anys de presó.
  • qui posseeix o distribueix material pornogràfic infantil, un mínim de dos anys de presó.

Via la Vanguardia

Notícia. Les xarxes de Meta avisaran si una imatge ha estat generada per IA

Moltes companyies comencen a incloure aquests senyals als seus vídeos i àudios generats per IA, per evitar les possibles confusions i enganys.

A finals de setembre de l’any passat, Tiktok ja va afegir una etiqueta que avisa quan una publicació ha estat creada amb aquesta tecnologia.

Ben aviat implementarà l’etiqueta ‘Generat amb IA‘ a Facebook, Instagram i Threads permetrà identificar i etiquetar de manera automàtica les imatges fotorealistes que hagin estat creades per la intel·ligència artificial generativa.

Meta ha indicat que els mateixos editors també podran informar de quan s’està compartint aquest tipus de contingut a les seves xarxes socials, de manera que la plataforma pugui afegir una etiqueta.

Com detectar-los?

Tot i que sovint els deep fakes poden semblar evidents, altres vegades no ho
són tant. És aquí on cal observar amb atenció les imatges i detectar errors o
incongruències.

Imatges

Cal fixar bé en les cares: molts hipertrucatges són transformacions facials. Per trobar pistes, cal centrar l’atenció en els ulls, les galtes i el front. També en els reflexos de les ulleres o la barba.

Vídeos

Cal fixar-se en el parpelleig i el moviment dels llavis. També, analitzar si les imatges estan pixelades i comprovar si hi ha alteracions en les cares i el fons de les imatges.

Cal tenir present que la majoria de deep fakes són vídeos molts curts.

Àudios

La pronunciació incorrecta, sons metàl·lics o monòtons o sons pocs naturals són indicadors d’un àudio hipertrucat.
L’hipertrucatge resulta més difícil de reconèixer quan acompanyat d’efectes sonors o si es tracta d’una cançó.

Com protegir-nos?

La tecnologia d’hipertrucatge també pot ser utilitzada per crear o suplantar identitats i, a través vídeos o àudios falsos realistes, estafar i enganyar les víctimes. Recordes el conte de les cabretes i el llop?

  1. En la mesura del possible, evita respondre trucades de números desconeguts.
  2. Qüestiona les comunicacions i la conveniència de desvelar dades personals.
  3. Per evitar ser clonat, evita abocar informació a la xarxa, que pugui ser usada per recrear la veu o confeccionar vídeos.
  4. Verifica la identitat de les persones amb les qui et comuniques i estiguis atenta als senyals d’alerta: veus robòtiques, repetitives o confuses.
  5. Estableix una paraula de codi dins del grup familiar, els amics o a l’empresa.
  6. Formula preguntes personals que puguin desconcertar una intel·ligència artificial (dates assenyalades o informació de caràcter personal).

Recurs. Desfake

desfake.cat

Desfake és un projecte desenvolupat per l’associació de verificació de fets Verificat.

Busca desenvolupar la capacitat dels estudiants d’avaluar críticament la informació que reben a través de les xarxes.

L’objectiu és formar adolescents i joves (i per què no persones adultes) responsables i crítiques. Que dubtin del que no és confiable, es facin les preguntes adequades i tinguin les eines necessàries per actuar i protegir-se enfront de la desinformació que es troben dia rere dia a la xarxa.

A través de diferents càpsules i itineraris, pots desenvolupar la teua capacitat per a reconèixer les fonts fiables i identificar la informació rigorosa i la que no ho és.

Recurs. Troba el fake

internetsegura.cat/definicio-projecte/dia-internet-segura

Per tal de donar a conèixer a la ciutadania aquesta tecnologia, els seus usos i com detectar un hipertrucatge, l’Agència de Ciberseguretat ha preparat diversos materials i propostes educatives i de sensibilització.

Hi trobareu activitats interactives per als alumnes de primària i secundària i per a la ciutadania en general.

Proposta. Exposició IA: Intel·ligència artificial

cccb.org

18 octubre 2023 — 17 març 2024
De dimarts a diumenge i festius,
d’11.00 a 20.00 hores.

6€ / 4€ reduït

Una exposició del Centre de Cultura Contemporània de Barcelona sobre la història, el funcionament, les possibilitats creatives i els reptes ètics i legislatius de la intel·ligència artificial avui.

Experimenta amb la IA, coneix-ne els riscos, descobreix innovacions científiques i artístiques i aprofundeix en una tecnologia decisiva en el futur de la humanitat.

Pròximes activitats del gòTIC

gotic.tarrega.cat/divendrestematics

La xarxa posa al nostre abast innumerables oportunitats i beneficis, però també suposa un desafiament pel que fa a la seguretat en línia. En aquesta xerrada, amb motiu del Dia de la Internet Segura, facilitarem eines pràctiques i estratègies per mantenir la seguretat mentre es navega per la web, minimitzant-ne els riscos.

Fes clic per inscriure't a l'activitat
amb el gòTIC, divendres temàTIC saps navegar amb seguretat

Des del 2003, cada quinzena,
escolta’ns a Ràdio Tàrrega,
al 92.3 FM i a radiotarrega.cat!

Missions superades

properes missions

anteriorment

Recupera els continguts del gòTIC ràdio, emesos entre el 2016 i el 2022

Obrir xat
1
💬 Necessites ajuda?
Scan the code
Hola!👋
En què puc ajudar-te?