Veritat, veracitat i el dilema dels 'deepfakes'

Una cultura cartesiana com la nostra tolera poc els canvis profunds en les definicions elementals

LILIANA ARROYO MOLINER
LILIANA ARROYO MOLINER Doctora en sociologia, experta en transformació digital i impacte social, Esade

Vivim una època intensa perquè tremolen els fonaments de la comunicació. Una cultura cartesiana com la nostra, obcecada en separar bé i mal, tolera poc els canvis profunds en les definicions elementals. La proliferació dels 'deepfakes' (vídeos falsejats gràcies a la intel·ligència artificial) és la prova que encara estem molt lluny de trobar els límits de la manipulació dels sentits. Ens atrauen els relats apocalíptics, i per supèrbia humana no volem perdre el primer lloc al podi de les espècies, i encara menys a mans d’algoritmes.

El debat, però, no és només mediàtic, ni polític, per molt que el discurs dominant no para d’alertar-nos d’aquests vídeos en tant que amenaces a la democràcia. Aquesta nova distopia tecnològica ens ha brindat falsos vídeos d’Obama insultant Trump, o actrius d’Oscar protagonitzant porno. La discussió té molt més a veure amb l’imaginari col·lectiu: com construïm socialment la comunicació, què entenem per realitat i fins on arriba la ficció són les preguntes que haurien d’obrir el marc del debat. 

Un dels darrers lliuraments de la 'saga Deep Fake' mostrava Nancy Pelosi –presidenta de la Cambra de Representants dels Estats Units– notablement èbria. El problema d’etiquetar com a 'deepfakes' vídeos que en realitat estan alentits ens convida a seguir navegant en la confusió entre termes metafòrics. No cal una supercomputadora per alentir un vídeo ni és la primera vegada que ho veiem. Quantes paròdies i programes d’humor deuen haver jugat amb aquest truc? La diferència, però, és que fins ara era possible detectar inconsistències i defectes, símptoma de material alterat. Ara el nivell de perfecció de la manipulació és tan gran que anul·la tota sospita. 

Necessitem eines i aplis que, igual que ens permeten crear els nostres propis continguts, ens ajudin a identificar el contingut original i el derivat

La informació és un recurs limitat, poderós i mal·leable. Qui no ha crescut jugant amb el telèfon i descobrint com es modifica un missatge només pel simple fet de passar-lo? I que sorprenent és, en canvi, que l’entorn digital ens ofereixi alhora fidelitat en les rèpliques i opcions d’alteració exponencials. Pensem en un mem: per més viral que es torni, pot continuar exactament igual des que es comparteix per primera vegada fins a l'última. Però també disposem de filtres, aplis d’edició i altres eines que ens permeten redecorar-lo fins a l’extenuació. Sumem-hi que triar unes imatges o unes altres, o fins i tot l’ordre en què es mostrin, fa de qualsevol vídeo una representació parcial i mediada de la realitat. 

En aquest punt, em pregunto si el que es posa en joc és la Veritat amb majúscula o si el que ens hi juguem és la confiança. Ningú demanarà que eliminin les escenes de 'Rogue One' fetes amb la mateixa tècnica. Perquè allò no són ‘deepfakes’ sinó ‘efectes especials’. Potser el nom no fa la cosa, però el context sí. Quan una peça creada amb intel·ligència artificial forma part d’una obra creativa, d’una narrativa que tots entenem com a ficció, el judici sobre la veritat i la veracitat queden a part. La preocupació arriba quan confiem en la veracitat del propòsit i de l’emissor. Estem revivint el debat dels 90 sobre els retocs d’imatges, en versió audiovisual. L’interessant de la discussió sobre l’ús de Photoshop per mostrar pells perfectes i cossos modèlics va ser la conscienciació col·lectiva sobre l’autenticitat de les fotos. 

Els 'ultrafalsos' (traducció que proposa la Fundéu per al castellà) esdevenen un problema quan es pretén presentar-los com a prova judicial, o si als telediaris i portals informatius es nodreixen d’aquest material sense qüestionar-lo. Perquè nosaltres, receptors confiats, ho donarem per bo. Davant d’això necessitem com a mínim tres factors. El primer, reforçar la figura dels professionals que són els que fan la curadoria de la informació. Lluny de veure la fi del periodisme, estem en una redefinició de la professió. Penso també en tots els projectes de comprovació de fets ('fact-checking' i altres) que han sorgit arran de les polèmiques de les notícies falses. 

La segona cosa és òbviament una ciutadania crítica, que, si bé no podrem discernir entre cert o fals, almenys podem abstenir-nos de ser còmplices i deixar de compartir a tort i a dret allò que ens arribi sense saber d’on surt. I això no serà possible sense la tercera: eines i aplis que, igual que ens permeten crear els nostres propis continguts, ens ajudin a identificar el contingut original i el derivat. Perquè l’autèntic engany dels 'deepfakes' no està tant en el vídeo fals sinó en quan, com i per a què el fem servir. A partir d’aquí, cal trobar la manera de posar aquesta mirada crítica al servei de la renovació pedagògica i de la salut 4.0.