X dice que detectará las imágenes falsas. Es la peor noticia del año
Hace pocos días, 20 Minutos y otros medios se hacían eco de una noticia presentada como un gran avance: Elon Musk anuncia que X, la red social antes conocida como Twitter, comenzará a etiquetar automáticamente como «Medios manipulados» todas aquellas imágenes generadas o alteradas por Grok.
A primera vista parece una muy buena noticia, y nuestra primera reacción es: oh, qué bien, ojalá hagan lo mismo las otras plataformas y podamos por fin distinguir a simple vista las imágenes reales de las falsas. Pero dándole un par de vueltas al tema, me temo que estamos ante una peligrosa arma de doble filo.
Como apunta el artículo, estos controles se basan principalmente en los metadatos C2PA y en las marcas de agua digitales. Los primeros actúan como una especie de «pasaporte biográfico» oculto en el código de la imagen, que registra cada edición; las segundas son patrones de píxeles imperceptibles al ojo humano pero detectables por algoritmos. Y esta sofisticada manera de marcar las imágenes es precisamente el gran problema, porque la seguridad que ofrece es ilusoria: basta con hacer una captura de pantalla, pasarla por un bot de Telegram que limpie metadatos o aplicar un ligero filtro de ruido para que el rastro desaparezca por completo. Al eliminar ese «DNI digital», la imagen entra en la red limpia de sospechas, se salta el radar de X y se adjudica uncertificado de autenticidad que nunca debería haber tenido.
El navegante piensa: Si no está etiquetada como fake o como manipulada, es que es auténtica. Y ahí es donde nos dan gato por liebre y con una estrella Michelín para más INRI: Nos han coladao una fake y nos la hemos comido con patatas como la más auténtica de las imágenes de la Red. Uff!!
Y aquí reside el verdadero peligro. Hasta ahora, el navegante prudente vivía en un estado de alerta constante, dudando por sistema de cada imagen llamativa. Sabíamos que estábamos en terreno minado y, de una u otra manera, nos esforzábamos en contrastar y verificar cda imagen sospechosa. Si ahora la red social nos promete que ella se encarga de avisarnos, indefectiblemente bajaremos la guardia. Y el día que alguien hábil se salte el etiquetado —y no dudes de que lo harán cada día— esa imagen falsa circulará con una pátina de credibilidad absoluta, precisamente por no llevar la etiqueta de advertencia.
Al intentar protegernos, nos están desarmando críticamente. Nos la van a colar doblemente.
En definitiva: no bajemos la guardia. La mejor herramienta de seguridad sigue siendo nuestra propia sospecha, no un algoritmo de Musk.
Os recomiendo, por supuesto, leer la noticia original en 20 Minutos para entender cómo pretenden implementar este «filtro» que, me temo, nace ya agujereado.
Tomás Cascante