Es curioso cómo, a medida que ha evolucionado la tecnología y la manera de capturar videos e imágenes desde nuestros dispositivos móviles, también hemos logrado conectarnos con el mundo entero.
Hoy podemos conocer culturas, tradiciones y acontecimientos de prácticamente cualquier rincón del planeta con tan solo unos cuantos clics.
Esta transformación en nuestra manera de percibir el mundo nos lleva a una de las ideas más conocidas de Marshall McLuhan: “El medio es el mensaje”.
Para McLuhan, el medio no es únicamente un canal que transporta información; el propio medio modifica nuestra experiencia y produce efectos en la sociedad. Esa frase breve parece cobrar una nueva dimensión en la actualidad: gracias a la tecnología estamos más cerca, tenemos una enorme cantidad de información al alcance de nuestras manos y podemos relacionarnos con personas sin importar la distancia.
Pero todos estos grandes avances que han marcado nuestra vida también tienen sus “peros”.
Cuando encontramos videos o imágenes que nos fascinan, sorprenden, desorientan o incluso confunden nuestros ojos, es momento de “ponernos manos a la obra”. En lugar de dejarnos llevar por lo que vemos a primera vista, podemos acercarnos a la propia tecnología y utilizar herramientas que nos ayuden a conocer un poco más sobre aquello que estamos observando.
Si no puedes con el enemigo, únete a él
Una de las herramientas que puede ayudarnos en esta tarea es SynthID, una tecnología desarrollada por Google DeepMind para incorporar marcas de agua digitales que permitan identificar contenido generado o editado con sistemas que incorporan SynthID
La idea resulta interesante: utilizar la propia tecnología para ayudarnos a distinguir aquello que nuestros ojos ya no siempre pueden identificar por sí solos.
¿Pero cómo funciona?
SynthID incorpora una marca de agua digital que no es perceptible para nuestros ojos, pero que puede ser detectada mediante sistemas diseñados para reconocerla. Esta tecnología se ha desarrollado para distintos tipos de contenido generado por IA, incluyendo imágenes, audio, video y texto.
SynthID nació oficialmente en agosto de 2023, cuando Google DeepMind presentó su versión beta para imágenes generadas con IA. Posteriormente, la tecnología se amplió para abarcar otros formatos. Su creación responde a uno de los grandes desafíos que plantea el avance de la inteligencia artificial generativa: cada vez resulta más difícil diferenciar algunos contenidos reales de aquellos que han sido creados o modificados artificialmente.
¿Cuántas veces hemos visto un video, escuchado un audio o encontrado una fotografía que parece completamente real y la hemos creído casi de inmediato?
Entre los principales desafíos que buscó atender esta tecnología se encuentran:
- Combatir la desinformación y los deepfakes: con modelos capaces de generar imágenes, audios y videos cada vez más realistas, distinguir entre contenido auténtico y sintético se vuelve más complicado. Las marcas de agua digitales pueden contribuir a identificar determinados contenidos generados por IA.
- Proteger la transparencia sin arruinar la experiencia: una de las características de SynthID es que la marca de agua está diseñada para ser imperceptible y permanecer detectable incluso después de algunas modificaciones, como recortes, cambios de tamaño o ajustes de color.
- Fomentar una mayor responsabilidad en la industria: contar con mecanismos de identificación puede ayudar a usuarios, periodistas y plataformas a tener más información sobre el origen de determinados contenidos y favorecer un uso más responsable de la tecnología.
Aprender a mirar con nuevas señales
Internet es un medio que ha transformado nuestra manera de pensar, relacionarnos y vivir en sociedad. Nos asombra, nos enseña y nos inspira; sin embargo, también nos enfrenta al reto de aprender a cuestionar aquello que vemos.
La tecnología puede sorprendernos, confundirnos e incluso engañarnos, pero también puede brindarnos herramientas para verificar la información y reducir nuestra vulnerabilidad frente a los contenidos manipulados.
Porque quizá hoy el verdadero reto no sea solamente saber mirar, sino aprender a preguntarnos si aquello que estamos viendo realmente ocurrió.
Y, seamos honestos: el que esté libre de haber caído alguna vez ante una imagen o un video creado con IA, que arroje la primera piedra.
▏
Desde la investigación
- Marshall McLuhan y medios digitales. Flor Berardi retoma “el medio es el mensaje” para analizar cómo las ideas de McLuhan siguen teniendo vigencia en redes sociales y espacios digitales.
- SynthID nació en 2023. Google DeepMind presentó en agosto de ese año una primera versión beta para marcar e identificar imágenes generadas con IA.
- La tecnología se amplió a más formatos. SynthID puede incorporar marcas imperceptibles en imágenes, audio, video y texto generados mediante sistemas compatibles.
- La marca busca resistir modificaciones comunes. En imágenes y video está diseñada para seguir siendo detectable tras operaciones como recortes, filtros o compresión, aunque DeepMind reconoce límites ante manipulaciones extremas.
- La verificación sigue avanzando. Google permite comprobar en Gemini si determinados contenidos fueron creados o editados con sus herramientas de IA mediante la detección de SynthID.
▏Ada Sepúlveda es columnista en MentePost con análisis sobre cultura digital y comunicación.