Bienvenidos a Todavía no es tarde

La nueva herramienta que busca revelar cuándo una imagen, un video o un audio fueron creados por IA

Una foto de un acontecimiento que nunca ocurrió, la voz de una persona diciendo algo que jamás dijo o un video de una escena inexistente pueden circular hoy por las redes con una facilidad que hace apenas unos años parecía propia de la ciencia ficción. A medida que las herramientas de inteligencia artificial generativa se vuelven más sofisticadas, distinguir lo verdadero de lo creado artificialmente empieza a ser un problema cotidiano. Y Google acaba de dar un nuevo paso para intentar reducir esa incertidumbre.

La compañía puso a disposición del público general SynthID Detector, una plataforma que permite cargar una imagen, un video o un archivo de audio y comprobar si contiene una marca de agua digital asociada a contenido generado mediante IA. Hasta ahora, el sistema había sido probado principalmente por periodistas, investigadores y profesionales vinculados a los medios. Desde esta semana, el acceso se amplió globalmente, aunque inicialmente está disponible en inglés.

Una marca que el ojo humano no puede ver

El funcionamiento se basa en una idea sencilla, aunque técnicamente sofisticada. SynthID incorpora una señal digital imperceptible en el contenido generado por determinados modelos de inteligencia artificial. No aparece como un logo, una inscripción ni una advertencia visible: queda integrada en la estructura de la imagen, el video o el audio.

La marca está diseñada para resistir modificaciones habituales, como recortes, filtros, compresión o cambios en la velocidad de un archivo. En el caso del audio, por ejemplo, la señal tampoco puede ser escuchada por una persona. De esta manera, el sistema intenta mantener una huella que permita reconocer el origen artificial del material incluso después de algunas transformaciones.

Google sostiene que SynthID ya fue utilizado para marcar más de 180.000 millones de imágenes y videos, además de unos 240.000 años de contenido de audio. La tecnología está incorporada en distintos productos y modelos de la compañía, y también cuenta con el respaldo de otros actores tecnológicos como OpenAI, Nvidia y Kakao, mientras que Apple anunció que próximamente se sumará al sistema.

Detectar una huella no significa descubrir toda la verdad

Ahí aparece una distinción importante. SynthID no es un detector universal capaz de mirar cualquier imagen de internet y determinar automáticamente si fue creada por una inteligencia artificial.

El sistema busca específicamente las marcas de agua que puede reconocer. Por eso, que una imagen no presente una marca de SynthID no significa necesariamente que haya sido creada por una persona: podría haber sido generada mediante otra herramienta de IA que utilice una tecnología diferente o que no incorpore ningún sistema de identificación.

La propia documentación de Google advierte sobre esa limitación. Si encuentra una marca SynthID, puede establecer que el contenido fue creado total o parcialmente con modelos compatibles; si no encuentra ninguna, no puede concluir que el material sea auténtico. También existen casos en los que las modificaciones realizadas sobre un archivo dificultan la detección.

Por eso, la herramienta funciona mejor como una pieza de evidencia dentro de una verificación, y no como un certificado absoluto de realidad.

Una carrera que recién comienza

El lanzamiento llega en un momento en que las plataformas tecnológicas buscan establecer mecanismos comunes para informar sobre el origen de los contenidos digitales. Además de las marcas de agua, avanzan sistemas como las Credenciales de Contenido, basadas en el estándar C2PA, que pueden registrar información sobre cómo fue creado o modificado un archivo.

La diferencia es relevante: mientras una marca de agua busca dejar una señal dentro del propio contenido para facilitar su identificación, las credenciales funcionan más como un registro del origen y de los cambios que atravesó un archivo. Ninguno de los dos sistemas resuelve por sí solo el problema de la desinformación, pero ambos apuntan a recuperar algo que internet fue haciendo cada vez más difícil de encontrar: la trazabilidad de lo que estamos mirando.

La pregunta de fondo ya no es solamente si una inteligencia artificial puede crear una imagen indistinguible de una fotografía real. Puede hacerlo. El desafío empieza a ser otro: construir herramientas y hábitos que permitan saber de dónde salió aquello que tenemos delante.

En ese escenario, mirar una foto, escuchar una voz o reproducir un video puede dejar de ser suficiente para decidir si algo ocurrió. La próxima habilidad digital podría ser aprender a verificar antes de creer y, sobre todo, antes de compartir.