La inteligencia artificial ha avanzado tanto que el problema ya no son solo los deepfakes. Ahora desconfiamos incluso de las fotos reales. Los deepfakes, esas imágenes falsas generadas por modelos de IA generativa, son cada vez más convincentes. Nos han hecho creer que el Papa llevaba un moderno anorak o que Donald Trump era arrestado a la fuerza. Hoy en día, debemos estar atentos no solo a las imágenes falsas en redes sociales, sino también a las verdaderas.
Persiguiendo la desinformación
Elliot Higgins es un analista de OSINT (Inteligencia Open Source). Hace unos años, comenzó a reunir sus descubrimientos en un sitio web llamado Bellingcat. Desde entonces, su agencia se ha convertido en un referente en este campo. Investiga todo tipo de eventos, y recientemente ha identificado que el reto actual en el ámbito de la desinformación lo plantea la inteligencia artificial.
Higgins, en una reciente entrevista en Wired, afirmaba: «Cuando la gente piensa en la IA, piensa: ‘Oh, va a engañar a la gente para que crea cosas que no son ciertas’. Pero lo que realmente está haciendo es dar permiso a la gente para no creer cosas que son verdad. O sea, justo lo contrario.»
Este fenómeno plantea un nuevo desafío: la desconfianza generalizada. Con tanta desinformación, los deepfakes y la IA podrían lograr que no creamos lo que estamos viendo, pensando «ah, es otra imagen generada por IA» cuando en realidad se trata de una situación legítima.
¿Real o artificial?
Un caso ilustrativo ocurrió cuando Higgins republicó una imagen singular. Un sitio web, teóricamente especializado en detectar imágenes generadas por IA, afirmaba que una foto de un periodista asediado por decenas de personas era probablemente falsa. Sin embargo, la imagen era real, lo que demuestra que estos servicios de detección pueden fallar.
Estos sistemas de detección de fotos nos condicionan, ya que podemos confiar en sus conclusiones. Una fotógrafa denunció recientemente que sus fotos enviadas a Instagram estaban siendo detectadas como imágenes generadas por IA, a pesar de ser convencionales.
Pero también nosotros podemos equivocarnos. No parece que los sistemas automáticos de detección funcionen en todos los casos, y nuestros ojos también pueden engañarnos. La evolución de plataformas como Midjourney ha demostrado que el fotorrealismo alcanzado por estos modelos de IA es asombroso, dificultando cada vez más distinguir entre realidad y ficción.
El peligro de los deepfakes en vídeo
Las imágenes no son el único problema. La generación de deepfakes de personas que dicen cosas coherentes, moviendo los labios de forma sincronizada, está mejorando constantemente. Si un vídeo es falso pero razonable, podemos creerlo, lo que lleva a que incluso cuando el vídeo sea real, quizás no nos lo creamos.
Este desafío no es solo tecnológico, sino también ético. Los desafíos éticos de la IA abarcan la necesidad de establecer regulaciones y políticas que aborden el impacto de la desinformación generada por IA. La desconfianza en la información visual afecta la percepción pública y la credibilidad de las fuentes de noticias, lo que subraya la importancia de abordar estos desafíos con urgencia.
El futuro de la veracidad en la era de la inteligencia artificial
La capacidad de la inteligencia artificial para generar imágenes y vídeos indistinguibles de la realidad plantea preguntas importantes sobre la veracidad y la confianza en los medios digitales. A medida que los modelos de IA continúan evolucionando, es crucial que los usuarios desarrollen habilidades críticas para evaluar la autenticidad de la información visual.
Las instituciones y las plataformas de medios sociales deben trabajar en conjunto para mejorar las herramientas de detección de imágenes falsas y proporcionar a los usuarios medios para verificar la autenticidad de los contenidos. Además, la educación en alfabetización digital se convierte en una necesidad imperiosa para equipar a las personas con las habilidades necesarias para navegar en un entorno mediático cada vez más complejo.
Desafíos y soluciones
La inteligencia artificial no solo ha revolucionado la forma en que se crean imágenes y vídeos, sino también la forma en que los consumimos. La facilidad con la que se pueden generar imágenes con IA plantea desafíos significativos para la autenticidad y la confianza en los medios. Una posible solución es la implementación de marcas de agua digitales o metadatos en las imágenes y vídeos generados por IA, que permitan a los espectadores identificar rápidamente si una imagen ha sido manipulada.
Otra estrategia podría ser el desarrollo de herramientas avanzadas de detección que utilicen inteligencia artificial para identificar las características sutiles que diferencian las imágenes reales de las generadas por IA. Estas herramientas podrían integrarse en plataformas de redes sociales y motores de búsqueda para alertar a los usuarios sobre posibles manipulaciones.
Sin embargo, estas soluciones tecnológicas deben ir acompañadas de una educación continua y una mayor concienciación pública sobre los riesgos de la desinformación. Programas de alfabetización mediática pueden enseñar a las personas cómo identificar señales de manipulación y evaluar la credibilidad de las fuentes de información.
La importancia de la ética en el desarrollo de IA
A medida que la inteligencia artificial sigue avanzando, es crucial que los desarrolladores y las empresas tecnológicas consideren los desafíos éticos de la IA en sus prácticas. La creación de directrices éticas y la adhesión a principios de transparencia, equidad y responsabilidad pueden ayudar a mitigar los riesgos asociados con la IA.
Organizaciones y gobiernos también deben colaborar para establecer normas y regulaciones que protejan a los consumidores y mantengan la integridad de la información. Esto incluye políticas que obliguen a las empresas tecnológicas a ser transparentes sobre cómo se utilizan los modelos de IA y a rendir cuentas por los impactos de sus tecnologías.
