Categoría
🗞
NoticiasTranscripción
00:00Ni por las buenas ni por las malas, aquí solamente puedo mandar soy yo, Manari.
00:06No, esta voz que acabas de escuchar no es la de Nicolás Maduro.
00:10A pesar de que sea muy parecida a la del presidente de Venezuela,
00:13ha sido generada por la inteligencia artificial con el objetivo de desestabilizar
00:17el panorama político venezolano.
00:19A lo largo de estos últimos 12 meses, en las que más de 3.700 millones de personas
00:24han sido llamadas a las urnas, hemos sido testigos de numerosos deepfakes,
00:29una serie de contenidos creados por inteligencia artificial
00:32que tenían como objetivo erosionar la confianza pública.
00:35Hemos podido ver a un clon de Joe Biden pidiendo a sus votantes que no acudieran a las urnas,
00:40a Donald Trump alterando la imagen de artistas como Taylor Swift para atraer el voto de sus seguidoras,
00:45o a Claudia Seinbaum promocionando productos financieros cuanto menos sospechosos.
00:50Presento oficialmente la plataforma financiera para los mexicanos,
00:54donde cada mexicano garantiza ganar 120.000 pesos al mes.
00:58La inteligencia artificial avanza a un ritmo vertiginoso,
01:01creando contenido cada vez más realista y accesible para todo el mundo.
01:05Y esto está aumentando el riesgo de desinformación, de fraude y de suplantación de identidad,
01:10tal y como nos cuenta Daniel Palacios del Río, marketing manager de Softech.
01:14Estas tecnologías permiten crear contenido audiovisual extremadamente realista,
01:19lo que dificulta la distinción entre lo real y lo falso.
01:22Esto puede ser utilizado para propagar noticias falsas, manipular opiniones públicas,
01:28influir en elecciones o dañar la reputación de individuos y organizaciones.
01:32Sin una intervención adecuada podríamos enfrentar una crisis de confianza en los medios de comunicación,
01:38las redes sociales y hasta en las instituciones públicas,
01:41ya que la veracidad de cualquier contenido será constantemente cuestionada.
01:46¿Y qué estamos haciendo para hacer frente a los deepfakes?
01:48Uno de los proyectos más relevantes a nivel internacional
01:51es el propuesto por la Coalición para la Procedencia y Autenticidad del Contenido,
01:55una alianza compuesta por las compañías tecnológicas más relevantes a nivel internacional
01:59que propone incluir una serie de metadatos en cada contenido para que podamos conocer su origen.
02:04Una especie de etiqueta invisible que nos permitirá trazar el contenido que estemos consumiendo
02:09y saber quién es su responsable y qué tipo de herramientas ha utilizado durante su elaboración.
02:13Una gran idea que, sin embargo, requiere de un consenso global que no termina de llegar,
02:19principalmente por la complejidad técnica para implementar este estándar en todo el mundo,
02:23también por los intereses comerciales que podrían frenar la colaboración
02:26o por las diferencias legales entre países.
02:29En el plano ético surge la cuestión del equilibrio entre la privacidad y la seguridad.
02:33Por ejemplo, algunas soluciones implican el uso masivo de datos personales
02:38para entrenar algoritmos que detecten deepfakes,
02:41lo que puede poner en riesgo la privacidad de los usuarios.
02:44De ahí que estas empresas hayan comenzado a lanzar sus propias herramientas
02:47a la espera de un consenso mundial.
02:49Google cuenta con Science ID, que identifica y marca contenido generado por inteligencia artificial
02:54para que podamos conocer su procedencia.
02:56TruePeek desarrolló Vision, una herramienta que protege a los contenidos
03:00mediante criptografía para evitar posibles alteraciones.
03:03Y FakeCatcher analiza el flujo sanguíneo de los píxeles
03:06para determinar si un contenido es real o falso.
03:09¿Y qué se está haciendo en España?
03:11Aunque a día de hoy no nos enfrentamos a la cantidad de deepfakes que podemos encontrar en otros países,
03:15contamos con varias herramientas que nos ayudan a identificar contenido falso de inmediato.
03:19Una de ellas es Verify, una plataforma desarrollada por Telefónica
03:23que es capaz de detectar cualquier tipo de contenido generado por la inteligencia artificial.
03:27Así nos lo explica Susana Jurado, Head of Telefónica Venture Builder.
03:31Cuando estamos analizando una imagen, por ejemplo, lo que buscamos es patrones.
03:38Los típicos patrones de la propia imagen, si de repente hay una ruptura en ese patrón
03:42o si vemos algún artefacto en particular
03:45o características que son muy típicas de las imágenes generadas por IA.
03:49Funciona como pasa en el mundo de los antivirus,
03:52que lo que tienes que estar es pendiente de las diferentes herramientas que generan esos virus,
03:58cuáles son los patrones que tiene cada una de ellas y tienes que identificar, no es sencillo.
04:03Por otro lado, Verify Audio es una herramienta periodística
04:06desarrollada por Prisa para la detección de audios falsos.
04:09Según nos cuenta la CDO Radios de Prisa Media, Ana Ormaechea,
04:12el avance de la inteligencia artificial provoca que el reto sea cada vez más grande.
04:16Para el oído humano es mucho más complicado diferenciar una voz real de una voz clonada
04:23porque la tecnología cada día, pero es que además es diario como va mejorando
04:30y además sobre todo que se ha democratizado.
04:33Tú ahora mismo en software como iLevel Labs puedes clonar una voz
04:39con menos de dos minutos de una voz original y lo puedes hacer gratis o muy barato.
04:45Al igual que Verify, esta herramienta se basa en varios modelos de inteligencia
04:49que se encarga de analizar el archivo que has enviado para descubrir
04:52si es verdadero o generado por la inteligencia artificial.
04:55Te detecta digamos manipulación sobre las propias cualidades físicas del audio.
05:00Entonces hemos, bueno no hemos definido nosotros,
05:02pero algunas de las cualidades físicas que tiene un audio las hemos acotado
05:08que son pues temas desde tonalidad, frecuencia, ritmo,
05:12creo que hemos definido ocho creo que son.
05:15Entonces sobre esas variaciones te va diciendo realmente
05:19bueno si realmente ha habido una manipulación de esas cualidades o no.
05:25El año 2024 ha marcado sin duda alguna un punto de inflexión
05:29en cómo la inteligencia artificial y los deepfakes
05:31pueden influir en los procesos democráticos a nivel global.
05:34De ahí la importancia de desarrollar una resistencia tecnológica
05:37capaz de contrarrestar este tipo de contenidos falsos
05:40que tienen como objetivo desestabilizar.
05:42Necesitamos herramientas de carácter inmediato
05:44y encontrar una solución común a nivel global.
05:47Solo así y gracias a la conciencia colectiva
05:50podremos dar este paso adelante para poder impulsar estas políticas
05:54que sin duda alguna ayudarían a frenar el auge de estos deepfakes.