Entrevista ¿Qué son Deepfakes? | Código 13 - 16 Julio 2024
Category
📺
TVTranscripción
00:00Gracias por continuar en Código 13. Recuerde que si usted debe salir de su casa, puede
00:06seguir nuestros contenidos a través de SINARDIGITAL.COM. Hoy en el programa vamos a hablar de deepfakes
00:13y de los peligros que representan para la sociedad y para nuestra privacidad. Por eso
00:18hemos invitado a DeSilda Tosca, quien cuenta con doctorado y una maestría en informática
00:24y es experta en temas de ciberseguridad e inteligencia artificial. DeSilda, un gusto
00:30para mí que nos acompañes en Código 13. Un gusto también. Muchísimas gracias por
00:33la invitación. Iniciemos hablando qué es la deepfake y cómo se crean. En general,
00:40cuando nosotros escuchamos la palabra deepfake, va en paralelo con eso que es la palabra inteligencia
00:45artificial. El deepfake, en palabras muy sencillas, es que hacemos a una persona a decir y hacer
00:52cosas que en realidad nunca ha dicho y nunca va a hacer. Es como crear una nueva identidad
00:59y empersonar a una persona a hacer acciones que la realidad no le ha hecho nunca. ¿Qué
01:05tal si explicamos un poco para qué se utilizan principalmente las deepfakes? Cuando se crean
01:10las tecnologías y en general se crean para venir en ayuda a la gente para que puedan
01:14hacer mejor sus acciones diarias, para que sea más fácil todos los trabajos que nosotros
01:20hicimos. El problema es que cuando una tecnología evolve, viene también con los riesgos. El
01:27deepfake al inicio se usó mucho en los cines para crear, por ejemplo, actores que ya más
01:32no existen y para ponerlo una otra vez en vida o para hacer las películas que estaban
01:37de historia, así que podíamos ir en una otra época y crear exactamente esos personajes
01:42que existían en ese tiempo. Trataran de usar la voz de esas personas. Pero como mencionaba
01:48antes, siempre esas tecnologías vienen con la parte mala y hoy en el día se está usando
01:54mucho el deepfake para desinformar al público y también en la parte de la pornografía
02:00para crear, llevar imágenes de personas muy famosas y hacer desnudas así para motivar
02:06y quitar completamente la reputación de una persona. Y eso es uno de los riesgos más
02:11grandes que tenemos hoy en día con el deepfake. Hablemos un poco de sus beneficios potenciales
02:15porque mencionabas ya, de hecho, en el campo del cine, del entretenimiento y también de
02:20la educación, estos beneficios que tiene. Claro, es muy lindo porque en el cine podemos
02:25usar para llevar en vida actores que ya no existen más. Lo podemos usar también para
02:29hacer una otra forma de contar una historia, si es una historia de una época que ya ha
02:34pasado mucho tiempo. También se usa mucho en el marketing. En el marketing se usa para
02:39que usted personaliza mejor esa publicidad que quiere hacer a un público, así que es
02:44más específica y es más atractiva. En la educación se está usando un montón para
02:50que la gente pueda aprender más fácil. ¿Por qué? Por ejemplo, imagina qué interesante
02:54es que un profesor cuando explica cómo funciona todo el universo usa ahí un astronauta el
03:00cual puede interactuar en modo real con la gente y le usan un voz específico. Eso es
03:06la cosa buena porque las clases no serán más así aburridas como antes, que un profesor
03:11tiene que explicar uno por uno, pero ahora existen esos que son los asistentes virtuales
03:15que pueden interactuar y allí podemos usar Deepfake a usar la voz de una persona muy
03:20famosa en ese campo que queremos explicar. También lo podemos usar para aprender un
03:25lenguaje. Por ejemplo, si usted quiere aprender a hablar italiano, puede usar exactamente
03:31esos asistentes virtuales que son creados como asistentes que pueden interactuar con
03:36usted y en ese modo usted le puede hacer una pregunta, te va a responder o te va a decir
03:41lo estás diciendo mal, repita. ¿Qué peligro representan los Deepfakes para la sociedad
03:46y también para nuestra privacidad individual? Ah, eso es un muy buen tema. Es que si como
03:52no tenemos un control sobre eso que pasa, es muy difícil decir que yo lo puedo mantener
03:57y yo me puedo proteger en todos los modos. Es un peligro porque, primero, eso que hace
04:03Deepfake es que destruye la reputación de una persona. ¿Qué significa eso? Que te
04:07van a poner a usted a decir cosas que nunca has dicho, has dicho y nunca vas a decir.
04:13Así que, ¿qué va a impactar eso? Va a impactar tu trabajo, va a impactar tu persona. Esos
04:19son los peligros más grandes y más de todo es que dar una desinformación así grande
04:24que la gente, por falta de educación o de knowledge en base a eso que saben por el Deepfake,
04:30no van a buscar más en profundo y crean a eso que vean.
04:34Decilda, ¿cómo se pueden detectar los Deepfakes y qué tecnologías existen para esto?
04:39Es muy difícil. Es muy difícil porque el Deepfake hoy en el día ha avanzado mucho.
04:45Los algoritmos que se usan para crear exactamente esos Deepfakes son muy avanzados. Existen
04:50instrumentos, existen diferentes instrumentos que nosotros podemos usar exactamente para
04:55ver o para entender si tenemos que hacer con un Deepfake, pero no son 100% seguros. ¿Por
05:01ejemplo, si tenemos generado un Deepfake, el cual no ha usado un algoritmo muy avanzado,
05:06¿cuáles son los primeros puntos que podemos ver? En general, cuando usamos la inteligencia
05:11artificial, tenemos problemas con los dedos. Los dedos en general de la gente no son así
05:16como normalmente. Pueden ser más, pueden ser un poco en otras posiciones que normalmente
05:21un dedo no se puede hacer. Puede ser que cuando una persona habla, el modo como mueve los
05:27labios y la voz no son en la misma frecuencia. Eso es un otro punto. También si tenemos
05:33una imagen generada por inteligencia artificial que lo estamos usando por el Deepfake y tiene
05:38una escrita por atrás, en general tiene problemas en el modo como está escrito ese texto o
05:44esas palabras que pueden ser. Esos son los puntos más críticos que podemos ver. Y también
05:50algunas veces las voces que se usan es muy computérica, que significa que se ve como
05:55un robot que está hablando. Pero aquí hablamos siempre de eso que es ahora muy abierto al
06:00público. Pero cuando se ponemos en temas más importantes como en la política, los Deepfakes
06:06son creadas de así buena con algoritmos que normalmente no son abiertos a un público,
06:10son con pago, pero recordamos que en este caso tenemos fondos para invertir en esa tecnología
06:17y es casi, casi muy difícil descubrir qué tenemos que hacer con un Deepfake.
06:21¿Qué regulación existe en Costa Rica para poder tener control sobre las Deepfakes?
06:26Es muy malo decir, pero no existe una regulación. Pero eso no es un problema,
06:31según mi opinión personal. Es que nosotros podemos sacar provecho a todas las regulaciones
06:37que Costa Rica tiene para proteger la imagen de una persona, para proteger la data y también,
06:42usted tiene muchos leyes aquí que protejan al humano. Por ejemplo, la privacidad, tu imagen,
06:48que no se puede usar sin tu consenso. Eso le podemos sacar provecho y hacer una denuncia en
06:53el momento que entendemos que se está generando un audio o un vídeo usando nuestra imagen.
06:58Hablemos también de la desinformación, porque ya mencionabas campañas políticas,
07:02verán, donde se ha utilizado la Deepfake de mala manera, al igual que en campañas
07:07de desinformación también. Es muy famoso. Cada vez que tenemos las votaciones, ¿qué pasa?
07:14Cada campo de una partida política normalmente ve a el otro como el concurrente. ¿Y qué pasa?
07:20Crea o usa la Deepfake para hacer una desinformación. ¿Por qué? Porque le conviene
07:25decir que el otro partido político que está parte de esas elecciones está dando una información
07:33que no es adecuada. Siempre va sobre eso que es la reputación, no solo de esos que es el
07:39partido político, pero también de la figura principal que puede ser parte de ese partido.
07:43Haciendo decir cosas que no son reales o hacerlo parte de una corrupción o de una otra cosa que
07:49puede impactar eso que es el público grande y que al final va a dar la vota.
07:54Algo súper importante, ¿qué medidas se pueden tomar para educar al público sobre las Deepfakes
07:59y prevenir su mal uso? Yo pienso que la educación es la base. ¿Qué significa eso? Se tienen que
08:05hacer más horas abiertas para el público, llevar diferentes edades en diferentes grupos y hablarle
08:11para cómo la tecnología está evolucionando cada día y cómo ahora se están usando los Deepfakes.
08:17Uno de los problemas más grandes que yo he notado últimamente es exactamente que a los mayores de
08:23edad le están llamando usando la voz de un nieto, de un sobrino, de un hijo y intentando sacar
08:30información o llevar cuentas bancarias para hacer esos que son los ataques. Y aunque eso es un uso
08:36muy grande hoy en el día de Deepfake, ¿pero cómo puede un adulto mayor entender que tiene esta parte
08:42de una falsa o de un caso de Deepfake? Exactamente haciendo más educación y darle más información.
08:48Para todos ellos que usan más las redes sociales, tienen que tener mucho cuidado porque ahí también
08:54pasan mucho los Deepfakes. ¿Qué tienen que hacer? No crean siempre a la primera cosa que lean en la
09:00red. Piden más información, buscan más sobre ese artículo que puede ser de interés de ustedes,
09:05así no caen parte de ese que es la desinformación. También sería muy bueno que todas las redes
09:11sociales o todos los contenidos del web pueden aplicar algoritmos, los cuales pueden conocer
09:17que tenemos que hacer con una parte que es un Deepfake y así que no dejan que se publica en
09:22las redes. Y eso sería también un gran ayuda para disminuir el número de la gente que cae
09:27parte de esos ataques. Muchísimas gracias, Desila, por acompañarnos en Código 13 y enseñarnos a
09:33reconocer este tipo de contenidos falsos de los cuales podríamos ser víctimas en cualquier momento.
09:38Muchísimas gracias a usted, estaba un gusto estar parte aquí.