¿Qué son las 'deepfakes' y como las usan para estafas en internet?

Expreso

⚠️ Conversamos con José Manuel Acosta, fundador de  Sonora Cibersegura, quien nos comparte información importante para evitar ser víctima.

Transcript

00:00Esto se ha logrado gracias al uso de la inteligencia artificial, principalmente las big fakes están

00:06enfocadas ya sea en la realización o generación de imágenes falsas de muy alta calidad o

00:14alteradas, o de videos fraudulentos o falsificados de muy alta calidad.

00:20Repito que cuesta mucho trabajo diferenciar si son reales o no.

00:25Y bueno, a nivel nacional se ha tenido reportes por parte de las diferentes autoridades en

00:32que ha habido un aumento en el uso de inteligencia artificial para la generación de estos big

00:38fakes y ser utilizados para cometer estafas, fraudes, robo de identidad, suplantación

00:46de identidad.

00:47Y bueno, pues básicamente algunas de las formas en las que los cibercriminales están

00:52utilizando la inteligencia artificial para realizar o generar estos big fakes, te voy

00:59a poner un ejemplo que tuvimos en la ciudad de Hermosillo, donde la víctima dice que

01:06clonaron su voz para poder entrar a la banca electrónica y con esto sustrajeron el dinero

01:14de su cuenta.

01:15Entonces, ahorita con la inteligencia artificial, por ejemplo, yo puedo recolectar videos en

01:20YouTube de alguna persona, de algún personaje público, de alguna persona famosa, cargárselos

01:27a una inteligencia artificial y hacer que esta inteligencia artificial diga nuevas cosas

01:33con la voz de esa persona que yo estoy utilizando.

01:37Entonces hay que tener mucho cuidado porque con la inteligencia artificial, así como

01:42sea utilizado para aumentar nuestra productividad, mejorar en nuestras labores diarias en la

01:49ciudad, también se está utilizando para generar este tipo de contenidos fraudulentos

01:56de muy alta calidad.

01:58Otro ejemplo que te puedo poner que es muy desafortunado y que ya estamos empezando a

02:03recibir reportes desde el año pasado en Sonora Cibersegura es la utilización de inteligencia

02:08artificial para generar big fakes de desnudos, principalmente de mujeres desafortunadamente.

02:18Toman una fotografía de tus redes sociales, esta fotografía totalmente normal, vestida

02:25en una fiesta, en cualquier situación común.

02:29Entonces tú subes esta fotografía a la inteligencia artificial, que hay muchas que son gratuitas

02:36y la inteligencia artificial en unos cuantos segundos lo que hace es desnudar el cuerpo

02:42y ya tienes una fotografía de alta calidad que es totalmente alterada, pero que tiene

02:48tu rostro.

02:49Entonces esto es algo muy peligroso y que ya tenemos algunas decenas desde el año pasado

02:55de reportes, todos desafortunadamente de mujeres jóvenes, mujeres adolescentes, en donde nos

03:01están reportando que se están abriendo cuentas de Instagram, de TikTok, de Facebook con su

03:08nombre y además con estas fotografías alteradas mediante inteligencia artificial o big fakes.

03:14Entonces es muy importante tener esto en cuenta que ya no necesita el criminal, el acosador,

03:20tener una foto íntima sexual de nosotros o de nosotras para poder generar este tipo

03:26de contenidos y desafortunadamente en una sociedad que estamos acostumbrados a juzgar

03:31sin investigar antes de verificar la información o saber que es genuina, pues si yo veo una

03:38fotografía mía íntima sexual en internet, comienza a ser compartida, comienza a darse

03:45por real y pues comienza toda una serie de victimizaciones, de revictimizaciones contra

03:52la víctima, a su daño, daño a su integridad moral, incluso tenemos casos de daños a su

03:58integridad física porque al verse expuestas principalmente las mujeres en internet y redes

04:05sociales con este tipo de contenidos fraudulentos, pues muchos acosadores, ciber acosadores o

04:14explotadores sexuales también se acercan ya sea de manera digital o incluso hemos tenido casos

04:21donde se tratan de acercar a las chicas, a las mujeres de manera personal, física y esto es

04:28algo muy grave, entonces hay que tener mucho cuidado con este tipo de falsificaciones de alta

04:34calidad o deep fake, porque ya con la tecnología, con la inteligencia artificial se ha vuelto mucho

04:40más fácil generar este tipo de contenidos que desafortunadamente pues están siendo utilizados

04:47desde para generar ingresos económicos para los criminales, robar y suplantar nuestra identidad,

04:54robar nuestro dinero de cuentas como este ejemplo que te comenté donde suplantaron la voz de la

05:02víctima de la persona y que de acuerdo a su versión pues dice que con esta grabación pudieron sustraer

05:09los fondos de su cuenta de banco. Claro y muy preocupante porque de pronto también pues hay

05:16muchas veces que nos llaman o hacemos llamadas para comprar cosas y a lo mejor por, sí, por

05:22estos infomerciales que vemos en televisión etcétera o estas llamadas que recibimos que

05:27sí de la compañía de celular, que sí del banco, entre otras cosas, imagínate pues por ahí también

05:33que se utilice nuestra voz, que se altere, que se modifiquen grabaciones para aceptar contratos

05:40hablados pues de pronto también podríamos hablar de otro tipo de estafas o de robos de información.

05:47Nosotros queremos saber también qué están haciendo ahorita las autoridades o si ya hay algo que se

05:52esté haciendo para pues erradicar este problema, ¿no? ¿Qué están haciendo o cómo nosotros podemos

05:59protegernos? Bueno, en cuanto a las autoridades no tenemos nosotros como iniciativa civil

06:05conocimiento al menos de manera pública que estén llevando a cabo actividades de este tipo,

06:12al menos nosotros no tenemos conocimiento actualmente. En el caso de nosotros y el

06:17Instituto Politécnico Nacional constantemente estamos impartiendo conferencias, charlas y

06:23talleres a los diferentes niveles de la sociedad, tanto civil, empresarial, académica, incluso

06:30instituciones de gobierno, para concientizar y prevenir acerca de estos peligros y riesgos

06:36que existen en internet y redes sociales. Entonces esa es parte de nuestra labor, la prevención es

06:42nuestra principal herramienta para disminuir el riesgo de que más personas sean víctimas de este

06:48tipo de comportamientos dañinos o en algunos casos ya de delitos tipificados como tal en la

06:55legislación. Ahora, ¿qué recomendaciones podemos hacer de manera general para disminuir el riesgo

07:01de ser víctima de este tipo de delitos o comportamientos dañinos en internet y redes

07:07sociales? La más importante es utilizar nuestro mejor antivirus que es nuestro sentido común. Es

07:13decir, si yo no me he inscrito en ningún concurso, si yo no he contratado o no tengo cuenta en banco

07:21fulanito de tal y me están llamando de ese banco, lo primero que tengo que hacer es cuestionarme a

07:27mí mismo cómo consiguieron mis datos y posteriormente cortar la comunicación, porque como bien comentas,

07:35nuestra voz puede estar siendo grabada para posteriormente generar nuevos contenidos de voz

07:43y utilizarla para cualquier fin. Entonces lo primero es utilizar nuestro sentido común,

07:49sospechar de cosas que parecen demasiado buenas para ser verdad, porque en la mayoría de los

07:55casos son fraude, no responder llamadas telefónicas de números desconocidos o sospechosos. Nos ha

08:03tocado casos en donde incluso clonan las grabaciones de los bancos. O sea, toda esa

08:08musiquita, la bienvenida del banco, todo eso se puede clonar. Entonces desconfiar. Ninguna

08:16institución bancaria o de gobierno, con excepción de algunas y derivado de que nosotros hayamos

08:24dejado información o hayamos hecho la solicitud de algún beneficio de algún programa social,

08:30no tienen por qué contactarnos para absolutamente nada y menos pedirnos datos personales o sensibles

08:38a través de medios de comunicación digital. En caso de cualquier duda, hay que asistir

08:42directamente al banco o a la institución para verificar que esta comunicación sea real.

08:48Otra de las recomendaciones muy importantes es no compartir de manera pública información que

08:55muchas veces nos parece común o inocua o simple, como una foto de mis vacaciones, la subo a Facebook,

09:03a Instagram, pero de manera pública. Es decir, cualquier persona las puede ver, sea o no sea

09:09de mi círculo de amigos que tengo agregados. Entonces con estas fotografías que pueden parecer

09:15muy inocentes, los cibercriminales pueden utilizarlas, como anteriormente comentaba,

09:20para generar un big fake, ya sea de desnudos. Si es un video, también hay herramientas para generar

09:27big fakes de video con nuestro rostro y ponerlo sobre un cuerpo desnudo o realizando algún otro

09:33tipo de acción. Ya lo vimos hace algunos meses con fotografías del Papa Francisco, de Donald Trump

09:40y de algunos otros personajes famosos que fueron editados con inteligencia artificial y que tú los

09:47ves y dices, wow, mucha gente creyó que eran fotos y videos reales de estos personajes cuando eran

09:52totalmente creados con inteligencia artificial o big fakes. Entonces hay que tener mucho cuidado

09:58con la información que compartimos de manera pública. Un llamado que yo siempre hago a papás

10:04y mamás es no publicar fotos o videos en sus estados de WhatsApp, por ejemplo, porque tenemos

10:11agregadas a muchas personas que ya ni siquiera nos acordamos quiénes son y están viendo estos

10:17fotos y videos que subimos de nuestras niñas y niños, que por muy inocentes que pudieran parecer,

10:23con esta inteligencia artificial puede tomarse esa foto y ese video y alterarla para que se presente

10:30una situación totalmente distinta. Ya tenemos casos desafortunadamente de niños, de niñas que sus

10:36fotos han sido tomadas de sus redes sociales, de sus perfiles y terminan en páginas de pornografía

10:43infantil precisamente editadas mediante inteligencia artificial. Es decir, se hicieron big fakes con

10:49sus fotografías y se está obteniendo dinero con esas fotos fraudulentas, alteradas con inteligencia

10:56artificial en páginas de pornografía infantil en el mercado negro de la Internet. Entonces hay que

11:02tener mucho cuidado con toda esta información que compartimos, fotos, videos, datos personales y

11:08también concientizar a nuestras niñas y niños sobre estos riesgos y peligros que existen en

11:13Internet y redes sociales, porque ya tenemos casos también en donde los cibercriminales amenazan

11:19mediante redes sociales como Tik Tok o Whatsapp o plataformas de videojuegos como Roblox, como Free Fire,

11:29los amenazan y los obligan a enviar información ya sea íntima, sexual de ellos o de ellas, o también

11:36datos personales y sensibles de la familia. Para que te des una idea, tenemos un caso en la ciudad

11:42de Hermosillo donde amenazan a la niña y al niño que son hermanos a través de la consola de

11:48videojuegos de Free Fire y les solicitan enviar además de fotos y videos íntimos sexuales de

11:54ellos, enviar fotografías de las tarjetas de crédito y débito de su papá y de su mamá, fotos del carro,

12:02de las placas, de la casa. Entonces con toda esta información que las niñas y niños envían a través

12:08de Internet, los criminales pueden utilizarla también para llevar a cabo fraudes, llamadas de

12:14extorsión, robos de identidad, suplantación de identidad, entre muchos otros delitos.

12:20Claro y qué preocupante y o sea este tema de pues nuestros niños por el miedo, por ellos intentar a

12:27lo mejor proteger a papá o mamá de las amenazas que pueda hacer esta persona, pues lo pueden hacer,

12:32o sea es una forma muy fácil de exponer, entonces pues por ahí como padres también a nosotros nos

12:37tocaría pues cuidar lo que nuestros niños consumen, con quienes hablan a través de Internet, de redes

12:42sociales, entonces ahora sí que verdaderamente todo un tema. Muchísimas gracias José Manuel por

12:49ayudarnos, por compartirnos estas recomendaciones y toda esta situación que se está viviendo y que

12:54muchas veces pues no lo tenemos en cuenta. Muchísimas gracias. Gracias a ti, excelente día.

12:59Excelente día también. Ahí lo escuchó fundador de Sonora Cibersegura José Manuel Acosta con las

13:06estafas con el uso de deepfakes, cómo se llevan a cabo y ya lo vio, inteligencia artificial que

13:13nos puede, así como nos puede ayudar, ya lo mencionaba, nos ayuda, agiliza nuestras tareas, entre

13:18otras cosas, pues también ahorita cómo lo están utilizando estafadores y pues sobre todo personas

13:24que se dedican a la industria de la pornografía pues a aprovechar estos recursos. Pero bien, las

13:308 de la mañana con 4 minutos, vamos a una breve pausa pero enseguida vamos a regresar, seguimos

13:35con muchísimo más, esto es Expreso veinticuatro siete. Manténgase informado y en sintonía,

13:44regresamos en un momento a Expreso veinticuatro siete.

13:58¿Cuánto cuesta estar realmente informado? ¿Conoce todo el entorno político social?

Category

Transcript

Recomendada