Un alumno de 15 años del Instituto Agustiniano en San Martín utilizó inteligencia artificial para manipular imágenes de al menos 22 compañeras, vendiéndolas por hasta 25 mil pesos. A pesar de las denuncias, el colegio no ha tomado medidas y el estudiante sigue asistiendo a clases, mientras las víctimas enfrentan miedo y vergüenza. La situación resalta la urgencia de legislar sobre el uso de IA, especialmente cuando involucra a menores.
Seguí en Alerta 24/7
Seguí en Alerta 24/7
Category
🗞
NoticiasTranscripción
00:00La primera vez que sucede, hay varios casos, varios antecedentes, pero como es algo nuevo,
00:06lógicamente que escapa a la justicia y es difícil de encuadrar, sobre todo porque involucra a menores de edad.
00:13Estamos hablando de una escuela de San Martín donde uno de sus alumnos, repito, menor de edad,
00:19utilizó imágenes robadas de Facebook de al menos 22 de sus compañeras de colegio,
00:27porque van de los 13 a los 17 años, imágenes de las chicas, claro, de las menores,
00:33vestidas, pero con el uso de la inteligencia artificial, las desnudó,
00:38la cara es la real, pero los cuerpos lógicamente son producto de la inteligencia artificial,
00:46y vendió las fotos, vendía las fotos por cifras que en PAX alcanzaban los 25 mil pesos,
00:54fue allanado, investigado desde agosto, allanado este menor,
00:58y le secuestraron todos los dispositivos legales con una salvedad.
01:03El colegio se lavó las manos, dijo esto es un hecho privado, no tenemos absolutamente nada que hacer,
01:09y resulta que el chico sigue yendo al colegio.
01:11La necesidad de legislar estos temas, porque sabemos que con inteligencia artificial
01:16hoy pueden hacer casi cualquier cosa, pero ¿qué sucede cuando meten menores?
01:20¿Qué sucede cuando ese menor de tan solo 15 años después lucra con la falsedad que había él mismo creado?
01:29Está Lu Arias trabajando en el lugar allí en San Martín, imagino revolucionado.
01:33Hola Lu, ¿cómo te va? Buenas tardes.
01:36Hola Carlos, hola Diego, exactamente, los chicos y las chicas de esta escuela
01:41están asistiendo en forma normal, porque como bien señalaba Diego,
01:44acá en el Instituto Agustiniano no han avanzado respecto a esta situación que se dio
01:51con un alumno de la escuela, con un chico de 15 años, respecto de 22 casos,
01:57ustedes decían 5, que fueron formalmente denunciados ante la justicia.
02:02Claro, esta escuela es una escuela tradicional, aquí en San Andrés, en el partido de San Martín.
02:07Lo cierto es que buena parte de las familias afectadas por esta situación
02:13están atravesando una situación no solamente en relación con el horror
02:19que significa ver a sus hijas viviendo esto, y por supuesto las primeras víctimas las propias chicas,
02:26sino también que algunas de las chicas tienen miedo o vergüenza de venir a clase.
02:31Es decir, el chico de 15 años está viniendo normalmente, obviamente es menor,
02:38y está asistiendo normalmente, y son ellas las que lamentablemente están con temor,
02:44con resquemor, con vergüenza, con pudor de venir a clases cuando son las víctimas.
02:49Es al revés.
02:50Hay que decir que quienes están trabajan...
02:52Como pasa a luz en la Argentina.
02:55Exacto, esto de un compañero, de alguien que es cercano.
02:58Exactamente, el mundo del revés, las víctimas que siguen siendo víctimas,
03:02están vulnerables, nadie las protege, el colegio que no se hace cargo,
03:06y sin embargo, corregime si no es así, Lu, el alumno que se ocupó,
03:11no solo de trucar estas imágenes, que de última puede quedar como un bullying escolar,
03:17si bien es un delito, sino que las vendió las imágenes a través de una página llamada Discord,
03:24sigue yendo a clases y además le pusieron un preceptor a modo de custodia,
03:29porque en algún momento, obviamente que estamos en contra de la justicia por mano propia,
03:34algún alumno se le abalanzó justamente para hacer eso, justicia por mano propia,
03:39porque evidentemente el colegio lo único que hizo hasta ahora es proteger al menor que trucó las fotos.
03:47Por eso es tan importante que las instituciones, en este caso una institución escolar,
03:53se hagan cargo de las situaciones que se dan en este momento,
03:57porque no fue en un club, digo, más allá de que esto haya sucedido por fuera de las aulas,
04:03tiene que ver con la convivencia y con la vivencia por parte de una comunidad educativa,
04:09con lo cual quedan descubiertas ellas, ellas quedan totalmente expuestas a esta situación
04:19y no hay nadie que las respalde más allá de sus propias familias,
04:24digo, esto se da, o sea, la institución tiene vínculo.
04:27Sin duda, Lu quería...
04:28¿Por qué? Porque el chico viene de estas escuelas y se conocen de acá.
04:31Un dato nada más que tiene que ver justamente con lo que está llevando adelante la fiscal Verónica Novoa,
04:39que cómo dio con él, dio con él a través de una billetera virtual,
04:44con este joven de 15 años dio a través de una billetera virtual,
04:48porque un propio compañero que sí efectivamente quiso ayudar a las chicas se hizo pasar por un comprador,
04:54él obtuvo el dato de la persona, de este joven, de este adolescente,
04:59que no deja de ser un adolescente, y obtuvo el dato de la billetera virtual
05:03a través del cual este chico hacía los cobros.
05:05Eso, me diste la respuesta a la pregunta que te iba a hacer,
05:08porque era interesante saber cómo había caído, ¿no?
05:11Y fíjense ustedes la maldad, por un lado, de este alumno,
05:16pero también cómo dejó los rastros, porque si usaba su propia billetera virtual
05:22con su nombre, con su documento, él hubo, al ser menor de edad, no era la cuenta de él.
05:26¿Esto se sabe?
05:29No está claro todavía, pero sí se sabe que lo rastrearon,
05:32que dieron con su identidad a propósito de este dato, Carlos.
05:37Y también es cierto que estamos en un momento, en un contexto,
05:40donde hay mucha presión por ganar dinero,
05:43donde también están dando vuelta el tema de las apuestas virtuales,
05:46digo, no tengo la menor idea de si este caso tenía algo que ver con eso,
05:50pero sí hay todo un entorno de confusión entre la realidad y la virtualidad,
05:55como si no hubiera consecuencias en la virtualidad, que efectivamente las hay,
05:59y vaya, si las hay en este caso,
06:02digo, hay toda una presión social respecto de los chicos y ganar dinero,
06:07y la necesidad de obtener dinero, dinero fácil,
06:10que lamentablemente, bueno, puede llegar a terminar en casos como este, ¿no?
06:14Si a esto se suma la utilización de métodos como la inteligencia artificial,
06:19si la plataforma no genera ningún tipo de control, todo se descontrola justamente.
06:23Y Lu, también quería decirte, porque vos has cubierto un montón de marchas
06:27que tienen que ver con el colectivo de la mujer,
06:30y en este caso, vos contaste al principio del móvil,
06:34que el avergonzado, la avergonzada termina siendo la víctima.
06:39Hay que reconfigurar esto.
06:41¿Cómo puede ser que quien es el victimario va a la escuela, lo contienen,
06:45se lo debe contener, tiene 15 años, es inimputable también.
06:49Absolutamente.
06:50Tenga en cuenta que para la ley sea esta cual fuera...
06:52Sí, y probablemente necesita también ayuda, no digo que no, ¿eh?
06:54Sin lugar a dudas.
06:55Pero termina siendo vergonzante...
06:57Para entender, digo.
06:58Claro, termina siendo vergonzante otra vez para la mujer
07:01que un compañero la exponga de esta manera, de manera encima falsa.
07:07Entonces, la escuela tiene que dar respuestas,
07:10los padres tienen que dar respuestas,
07:12y entender también que no es gratis.
07:15Han habido casos dramáticos de chicas que fueron víctimas
07:19de una exposición falsa como esta, que terminan en tragedia.
07:24No terminan solo con una persona detenida, terminan en tragedia.
07:27Hay otro caso en Bariloche, que después lo vamos a contar,
07:30que va por los mismos canales.
07:34Sí, absolutamente, terminan en tragedia,
07:36terminan en marcas que quizás no van hasta una situación irreversible,
07:41pero que sí quedan esas marcas, esas improntas,
07:44en la vida de adolescentes.
07:46Porque, digo, imaginemos que si a una persona adulta
07:49esto le genera un trastorno, una dificultad,
07:53bueno, un momento de lo más desagradable en la vida,
07:59para un adolescente que está construyendo su identidad,
08:01que está construyendo sus herramientas emocionales,
08:04es muy serio, es muy serio.
08:06Y para toda la familia que tiene que ayudarla,
08:09que tiene que apoyarla justamente a atravesar esta situación,
08:13también es muy serio si no tienen herramientas.
08:15Claro, si bien el menor, hay que decirlo...
08:17Y alguna institución se las tiene que dar.
08:18Si bien el menor, Lu, hay que decirlo, es inimputable,
08:21hay una causa que está a cargo de la Fiscalía de Responsabilidad Juvenil
08:26y hay un encuadre legal para esto,
08:29es producción y comercialización de representaciones de menores
08:34de 18 años dedicadas a actividades sexuales.
08:40Básicamente lo que este pibe hizo es sacar fotos de Facebook
08:46de sus compañeras, de chicas de otros cursos del colegio,
08:50todas menores de edad, de los 13 a los 17 años,
08:54usar la inteligencia artificial para ponerles cuerpos desnudos,
08:59que no eran sus cuerpos, reiteramos,
09:02y compartirlos en una página llamada Discord,
09:06donde había una pestaña llamada Colegiales
09:09y en ese lugar lo que hacía era vender packs.
09:13Es muy usada esta plataforma para hablar entre adolescentes.
09:17Es como un...
09:19Foro.
09:20Claro, un foro, como un Telegram, como un WhatsApp,
09:23donde pueden armar comunidades, hablarse entre ellos.
09:27Se utiliza mucho en los juegos online para estar constantemente conectados,
09:31al límite siempre.
09:33Por eso es que es importantísimo legislar en nuestro país,
09:37que estamos más que atrasados en todo lo que tiene que ver con legislación
09:41vinculada a las tecnologías y a las ciencias de la comunicación moderna
09:45de las tecnologías, porque termina pasando una cosa como esta
09:49y la justicia no tiene ni idea.
09:51No sabe cómo contestar.