PERITAN CELULAR Y COMPUTADORA DEL ALUMNO QUE UTILIZÓ IA PARA VENDER FOTOS DE SUS COMPAÑERAS
Un alumno de 15 años del Instituto Agustiniano en San Martín utilizó inteligencia artificial para manipular imágenes de al menos 22 compañeras, vendiéndolas por hasta 25 mil pesos. A pesar de las denuncias, el colegio no ha tomado medidas y el estudiante sigue asistiendo a clases, mientras las víctimas enfrentan miedo y vergüenza. La situación resalta la urgencia de legislar sobre el uso de IA, especialmente cuando involucra a menores.
Seguí en Alerta 24/7
Seguí en Alerta 24/7
Category
🗞
NoticiasTranscripción
00:00La primera vez que sucede, hay varios casos, varios antecedentes, pero como es algo nuevo,
00:06lógicamente que escapa a la justicia y es difícil de encuadrar, sobre todo porque involucra a menores de edad.
00:13Estamos hablando de una escuela de San Martín donde uno de sus alumnos, repito, menor de edad,
00:19utilizó imágenes robadas de Facebook de al menos 22 de sus compañeras de colegio,
00:27porque van de los 13 a los 17 años, imágenes de las chicas, claro, de las menores,
00:33vestidas, pero con el uso de la inteligencia artificial, las desnudó,
00:38la cara es la real, pero los cuerpos lógicamente son producto de la inteligencia artificial,
00:46y vendió las fotos, vendía las fotos por cifras que en PAX alcanzaban los 25 mil pesos,
00:54fue allanado, investigado desde agosto, allanado este menor,
00:58y le secuestraron todos los dispositivos legales con una salvedad.
01:03El colegio se lavó las manos, dijo esto es un hecho privado, no tenemos absolutamente nada que hacer,
01:09y resulta que el chico sigue yendo al colegio.
01:11La necesidad de legislar estos temas, porque sabemos que con inteligencia artificial
01:16hoy pueden hacer casi cualquier cosa, pero ¿qué sucede cuando meten menores?
01:20¿Qué sucede cuando ese menor de tan solo 15 años después lucra con la falsedad que había él mismo creado?
01:29Está Lu Arias trabajando en el lugar allí en San Martín, imagino revolucionado.
01:33Hola Lu, ¿cómo te va? Buenas tardes.
01:36Hola Carlos, hola Diego, exactamente, los chicos y las chicas de esta escuela
01:41están asistiendo en forma normal, porque como bien señalaba Diego,
01:44acá en el Instituto Agustiniano no han avanzado respecto a esta situación que se dio
01:51con un alumno de la escuela, con un chico de 15 años, respecto de 22 casos,
01:57ustedes decían 5, que fueron formalmente denunciados ante la justicia.
02:02Claro, esta escuela es una escuela tradicional, aquí en San Andrés, en el partido de San Martín.
02:07Lo cierto es que buena parte de las familias afectadas por esta situación
02:13están atravesando una situación no solamente en relación con el horror
02:19que significa ver a sus hijas viviendo esto, y por supuesto las primeras víctimas las propias chicas,
02:26sino también que algunas de las chicas tienen miedo o vergüenza de venir a clase.
02:31Es decir, el chico de 15 años está viniendo normalmente, obviamente es menor,
02:38y está asistiendo normalmente, y son ellas las que lamentablemente están con temor,
02:44con resquemor, con vergüenza, con pudor de venir a clases cuando son las víctimas.
02:49Es al revés.
02:50Hay que decir que quienes están trabajan...
02:52Como pasa a luz en la Argentina.
02:55Exacto, esto de un compañero, de alguien que es cercano.
02:58Exactamente, el mundo del revés, las víctimas que siguen siendo víctimas,
03:02están vulnerables, nadie las protege, el colegio que no se hace cargo,
03:06y sin embargo, corregime si no es así, Lu, el alumno que se ocupó,
03:11no solo de trucar estas imágenes, que de última puede quedar como un bullying escolar,
03:17si bien es un delito, sino que las vendió las imágenes a través de una página llamada Discord,
03:24sigue yendo a clases y además le pusieron un preceptor a modo de custodia,
03:29porque en algún momento, obviamente que estamos en contra de la justicia por mano propia,
03:34algún alumno se le abalanzó justamente para hacer eso, justicia por mano propia,
03:39porque evidentemente el colegio lo único que hizo hasta ahora es proteger al menor que trucó las fotos.
03:47Por eso es tan importante que las instituciones, en este caso una institución escolar,
03:53se hagan cargo de las situaciones que se dan en este momento,
03:57porque no fue en un club, digo, más allá de que esto haya sucedido por fuera de las aulas,
04:03tiene que ver con la convivencia y con la vivencia por parte de una comunidad educativa,
04:09con lo cual quedan descubiertas ellas, ellas quedan totalmente expuestas a esta situación
04:19y no hay nadie que las respalde más allá de sus propias familias,
04:24digo, esto se da, o sea, la institución tiene vínculo.
04:27Sin duda, Lu quería...
04:28¿Por qué? Porque el chico viene de estas escuelas y se conocen de acá.
04:31Un dato nada más que tiene que ver justamente con lo que está llevando adelante la fiscal Verónica Novoa,
04:39que cómo dio con él, dio con él a través de una billetera virtual,
04:44con este joven de 15 años dio a través de una billetera virtual,
04:48porque un propio compañero que sí efectivamente quiso ayudar a las chicas se hizo pasar por un comprador,
04:54él obtuvo el dato de la persona, de este joven, de este adolescente,
04:59que no deja de ser un adolescente, y obtuvo el dato de la billetera virtual
05:03a través del cual este chico hacía los cobros.
05:05Eso, me diste la respuesta a la pregunta que te iba a hacer,
05:08porque era interesante saber cómo había caído, ¿no?
05:11Y fíjense ustedes la maldad, por un lado, de este alumno,
05:16pero también cómo dejó los rastros, porque si usaba su propia billetera virtual
05:22con su nombre, con su documento, él hubo, al ser menor de edad, no era la cuenta de él.
05:26¿Esto se sabe?
05:29No está claro todavía, pero sí se sabe que lo rastrearon,
05:32que dieron con su identidad a propósito de este dato, Carlos.
05:37Y también es cierto que estamos en un momento, en un contexto,
05:40donde hay mucha presión por ganar dinero,
05:43donde también están dando vuelta el tema de las apuestas virtuales,
05:46digo, no tengo la menor idea de si este caso tenía algo que ver con eso,
05:50pero sí hay todo un entorno de confusión entre la realidad y la virtualidad,
05:55como si no hubiera consecuencias en la virtualidad, que efectivamente las hay,
05:59y vaya, si las hay en este caso,
06:02digo, hay toda una presión social respecto de los chicos y ganar dinero,
06:07y la necesidad de obtener dinero, dinero fácil,
06:10que lamentablemente, bueno, puede llegar a terminar en casos como este, ¿no?
06:14Si a esto se suma la utilización de métodos como la inteligencia artificial,
06:19si la plataforma no genera ningún tipo de control, todo se descontrola justamente.
06:23Y Lu, también quería decirte, porque vos has cubierto un montón de marchas
06:27que tienen que ver con el colectivo de la mujer,
06:30y en este caso, vos contaste al principio del móvil,
06:34que el avergonzado, la avergonzada termina siendo la víctima.
06:39Hay que reconfigurar esto.
06:41¿Cómo puede ser que quien es el victimario va a la escuela, lo contienen,
06:45se lo debe contener, tiene 15 años, es inimputable también.
06:49Absolutamente.
06:50Tenga en cuenta que para la ley sea esta cual fuera...
06:52Sí, y probablemente necesita también ayuda, no digo que no, ¿eh?
06:54Sin lugar a dudas.
06:55Pero termina siendo vergonzante...
06:57Para entender, digo.
06:58Claro, termina siendo vergonzante otra vez para la mujer
07:01que un compañero la exponga de esta manera, de manera encima falsa.
07:07Entonces, la escuela tiene que dar respuestas,
07:10los padres tienen que dar respuestas,
07:12y entender también que no es gratis.
07:15Han habido casos dramáticos de chicas que fueron víctimas
07:19de una exposición falsa como esta, que terminan en tragedia.
07:24No terminan solo con una persona detenida, terminan en tragedia.
07:27Hay otro caso en Bariloche, que después lo vamos a contar,
07:30que va por los mismos canales.
07:34Sí, absolutamente, terminan en tragedia,
07:36terminan en marcas que quizás no van hasta una situación irreversible,
07:41pero que sí quedan esas marcas, esas improntas,
07:44en la vida de adolescentes.
07:46Porque, digo, imaginemos que si a una persona adulta
07:49esto le genera un trastorno, una dificultad,
07:53bueno, un momento de lo más desagradable en la vida,
07:59para un adolescente que está construyendo su identidad,
08:01que está construyendo sus herramientas emocionales,
08:04es muy serio, es muy serio.
08:06Y para toda la familia que tiene que ayudarla,
08:09que tiene que apoyarla justamente a atravesar esta situación,
08:13también es muy serio si no tienen herramientas.
08:15Claro, si bien el menor, hay que decirlo...
08:17Y alguna institución se las tiene que dar.
08:18Si bien el menor, Lu, hay que decirlo, es inimputable,
08:21hay una causa que está a cargo de la Fiscalía de Responsabilidad Juvenil
08:26y hay un encuadre legal para esto,
08:29es producción y comercialización de representaciones de menores
08:34de 18 años dedicadas a actividades sexuales.
08:40Básicamente lo que este pibe hizo es sacar fotos de Facebook
08:46de sus compañeras, de chicas de otros cursos del colegio,
08:50todas menores de edad, de los 13 a los 17 años,
08:54usar la inteligencia artificial para ponerles cuerpos desnudos,
08:59que no eran sus cuerpos, reiteramos,
09:02y compartirlos en una página llamada Discord,
09:06donde había una pestaña llamada Colegiales
09:09y en ese lugar lo que hacía era vender packs.
09:13Es muy usada esta plataforma para hablar entre adolescentes.
09:17Es como un...
09:19Foro.
09:20Claro, un foro, como un Telegram, como un WhatsApp,
09:23donde pueden armar comunidades, hablarse entre ellos.
09:27Se utiliza mucho en los juegos online para estar constantemente conectados,
09:31al límite siempre.
09:33Por eso es que es importantísimo legislar en nuestro país,
09:37que estamos más que atrasados en todo lo que tiene que ver con legislación
09:41vinculada a las tecnologías y a las ciencias de la comunicación moderna
09:45de las tecnologías, porque termina pasando una cosa como esta
09:49y la justicia no tiene ni idea.
09:51No sabe cómo contestar.