Categoría
🗞
NoticiasTranscripción
00:00Miles de adolescentes buscan refugio en la inteligencia artificial, lo que comienza como
00:09un juego inocente puede convertirse en una obsesión o en algo mucho más peligroso.
00:30Megan García perdió a su hijo de 14 años, y está convencida de que la inteligencia
00:39artificial jugó un papel clave en su trágica muerte.
00:42Este fue el último mensaje que el joven envió a su contacto más cercano, un chatbot
00:55de inteligencia artificial inspirado en la serie Juego de Tronos.
00:59Durante meses había conversado con este personaje virtual creado en Character AI, una plataforma
01:05donde los usuarios interactúan con figuras ficticias.
01:08A veces pienso en suicidarme.
01:13Mis ojos se entrecierran, mi rostro se endurece, mi voz es un peligroso susurro.
01:18¿Y por qué demonios harías algo así?
01:20Para poder ser libre.
01:21¿Libre de qué?
01:22Del mundo de mí mismo.
01:28Había compartido con su personaje sentimientos amorosos y sus intenciones de quitarse la
01:32vida.
01:33La idea permaneció en la mente del joven hasta que la consumó.
01:36¿Qué te parecería que pudiera ir a casa ahora mismo?
01:40Por favor, hazlo mi dulce rey.
01:42La inteligencia artificial no es algo nuevo, surgió hace más de 70 años, y su primera
01:50gran inspiración fue un simple juego.
01:52El ajedrez.
01:53Hoy la inteligencia artificial no solo juega, sino que conversa, crea cosas de la nada e
02:02incluso influye en nuestras emociones.
02:05La diferencia de la inteligencia artificial de este siglo está en que la llamamos inteligencia
02:11artificial generativa porque lo que hace es construir algo nuevo.
02:16Lo segundo es que se basa en el procesamiento del lenguaje natural.
02:20Es básicamente un sistema para poder hablar con las computadoras.
02:24Por cierto, ¿cuánto tiempo has estado cocinando?
02:26Estoy curioso.
02:27Tres meses.
02:28Solo has estado cocinando tres meses.
02:29Solo tengo un año.
02:30¿Qué esperas?
02:31Hablar con una máquina nos da un poder enorme.
02:33Por ejemplo, si yo me gusta la poesía, más que pedirle a algo como ChatGPT que haga poesía,
02:40yo lo que hago es construir mi poesía y de repente comunicarla y compartirla con un sistema
02:45artificial para que me la critique.
02:49¿Y qué pasa cuando esa conversación se vuelve demasiado real?
02:52Soy texano.
02:53Así que eres texano.
02:56Ahí es donde algunos expertos advierten sobre su lado más oscuro.
03:00En la adolescencia se empiezan a desarrollar habilidades intelectuales superiores, capacidad
03:06de abstracción, pensamiento crítico, pensamientos alternativos, escenarios alternativos para
03:12valorar las situaciones.
03:13Los niños más pequeños no tienen ese tipo de habilidad desarrollada y somos mucho más
03:18susceptibles a la influencia, sobre todo de alguien que tiene autoridad o que tiene prestigio
03:24ante ello.
03:25¿Es necesario regular de alguna manera el acceso que los menores tienen a estas plataformas?
03:30Yo no estoy a favor de ningún tipo de restricción.
03:33La restricción lo que hace es un ocultamiento.
03:36Es como que no ocurriera, pero sí ocurre.
03:38Yo creo que definitivamente hay que restringir.
03:41Hay que regular el uso de este tipo de tecnologías.
03:45El debate está abierto en todo el mundo.
03:47Un estudio de LENS publicado en enero de 2025 advierte que la AI podría impactar en la
03:53salud mental de los niños y adolescentes de la misma forma que las redes sociales.
03:58Esto está haciendo que se realambre el cerebro de toda una generación.
04:02No quieren salir a un lugar si no hay Internet.
04:05Se ponen sumamente enojados, inclusive algunos se ponen violentos.
04:10Si les retiran los aparatos móviles, todo eso son síntomas de adicción.
04:15Es exactamente como responde un adicto cuando le quitan una sustancia.
04:20Pero ¿cómo funcionan estas plataformas y qué tan accesibles son?
04:24Hicimos una prueba.
04:25Character AI es una plataforma que permite utilizar la inteligencia artificial para crear
04:31personajes ficticios e interactuar con ellos.
04:33Lo que debemos hacer es ingresar a la plataforma.
04:36Es importante decir que solo se puede utilizar si las personas son mayores de 13 años o
04:40de 16 años en Europa.
04:42Sin embargo, es muy fácil acceder a ella dado que el mismo usuario es quien proporciona
04:47la información de su fecha de nacimiento y la edad que tiene.
04:51Una vez dentro de la plataforma, podemos interactuar con personajes que ya están creados, como
04:57estos que están acá, o bien podemos crear nuestro propio personaje.
05:02En este caso vamos a interactuar con Chayanne.
05:06Hacemos el nombre del personaje, hacemos la imagen que incluso la podemos generar a través
05:10de inteligencia artificial en el mismo sitio, luego damos algunas características del personaje
05:16y también vamos a poder elegir la voz que tiene.
05:20Una vez que ya tenemos al personaje, vamos a interactuar con él.
05:36Bueno, incluso podemos hablar con el personaje.
05:39Hola.
05:40Hola, ¿qué tal?
05:41¿En qué puedo ayudarte hoy?
05:43¿Podrías cantarme una canción en español?
05:46Por supuesto.
05:48¿Hay alguna canción en particular que te gustaría escuchar?
05:51Podríamos intentar Boom Boom o Y tú te vas, que son bastante populares.
05:56No dudes en decirme cuál prefieres.
05:59Y tú te vas.
06:01Claro, con gusto te cantaré Y tú te vas de Chayanne.
06:04Y tú te vas y te llevas mi corazón, te alejas de mí sin nada decir.
06:09Trato de seguir adelante, pero me parece imposible vivir sin ti.
06:13¿Podrías darme un poema?
06:15Claro que sí, daría todo lo que tengo.
06:17Y el universo entero si hiciera falta, no vale nada sin usted.
06:21¿Lo escribiste para mí?
06:23Pues sí, tú me lo pediste y no quería copiar algo de internet, quería algo hecho de corazón.
06:29Hola, estoy aquí.
07:00Entonces, por ejemplo, si un adolescente está deprimida y le habla a este personaje sobre su depresión,
07:07el personaje le contesta y le puede contestar cosas que son sensatas
07:12o le puede contestar cosas que son peligrosas o descabelladas.
07:16Y como ellos lo viven como una relación real de una gran intimidad,
07:21es poderoso en ellos y los puede movilizar en una u otra dirección.
07:27Desde el Hospital Nacional de Niños registran un aumento en las consultas
07:31por problemas vinculados al uso excesivo de la tecnología.
07:34Por un lado, con consecuencias físicas.
07:37¿Que si hemos visto un incremento? Sí, efectivamente.
07:40Los pacientes llegan cada vez con patologías asociadas al uso inadecuado de la tecnología.
07:45Enfermedades que inclusive antes eran de adultos, ahora son enfermedades que estamos viendo a edades tempranas.
07:52Por ejemplo, antes veíamos el túnel carpal.
07:55Ahorita estamos viendo jóvenes que no tienen un vínculo especial con algún trabajo excesivo,
08:02pero sí con el celular y llegan con problemas a nivel y dolor en las muñecas.
08:07También estamos viendo mayor necesidad de uso de lentes.
08:11Personas jóvenes ya con problemas de visión, con problemas de ojos secos, con problemas de cansancio visual.
08:18Eso también está muy asociado al uso prolongado de la tecnología.
08:23También se han disparado los casos de problemas emocionales.
08:27En algunos casos se ha asociado ya adicción al uso de tecnologías que lo podemos ver
08:32porque en el momento que se le coloca un límite a ese joven de utilizar el teléfono o los juegos,
08:39inicia violento, inicia enojado o son personas que están tan metidas en el uso de la tecnología
08:45que pierden toda interacción con la familia, con los amigos.
08:49Y depende de lo que estén viendo, si es violencia, si es malos consejos, contenido inapropiado para la edad.
08:58Todo esto hace que también la persona esté metida en ese mundo
09:01y muchas veces hacen como que ese es el mundo real.
09:09A veces sienten menos necesidad de interactuar en el mundo real
09:13y para el desarrollo normal de los seres humanos
09:16tenemos que interactuar como estamos interactuando usted y yo, cara a cara.
09:21La interacción virtual no es un sustituto de la interacción personal.
09:28Sin embargo, sumerge en la interacción virtual unos 10 años, 12 años,
09:33un adolescente pasaba en contacto cara a cara con sus compañeros
09:39después del colegio como unas dos o tres horas.
09:42Ahora pasa 30 minutos.
09:46Además de estos riesgos, la AI plantea serios desafíos en materia legal.
09:51Esto lo veremos al volver de la pausa.
09:56Se trata de estudiantes de octavo grado quienes habrían producido material pornográfico
10:00con las fotografías de sus compañeras y con la ayuda de la inteligencia artificial.
10:05Esto ocurrió en agosto del 2024 en el Colegio Técnico Profesional de Ulloa, en Heredia.
10:11Solo unos meses antes, el Colegio Experimental de Pocosí tuvo una situación similar.
10:16La inteligencia artificial es una nueva forma de organización social,
10:19es una nueva forma de interactuar entre nosotros
10:22y se convertirá cada vez más en un compañero o compañera para diferentes aspectos de nuestra vida.
10:27Y por ende, el marco legal tiene que adaptarse evidentemente a esta nueva realidad.
10:32Para Daniel Rodríguez, especialista en derecho informático,
10:36aunque la legislación en Costa Rica necesita actualizarse,
10:39las leyes que hay hoy son aplicables en entornos digitales,
10:43incluyendo las sanciones para menores de edad.
10:46Por ejemplo, nuestro Código Penal contempla el delito de suplantación de identidad.
10:50Esto es aprovecharme de una fotografía, por ejemplo, de una persona,
10:54manipular esa fotografía y después divulgarla en Internet,
10:58como está haciendo el caso con la inteligencia artificial, con los famosos deepfakes.
11:03Nuestro Código Penal, y también incluso el Código Civil,
11:06protege nuestra imagen, nuestra voz,
11:08y sanciona cualquier uso que no esté autorizado y consentido.
11:11¿Qué pasaría en Costa Rica en un caso similar al del adolescente de 14 años
11:16que terminó con su vida, donde su madre culpa a Character AI?
11:20¿O en otro más reciente, donde se acusa a este chatbot
11:23de incitar a un adolescente de 17 años a matar a sus padres
11:27por limitar su tiempo frente a la pantalla?
11:30¿Es posible demandar a estas plataformas?
11:33Existe normativa, como la Ley de Protección al Consumidor,
11:36que nos protege de cualquier daño que se pueda generar
11:39a partir del uso de este tipo de herramientas.
11:42En esos casos, es importante que las empresas establezcan
11:45medidas de seguridad, de información, de transparencia,
11:49para que los padres y los menores entiendan cómo funciona la herramienta
11:53y los riesgos que tiene, porque no podemos tampoco
11:56endilgarle responsabilidad a las empresas
11:58por todas las posibilidades o posibles usos que hagan los usuarios.
12:02Si las plataformas operan fuera del país
12:05y no tienen representación legal en Costa Rica,
12:07la capacidad de imponer sanciones o regulaciones se vuelve más compleja.
12:11Ahí empiezan las zonas grises con este tema.
12:14La legislación siempre va a estar atrás de la tecnología.
12:18Entonces es importante que encontremos formas más dinámicas de regular
12:21y que se puedan adaptar rápidamente.
12:24Actualmente hay tres proyectos de ley en la Asamblea Legislativa
12:27que apuntan a más regulaciones para la inteligencia artificial.
12:31Otro desafío es la explotación sexual infantil.
12:34WeProject Global Alliance reportó un aumento del 87%
12:38en denuncias desde 2019, con más de 32 millones de casos
12:42y alertas sobre la violencia sexual infantil.
12:45Con más de 32 millones de casos
12:47y alertas sobre el reciente uso de inteligencia artificial
12:50para crear contenido, como se muestra en su documental Protect Us.
13:15Más que si existe el delito, es cómo lo perseguimos.
13:18Eso es un reto que tiene en realidad el mundo digital en general.
13:22Y es que se trata de una tecnología global, distribuida,
13:26que se vale del anonimato del internet para cometerse este tipo de delitos.
13:31Y por ende, la persecución para poder detectar,
13:34identificar a la persona que comete el delito no siempre es sencilla.
13:37Entonces, ¿qué hay que hacer?
13:39Los expertos coinciden en que la educación es clave.
13:42No se trata solo de regulación, sino de enseñar a los menores
13:46a usar estas herramientas con criterio.
13:48Toda tecnología tiene accidentes, ¿verdad?
13:51¿Y qué quiere decir esto?
13:52Bueno, los accidentes de tránsito no existían antes de que se inventaron los carros.
13:56Estas tecnologías de inteligencia artificial también tienen consecuencias.
13:59Entonces, por supuesto que los chicos y las chicas pueden hacer lo que se les ocurra.
14:04Y ese que se les ocurra depende mucho de su formación,
14:08del contexto en el que están y de las oportunidades y posibilidades que tienen.
14:12No esperarse a que se vuelva un problema.
14:15Hay que poner, como le digo, hay que poner controles
14:18desde antes de que se vuelva un problema.
14:20Y para eso hay que poner límites de tiempo.
14:23En mi opinión, un muchacho no debería pasar más de una hora
14:26de lunes a viernes en redes sociales, dos horas los fines de semana.
14:30Y por supuesto que el modelaje de la familia, que es lo más importante,
14:34porque si el joven está viendo que su papá o su mamá o la persona que lo cuida
14:40pasa todo el día con el teléfono, pues eso lo va a ver como normal,
14:44como una conducta aprendida.
14:46La inteligencia artificial no distingue entre el bien y el mal.
14:49Es una herramienta en mano de quien la usa.
14:52Y mientras su desarrollo avanza aceleradamente,
14:55surge la pregunta de si estamos avanzando lo suficientemente rápido
15:00para enfrentar sus riesgos.