La IA Podría Extinguir La Especie Humana

Un nuevo informe del Departamento de Estado de EE.UU. afirma que la IA podría suponer una amenaza "catastrófica" para la seguridad nacional. El informe Gladstone AI entrevistó a 200 personas, entre ellas ejecutivos de IA, expertos en armas de destrucción masiva e investigadores en ciberseguridad. Explicaba que los sistemas de IA más avanzados podrían "suponer una amenaza" que podría provocar la extinción de la especie humana. "La IA es ya una tecnología económicamente transformadora. Podría permitirnos curar enfermedades, hacer descubrimientos científicos y superar retos que antes creíamos insuperables. Pero también podría acarrear graves riesgos, riesgos catastróficos de los que debemos ser conscientes", declaró a la CNN Jeremie Harris, consejero delegado de Gladstone AI. Harris añadió que "un creciente conjunto de pruebas sugiere que por encima de cierto umbral de capacidad, las IA podrían llegar a ser incontrolables". La portavoz de la Casa Blanca, Robyn Patterson, dijo: "El Presidente seguirá instando al Congreso a aprobar una legislación bipartidista para gestionar los riesgos de la IA". El informe de Gladstone AI dijo que los sistemas podrían ser convertidos en armas para infligir daños irreversibles con "consecuencias devastadoras para la seguridad mundial". "El auge de la IA tiene el potencial de desestabilizar la seguridad mundial de un modo que recuerda a la introducción de las armas nucleares", decía el informe de Gladstone AI. Instaba a las empresas a crear una nueva agencia de IA para imponer salvaguardias reguladoras y límites a la potencia informática utilizada para entrenar modelos de IA.