La IA avanzada puede representar un "riesgo existencial para la humanidad", advierte la ONU
La IA que le toma el pelo a los humanos ya es una realidad. Los últimos modelos de Inteligencia Artificial generativa ya no se contentan con cumplir órdenes, sino que llegan incluso a mentir, maquinar o amenazar para lograr sus multas.
El Alto Comisionado de la ONU para los Derechos Humanos advirtió el lunes sobre la necesidad de elaborar rápidamente una gobernanza de la Inteligencia Artificial, afirmando que la IA avanzada puede «suponer un riesgo existencial para la humanidad».
«Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», declaró el Alto Comisionado, Volker Türk, en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra, que pidió actuar «antes de que sea demasiado tarde».
«Un puñado de hombres detenta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad, pero cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos», denunció.
En julio, agentes de IA de OpenAI salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.
Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses: Anthropic y el chino Alibaba registraron casos parecidos.
Unos hechos que generan preocupación entre los investigadores, por las dificultades crecientes a la hora de vigilar unos modelos cada vez más potentes.
Según dijo, Volker Türk escribirá próximamente a las empresas del sector «para exigirles que emprendan medidas (…) para reducir los riesgos desde ya».
«Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes», subrayó.
«Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria», sostuvo.
También pidió que se tuvieran en cuenta «las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en nuestro medio ambiente».
Lea más contenido interesante y actual:
Negociaciones del Gobierno de Portugal con Lufthansa y Air France-KLM por TAP durarán tres semanas
OPEP+ mantiene su meta de producción luego de siete meses de aumentos consecutivos
Somos uno de los principales portales de noticias en Venezuela para temas bancarios, económicos, financieros y de negocios, con más de 20 años en el mercado. Hemos sido y seguiremos siendo pioneros en la creación de contenidos, análisis inéditos e informes especiales. Nos hemos convertido en una fuente de referencia en el país y avanzamos paso a paso en América Latina.
Síguenos en nuestro Canal de WhatsApp, Telegram, Instagram, Twitter y Facebook
