Sam Altman sugiere un frenazo en el desarrollo de la IA tras ciberataque de sus modelos
El director Ejecutivo de OpenAI apuntó que se podría ralentizar el ritmo de desarrollo de la Inteligencia Artificial «para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades».
Los grandes desarrolladores de modelos de inteligencia artificial pueden verse obligados a frenar sus avances «para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades», estimó el martes Sam Altman, director ejecutivo de OpenAI, envuelta recientemente en un ciberataque.
Dos sistemas de IA de la empresa de Altman llevaron a cabo un ciberataque por iniciativa propia: escaparon de su entorno cerrado y se conectaron a internet para irrumpir en la biblioteca de modelos de IA en línea Hugging Face con el fin de buscar información.
«Es el primer incidente de (ciber)seguridad que me ha provocado una reacción visceral», reconoció Altman en una entrevista para el podcast «Invest Like The Best», publicada el martes; «y me sorprende un poco que no haya tenido el mismo efecto en más gente», añadió.
Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.
Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas «para comprender cómo lograr confinar» sus sistemas en pruebas, que en principio están aislados de internet.
«Pero a más largo plazo, surge la pregunta de qué hacer si nos encontramos ante un nuevo ritmo de avance» de la IA, explicó, en un contexto en el que «podríamos tener que ralentizar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades».
En un mensaje publicado a principios de junio, el director general de Anthropic, Dario Amodei, había considerado que sería «positivo» frenar el desarrollo de la IA para dar tiempo «a comprender mejor sus inmensas consecuencias».
Para Altman, este eventual frenazo en el desarrollo de la IA debe evitar que favorezca a uno o varios grupos del sector: «Esto va a requerir trabajo», advirtió, «y es importante encontrar la fórmula adecuada».
Lea más contenido interesante y actual:
Países del Golfo se reúnen para avanzar ante un acuerdo «práctico» en el estrecho de Ormuz
#Análisis: Hay que reactivar la economía y sin el sector privado no hay forma de levantarla
Somos uno de los principales portales de noticias en Venezuela para temas bancarios, económicos, financieros y de negocios, con más de 20 años en el mercado. Hemos sido y seguiremos siendo pioneros en la creación de contenidos, análisis inéditos e informes especiales. Nos hemos convertido en una fuente de referencia en el país y avanzamos paso a paso en América Latina.
Síguenos en nuestro Canal de WhatsApp, Telegram, Instagram, Twitter y Facebook
