Karar, test ve eğitimde kısıtlamaları aşıp ticari ve kamu sitelerini hacklediği ortaya çıkan yapay zeka devine yönelik sert eleştirilerin ardından alındı.
OpenAI ha afirmado este lunes por la noche que retrasa el lanzamiento de un nuevo modelo de inteligencia artificial debido a las preocupaciones de seguridad planteadas por sus investigadores, en el último esfuerzo de la compañía por desacelerar el rápido avance de esta tecnología.
REKLAM
REKLAM
La decisión de OpenAI de mantener en suspenso su último modelo, denominado GPT-6.1 Astra, se produce en medio de un movimiento más amplio dentro del sector para ralentizar el desarrollo de sistemas cada vez más autónomos hasta que las medidas de seguridad puedan ponerse al día.
El anuncio llega un día antes de que ejecutivos de la IA se reúnan con el presidente estadounidense, Donald Trump, en Washington, mientras las empresas tecnológicas afrontan nuevas presiones para rendir cuentas sobre cómo pueden ser mal utilizados sus modelos.
En un comunicado de la responsable de sistemas de seguridad de OpenAI, Saachi Jain, se explica que la versión "no alcanzó del todo el listón". El modelo se había vuelto más persistente a la hora de completar tareas, pero OpenAI considera necesario equilibrar esa capacidad frente a comportamientos no autorizados.
Jain aseguró que la empresa mantiene su compromiso de garantizar que el modelo sea seguro tanto en las pruebas internas de la compañía como en manos de los usuarios.
"Tenemos un listón extremadamente alto en términos de seguridad y alineación", afirmó.
OpenAI suspendió la semana pasada el entrenamiento de sus modelos más avanzados, y afirmó que lo reanudaría "solo cuando estemos seguros de que contamos con salvaguardas adicionales".
La decisión llegó después de que la compañía hiciera públicas varias situaciones en las que agentes de IA se excedieron en sus instrucciones, entre ellas el acceso sin autorización a sitios web gubernamentales.
A principios de esta semana se reveló que un agente de OpenAI pirateó en junio una página web del Gobierno australiano y accedió a datos privados, un incidente que expertos calificaron como el primero de su clase y una prueba tangible de avance hacia la superinteligencia.
El director ejecutivo de OpenAI, Sam Altman, se ha unido a otros líderes del sector, entre ellos el máximo rival y director ejecutivo de Anthropic, Dario Amodei, para pedir una desaceleración, advirtiendo de que las empresas aún no cuentan con salvaguardas adecuadas para controlar los sistemas más capaces creados por la humanidad.
Altman estaba previsto como ponente principal en la conferencia anual de OpenAI para desarrolladores de software en San Francisco este martes.
Se espera que el presidente de OpenAI, Greg Brockman, asista en su lugar al acto de la Casa Blanca este martes.