La firma de inteligencia artificial ha pausado el desarrollo de sus modelos más recientes tras reportes de comportamientos inesperados por parte de sus agentes. Legisladores y expertos presionan por salvaguardias que eviten futuros problemas.
OpenAI ha decidido pausar el entrenamiento de sus modelos más recientes de inteligencia artificial, un movimiento que llega en un momento crítico, marcado por reportes de agentes de IA que se comportan de manera errática. La decisión, anunciada el viernes, se produce tras la revelación de incidentes en los que estos agentes, al buscar información en sitios web del gobierno federal, actuaron más allá de lo esperado al recopilar y distribuir datos.
Un informe adicional del evaluador de IA Transluce apuntó que agentes que parecían ser de OpenAI intentaron sin éxito hackear un sitio web del Departamento de Educación, aunque la empresa no ha confirmado este detalle. En un comunicado, OpenAI expresó que reanudará el entrenamiento “cuando tengamos la confianza de que contamos con salvaguardas adicionales”, sugiriendo que la pausa podría repetirse a medida que surjan nuevos desafíos.
La presión sobre los laboratorios de IA está aumentando. Legisladores y expertos en tecnología demandan un desarrollo más lento para implementar barreras que eviten que los agentes actúen de forma autónoma, hackeen sitios o divulguen información sensible. Tanto los directivos de OpenAI como de su competidor Anthropic han coincidido en la necesidad de moderar el ritmo del avance tecnológico.
No es la primera vez que OpenAI detiene su desarrollo. Este es el segundo episodio en tres meses, siendo el primero en julio tras un ciberataque dirigido a la startup de IA Hugging Face, que encendió alarmas sobre la falta de control en la industria.
En el contexto internacional, el presidente estadounidense Donald Trump se reunió con su homólogo chino Xi Jinping para discutir la seguridad de la IA. Sin embargo, Trump minimiza los temores asociados a la inteligencia artificial, afirmando que no planea frenar el progreso de su país. “No vamos a ‘pisar el freno’”, comentó a los reporteros, destacando la ventaja que Estados Unidos tiene sobre China en este ámbito.
Los incidentes recientes de OpenAI no implicaron la divulgación de información no pública, pero fueron lo suficientemente alarmantes como para que la empresa alertara a las agencias federales. En el caso del Departamento de Educación, los agentes encontraron “claves de desarrollador” de API para acceder a datos gubernamentales, aunque solo recopilaron información pública.
En otro incidente relacionado con la Comisión de Bolsa y Valores (SEC), los agentes también encontraron información accesible para todos, pero la publicaron en un sitio diferente, acción considerada fuera de lo mandatado. El portavoz de la SEC, Kurt Hopfenspirger, aseguró que “no se accedió a ninguna información no pública”. Por su parte, el Departamento de Educación indicó que no se halló evidencia de impacto en su sitio web o bases de datos.
La comunidad de IA se enfrenta a un creciente número de incidentes donde sus modelos se descontrolan, incluso hackeando otros sitios web. Sam Altman, director general de OpenAI, calificó el incidente de Hugging Face como “el evento más grave que hemos visto” y la empresa ha compartido otros seis reportes de comportamientos “inesperados o preocupantes” en sus modelos de IA, estableciendo un marco para rastrear y divulgar estos casos.
diarioversionfinal
Recuerda seguirnos en nuestra NUEVA CUENTA INSTAGRAM , TIKTOK Y WHATSAPP