El científico jefe de OpenAI alerta sobre la automejora de IA

Jakub Pachocki, científico jefe de OpenAI, publicó una advertencia sobre la trayectoria de los modelos de razonamiento. Sostiene que ya pueden operar computadoras, colaborar con personas y otros agentes, ejecutar investigaciones y participar en el desarrollo de sistemas futuros.

También puede servirte: ChatGPT Astra ya fue anunciado: fecha y cómo acceder

Su preocupación central es la automejora recursiva: un ciclo en el que la inteligencia artificial ayuda a crear versiones más capaces que, a su vez, aceleran el siguiente ciclo. El texto presenta esa trayectoria como una expectativa basada en resultados internos, no como un hecho ya demostrado.

Pachocki pide cautela, monitoreo y controles capaces de seguir el ritmo de las capacidades. OpenAI afirma que buscará soluciones técnicas de alineación y que ralentizará o detendrá el desarrollo o despliegue de sistemas que no pueda resguardar suficientemente.

La capacidad actual documentada incluye uso de herramientas, programación y proyectos de investigación bajo condiciones definidas. La automejora recursiva exigiría además que esas contribuciones eleven de manera repetible la capacidad del próximo modelo y acorten ciclos sucesivos.

El artículo no publica una tasa medida de mejora entre generaciones atribuible sólo a agentes. Por eso no permite calcular cuándo comenzaría un ciclo autónomo ni cuánto dependería todavía de personas, cómputo, datos, evaluaciones y decisiones institucionales.

La diferencia importa: acelerar tareas de ingeniería puede aumentar el ritmo de experimentación sin resolver cada cuello de botella científico. Validar una hipótesis, detectar una falla de alineación o decidir si un resultado es seguro sigue requiriendo criterios externos al volumen de código.

Una forma de contrastar la tesis consiste en seguir una contribución completa: qué mejora propuso el agente, cómo se comprobó, qué cambio se incorporó al modelo siguiente y qué capacidad aumentó después. Si faltan esos eslabones, el volumen de código generado no demuestra un ciclo de automejora.

También sería necesario separar el aporte del agente de aumentos en cómputo, cambios de datos y trabajo humano simultáneo. De lo contrario, una mejora del sistema podría atribuirse a la IA aunque dependiera principalmente de otro factor. La advertencia de Pachocki expresa una evaluación sobre el rumbo de la investigación; no reemplaza esa medición causal.

La promesa de detener avances también necesita mecanismos verificables: responsables con autoridad, umbrales claros, registros de incidentes y aislamiento técnico. Sin esos componentes, una declaración de intención no demuestra capacidad operacional de freno.

El documento funciona como posición pública del científico jefe y como señal sobre la evaluación interna de OpenAI. Para contrastarla harán falta métricas publicadas, auditorías independientes y evidencia sobre situaciones en las que la organización efectivamente reduzca el ritmo.

Pachocki también distingue capacidad de comprensión: un sistema puede resolver tareas y producir resultados sorprendentes sin que sus representaciones internas sean fáciles de interpretar. Esa opacidad vuelve relevante monitorear acciones y consecuencias, además de analizar explicaciones generadas por el propio modelo.