- El CEO de Openai, Sam Altman, dijo que las pruebas GPT-5 lo dejó asustado en una entrevista reciente
- Comparó GPT-5 con el Proyecto Manhattan
- Advirtió que el rápido avance de la IA está sucediendo sin suficiente supervisión
El jefe de Operai, Sam Altman, ha pintado un retrato de GPT – 5 que se lee más como un thriller que un lanzamiento de productos. En un episodio reciente del pasado fin de semana con el podcast Theo Von, describió la experiencia de probar el modelo en tonos sin aliento que evocan más escepticismo que cualquier alarma que pareciera querer que los oyentes escuchen.
Altman dijo que GPT-5 “se siente muy rápido”, mientras relato momentos en los que se sintió muy nervioso. A pesar de ser la fuerza impulsora detrás del desarrollo de GPT-5, Altman afirmó que durante algunas sesiones, miró a GPT-5 y lo comparó con el Proyecto Manhattan.
Altman también emitió una acusación abrasadora de gobernanza de IA actual, lo que sugiere “no hay adultos en la sala” y que las estructuras de supervisión se han quedado atrás del desarrollo de la IA. Es una forma extraña de vender un producto que promete graves saltos en inteligencia general artificial. Aumentar los riesgos potenciales es una cosa, pero actuar como si no tuviera control sobre cómo funciona GPT-5 se siente algo falso.
CEO de Operai Sam Altman: “Se siente muy rápido”. – “Mientras probaba GPT5, me asusté” – “Mirándolo pensando: ¿Qué hemos hecho … como en el proyecto Manhattan” – “No hay adultos en la habitación” de R/chatgpt
Análisis: miedos existenciales de GPT-5
Lo que Spooked Altman tampoco es del todo claro. Altman no entró en detalles técnicos. Invocar el Proyecto Manhattan es otro tipo de analogía exagerada. La señalización de un cambio irreversible y potencialmente catastrófico y las apuestas globales parece extraña como una comparación con un sofisticado automovilismo. Decir que construyeron algo que no entienden completamente hace que OpenAi parezca imprudente o incompetente.
Se supone que GPT-5 saldrá pronto, y hay pistas que se expandirá mucho más allá de las habilidades de GPT-4. La “mente digital” descrita en los comentarios de Altman podría representar un cambio en cómo las personas que construyen IA consideran su trabajo, pero este tipo de proyección mesiánica o apocalíptica parece una tontería. El discurso público sobre la IA se ha alternado principalmente entre el optimismo sin aliento y el temor existencial, pero algo en el medio parece más apropiado.
Esta no es la primera vez que Altman reconoce públicamente su incomodidad con la carrera armamentista de AI. Ha estado registrado diciendo que la IA podría “salir bastante mal”, y que Operai debe actuar de manera responsable mientras se envía productos útiles. Pero si bien GPT-5 casi seguramente llegará con mejores herramientas, interfaces más amigables y un logotipo un poco más pantanoso, la pregunta central que plantea se trata de poder.
La próxima generación de IA, si es más rápida, más inteligente y más intuitiva, se le entregará aún más responsabilidad. Y esa sería una mala idea basada en los comentarios de Altman. E incluso si está exagerando, no sé si ese es el tipo de compañía que debería decidir cómo se implementa ese poder.
