El próximo modelo insignia de OpenAI podría no representar un avance tan grande como sus predecesores, según un nuevo informe en The Information.
Los empleados que probaron el nuevo modelo, llamado en clave Orion, encontraron que aunque su rendimiento supera a los modelos existentes de OpenAI, hubo menos mejoras de las que habían visto en el salto de GPT-3 a GPT-4.
En otras palabras, la tasa de mejora parece estar disminuyendo. De hecho, Orion podría no ser confiablemente mejor que los modelos anteriores en algunas áreas, como la codificación.
En respuesta, OpenAI ha creado un equipo de fundamentos para descubrir cómo la empresa puede seguir mejorando sus modelos ante una disminución en la disponibilidad de nuevos datos de entrenamiento. Estas nuevas estrategias incluyen, según informes, entrenar a Orion con datos sintéticos producidos por modelos de IA, así como hacer más mejoras en los modelos durante el proceso posterior al entrenamiento.
OpenAI no respondió de inmediato a una solicitud de comentario. En respuesta a informes anteriores sobre los planes para su modelo insignia, la empresa dijo: "No tenemos planes de lanzar un modelo llamado Orion este año".
En conclusión, OpenAI está enfrentando desafíos para mantener el ritmo de mejora en sus modelos, y está explorando nuevas estrategias para abordar esta situación y seguir siendo líder en el campo de la inteligencia artificial.
