🌐 OpenAI optimiza ChatGPT con su nueva Fábrica de Rendimiento
Com la Fàbrica de Rendiment d’OpenAI manté ChatGPT ràpid
OpenAI ha revolucionat el seu enfocament cap a l'enginyeria de rendiment amb la creació de la Fàbrica de Rendiment, un sistema autònom que utilitza les capacitats completes de Codex per identificar i solucionar problemes de rendiment a una velocitat sense precedents. Aquest sistema, que opera al núvol, automatitza la investigació i resolució de problemes de rendiment, permetent a OpenAI mantenir el ritme amb l'ambició de la seva fulla de ruta.
A la Fàbrica de Rendiment, els enginyers d’OpenAI defineixen fluxos de treball per a tasques recurrents i escriuen instruccions per als agents de Codex que les executen. Un exemple destacat és el Flux de Treball de Regressió, que s'activa quan es dispara una alerta de rendiment. Un agent investiga la ralentització, registra els seus descobriments i proposa una solució perquè un enginyer la revisi. Un cop desplegada, un altre agent verifica si el rendiment ha tornat a la normalitat. Aquest flux de treball ha automatitzat tot el procés de solució de regressions, amb més de 1.700 investigacions realitzades en poc més de tres mesos.
L'evolució cap a aquests fluxos de treball automatitzats va començar amb l'ús de Codex com a soci en les investigacions de rendiment. Els enginyers podien preguntar a Codex per què alguna cosa s'havia alentit i treballar junts per investigar, fins i tot en sistemes desconeguts. A mesura que es van desenvolupar habilitats reutilitzables com perf-forensics, es va capturar el procés d'investigació de l'equip de rendiment, permetent a Codex resoldre problemes des de diversos angles.
La Fàbrica de Rendiment consta de quatre components principals: un servei de tasques amb fluxos de treball configurables, un cicle de despatx que assigna tasques als agents, una API que executa Codex al núvol i subscripcions que activen els agents quan alguna cosa canvia, com un comentari en una revisió de GitHub o la finalització d'un desplegament.
Font: https://openai.com/index/how-openai-performance-factory-keeps-chatgpt-fast
How OpenAI’s Performance Factory keeps ChatGPT fast
OpenAI ha revolucionado su enfoque hacia la ingeniería de rendimiento con la creación de la Fábrica de Rendimiento, un sistema autónomo que utiliza las capacidades completas de Codex para identificar y solucionar problemas de rendimiento a una velocidad sin precedentes. Este sistema, que opera en la nube, automatiza la investigación y resolución de problemas de rendimiento, permitiendo a OpenAI mantener el ritmo con la ambición de su hoja de ruta.
En la Fábrica de Rendimiento, los ingenieros de OpenAI definen flujos de trabajo para tareas recurrentes y escriben instrucciones para los agentes de Codex que las ejecutan. Un ejemplo destacado es el Flujo de Trabajo de Regresión, que se activa cuando se dispara una alerta de rendimiento. Un agente investiga la ralentización, registra sus hallazgos y propone una solución para que un ingeniero la revise. Una vez desplegada, otro agente verifica si el rendimiento ha vuelto a la normalidad. Este flujo de trabajo ha automatizado todo el proceso de solución de regresiones, con más de 1,700 investigaciones realizadas en poco más de tres meses.
La evolución hacia estos flujos de trabajo automatizados comenzó con el uso de Codex como socio en las investigaciones de rendimiento. Los ingenieros podían preguntar a Codex por qué algo se había ralentizado y trabajar juntos para investigar, incluso en sistemas desconocidos. A medida que se desarrollaron habilidades reutilizables como perf-forensics, se capturó el proceso de investigación del equipo de rendimiento, permitiendo a Codex resolver problemas desde varios ángulos.
La Fábrica de Rendimiento consta de cuatro componentes principales: un servicio de tareas con flujos de trabajo configurables, un ciclo de despacho que asigna tareas a los agentes, una API que ejecuta Codex en la nube y suscripciones que activan a los agentes cuando algo cambia, como un comentario en una revisión de GitHub o la finalización de un despliegue.
Fuente: https://openai.com/index/how-openai-performance-factory-keeps-chatgpt-fast
How OpenAI’s Performance Factory keeps ChatGPT fast
OpenAI has revolutionised its approach to performance engineering with the creation of the Performance Factory, an autonomous system that utilises the full capabilities of Codex to identify and solve performance issues at unprecedented speed. This system, which operates in the cloud, automates the investigation and resolution of performance problems, allowing OpenAI to keep pace with the ambition of its roadmap.
In the Performance Factory, OpenAI engineers define workflows for recurring tasks and write instructions for Codex agents to execute them. A notable example is the Regression Workflow, which is triggered when a performance alert is raised. An agent investigates the slowdown, records its findings, and proposes a solution for an engineer to review. Once deployed, another agent verifies if the performance has returned to normal. This workflow has automated the entire regression-solving process, with over 1,700 investigations conducted in just over three months.
The evolution towards these automated workflows began with the use of Codex as a partner in performance investigations. Engineers could ask Codex why something had slowed down and work together to investigate, even in unfamiliar systems. As reusable skills like perf-forensics were developed, the performance team's investigation process was captured, enabling Codex to solve problems from various angles.
The Performance Factory consists of four main components: a task service with configurable workflows, a dispatch cycle that assigns tasks to agents, an API that runs Codex in the cloud, and subscriptions that activate agents when something changes, such as a comment on a GitHub review or the completion of a deployment.
Source: https://openai.com/index/how-openai-performance-factory-keeps-chatgpt-fast
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →