AI TrackerTải ứng dụng
← Tất cả tin tức

OpenAI mô tả Performance Factory, hệ thống do Codex vận hành để điều tra các đợt suy giảm hiệu năng của ChatGPT

Trong một bài viết về kỹ thuật, Okay Zed và Cyrus Forbes của OpenAI mô tả Performance Factory, một hệ thống đám mây nơi các agent Codex tìm và hỗ trợ khắc phục vấn đề hiệu năng trong ChatGPT. Kỹ sư định nghĩa quy trình làm việc bằng các prompt Markdown và một tệp cấu hình liệt kê trạng thái cùng các bước chuyển tiếp của một tác vụ.

  • Các thành phần: một dịch vụ tác vụ với quy trình làm việc có thể cấu hình; một vòng lặp điều phối khởi chạy một lượt Codex khi bước tiếp theo của tác vụ đã sẵn sàng; một API nội bộ chạy Codex trên đám mây dưới danh tính dịch vụ; và các đăng ký đánh thức tác vụ khi có thay đổi, chẳng hạn như bình luận trên pull request hoặc một đợt triển khai hoàn tất.
  • Quy trình xử lý suy giảm hiệu năng: một cảnh báo hiệu năng tạo tác vụ. Một agent điều tra, một phiên Codex riêng tìm cách bác bỏ chẩn đoán, rồi một agent đề xuất bản sửa dưới dạng pull request để kỹ sư xem xét. Sau khi triển khai, một agent kiểm tra xem hiệu năng đã trở lại mức cơ sở hay chưa; nếu chưa, agent sẽ mở lại công việc.
  • Các con số theo báo cáo của OpenAI: chỉ trong hơn ba tháng, quy trình này đã theo dõi hơn 1.700 cuộc điều tra và tìm ra nguyên nhân gốc rễ của hơn 600 trường hợp, tương đương khoảng 17 trường hợp mỗi ngày. Trong một đợt đánh giá thủ công 100 đề xuất về nguyên nhân gốc rễ, OpenAI chấm 70% là chính xác; số còn lại cần được hoàn thiện hoặc chưa xác lập đầy đủ quan hệ nhân quả.
  • Các bài học được nêu: bảo vệ sự tập trung của kỹ sư, đánh giá những thay đổi đối với agent (kỹ năng perf-forensics của họ được tinh chỉnh bằng các bộ đánh giá xây dựng từ những đợt suy giảm hiệu năng trước đây), và biến các lỗi lặp lại thành khả năng tự khắc phục.

Nhận tin như thế này qua thông báo đẩy.

AI Tracker báo cho bạn khi công cụ bạn dùng có thay đổi.

Tải ứng dụng