OpenAI dùng Codex để tự động tìm lỗi khiến ChatGPT chạy chậm

Có một nghịch lý đang xuất hiện trong ngành phần mềm. AI giúp lập trình viên viết mã nhanh hơn, nhưng khi phần mềm gặp lỗi hoặc chạy chậm, con người vẫn phải mất hàng giờ để tìm nguyên nhân, kiểm tra dữ liệu và xác nhận cách sửa. Năng suất viết mã tăng lên không đồng nghĩa với toàn bộ quá trình phát triển phần mềm cũng nhanh hơn.

Vì sao 25% kết quả chẩn đoán của AI vẫn cần điều tra lại

OpenAI đang tìm cách giải quyết nút thắt này bằng một hệ thống nội bộ mang tên Performance Factory. Thay vì chỉ yêu cầu AI viết một đoạn mã, công ty xây dựng cả một quy trình để các tác nhân AI tự tiếp nhận cảnh báo, điều tra sự cố, xác định nguyên nhân, đề xuất sửa lỗi và kiểm tra kết quả.

Đây là một bước chuyển đáng chú ý. AI không còn chỉ là công cụ hỗ trợ lập trình viên. Nó đang trở thành một bộ phận trong hệ thống vận hành kỹ thuật của doanh nghiệp.

Từ hơn 1.700 cuộc điều tra đến 600 nguyên nhân được xác định

Theo báo cáo kỹ thuật được OpenAI chia sẻ với VentureBeat, Performance Factory đã theo dõi hơn 1.700 cuộc điều tra trong hơn ba tháng và xác định nguyên nhân gốc rễ của hơn 600 trường hợp.

Trung bình, hệ thống thực hiện khoảng 17 cuộc điều tra tự động mỗi ngày.

Trước đây, khi một dịch vụ của ChatGPT hoạt động chậm, kỹ sư phải kiểm tra nhật ký hệ thống, dữ liệu theo dõi yêu cầu, những thay đổi trong mã nguồn và hoạt động của các dịch vụ liên quan. OpenAI đã phát triển hơn 30 công cụ chuyên dụng để hỗ trợ công việc này.

Codex giúp quá trình điều tra nhanh hơn. Nhưng ban đầu, kỹ sư vẫn phải hướng dẫn tác nhân, sao chép cảnh báo vào phiên làm việc rồi chuyển kết quả sang Slack.

Performance Factory ra đời để loại bỏ phần công việc trung gian đó.

Một dây chuyền AI thay vì một chatbot biết viết mã

Điểm mới của hệ thống không đơn thuần nằm ở khả năng phân tích mã nguồn. Nó nằm ở cách tổ chức công việc.

Mỗi sự cố được tạo thành một nhiệm vụ độc lập, có trạng thái, dữ liệu và kết quả điều tra riêng. Nhiệm vụ có thể đi qua nhiều giai đoạn, từ phát hiện vấn đề đến xác định nguyên nhân, đề xuất thay đổi mã, chờ con người đánh giá và kiểm tra sau triển khai.

Hệ thống có bốn thành phần chính.

  • Dịch vụ quản lý nhiệm vụ lưu trạng thái và tiến độ xử lý.

  • Bộ điều phối định kỳ kiểm tra nhiệm vụ và khởi chạy phiên Codex phù hợp.

  • Giao diện lập trình nội bộ cho phép Codex truy cập kho mã nguồn và hệ thống giám sát với quyền được kiểm soát.

  • Cơ chế đăng ký sự kiện giúp nhiệm vụ tạm dừng để chờ phản hồi của kỹ sư, chẳng hạn khi cần duyệt yêu cầu hợp nhất mã trên GitHub.

Một chi tiết đáng chú ý là các tác nhân không cần chuyển toàn bộ dữ liệu kỹ thuật khổng lồ cho nhau. Chúng lưu lại chỉ số quan trọng, câu truy vấn có thể chạy lại và những phát hiện chính. Tác nhân tiếp theo có thể truy xuất bằng chứng khi cần.

Cách làm này giúp tránh tình trạng thông tin quá tải và giảm nguy cơ tác nhân sau phải dựa vào một bản tóm tắt thiếu căn cứ.

AI phải kiểm tra AI

Một trong những điểm yếu của tác nhân lập trình là chúng có thể dừng lại khi tìm được lời giải thích nghe có vẻ hợp lý, dù bằng chứng chưa đủ thuyết phục.

OpenAI đã bổ sung cơ chế đánh giá đối kháng. Một phiên Codex thứ hai nhận toàn bộ hồ sơ nhiệm vụ nhưng bắt đầu với ngữ cảnh độc lập. Nhiệm vụ của nó là tìm lỗ hổng, kiểm tra bằng chứng và đưa ra những giả thuyết khác.

Trong một trường hợp, tác nhân đầu tiên cho rằng các cuộc trò chuyện ChatGPT thất bại do lỗi tải hình ảnh. Tác nhân kiểm tra phát hiện dịch vụ định vị tệp đã phục hồi, trong khi yêu cầu hình ảnh vẫn tiếp tục thất bại. Điều đó cho thấy nguyên nhân ban đầu không giải thích được toàn bộ hiện tượng.

Kết quả là cuộc điều tra được mở lại.

Hiện nay, khoảng 25% kết quả chẩn đoán bị tác nhân đánh giá yêu cầu điều tra thêm. Con số này cho thấy AI có thể làm việc nhanh, nhưng tốc độ không thay thế được khả năng kiểm chứng.

600 nguyên nhân nhưng chỉ khoảng 15 bản sửa do Codex trực tiếp tạo ra được triển khai

Đây là dữ liệu quan trọng nhất để đánh giá đúng năng lực của hệ thống.

Trong hơn 600 cuộc điều tra đã xác định được nguyên nhân, khoảng 400 trường hợp tiến đến bước đề xuất sửa lỗi. Khoảng 50 bản sửa được triển khai có chịu ảnh hưởng hoặc trùng khớp với đề xuất của tác nhân. Chỉ khoảng 15 bản sửa được triển khai dưới dạng yêu cầu thay đổi mã do Codex trực tiếp tạo ra.

Khoảng cách giữa chẩn đoán và sửa lỗi thực tế vẫn rất lớn.

Codex hoạt động tốt khi nguyên nhân rõ ràng và phạm vi sửa đổi nhỏ. Chẳng hạn, một thay đổi khiến ứng dụng xử lý cùng một cuộc trò chuyện nhiều lần. AI có thể nhận ra phần công việc dư thừa và đề xuất xử lý một lần rồi tái sử dụng kết quả.

Nhưng với những thay đổi kiến trúc phức tạp, tác nhân có thể đề xuất giải pháp quá rườm rà hoặc tạo ra lỗi mới. Thêm bộ nhớ đệm có thể cải thiện tốc độ, nhưng cũng có thể khiến dữ liệu cũ không được cập nhật đúng lúc.

Vì vậy, kỹ sư vẫn phải xem xét và quyết định có triển khai hay không. Sau khi sửa lỗi, một tác nhân khác tiếp tục kiểm tra xem vấn đề đã thực sự biến mất chưa.

Giá trị kinh doanh nằm ở quy trình, không chỉ ở mã nguồn

Performance Factory cho thấy một hướng phát triển quan trọng của AI doanh nghiệp. Giá trị không chỉ đến từ việc giảm số giờ viết mã, mà còn từ khả năng kết nối các công việc vốn rời rạc thành một quy trình có thể vận hành liên tục.

Khi phát hiện, điều tra, theo dõi và xác nhận sự cố được tự động hóa, kỹ sư có thêm thời gian dành cho cải tiến dài hạn thay vì liên tục xử lý những vấn đề phát sinh.

OpenAI cũng đang nghiên cứu mở rộng hệ thống sang tối ưu hóa chủ động. Các tác nhân có thể so sánh mức sử dụng bộ xử lý, bộ nhớ và dữ liệu yêu cầu giữa các phiên bản để tìm ra tình trạng chậm mà cảnh báo thông thường bỏ sót. Một hướng khác là phát hiện cấu hình tự động mở rộng máy chủ chưa hiệu quả.

Xa hơn, công ty đang xem xét khả năng cho phép AI tự triển khai một số thay đổi có rủi ro thấp mà không cần phê duyệt thủ công.

Đây vẫn là kế hoạch đang nghiên cứu, chưa phải năng lực đã được triển khai rộng rãi.

Cuộc cạnh tranh mới giữa các nền tảng AI

Lợi thế của OpenAI không chỉ nằm ở mô hình Codex. Nó còn đến từ khả năng kết nối mô hình với kho mã nguồn, dữ liệu giám sát, quyền truy cập, quy trình duyệt và hệ thống vận hành thực tế.

Một mô hình có thể viết mã tốt nhưng chưa chắc giải quyết được bài toán doanh nghiệp nếu không biết mã đó đang chạy ở đâu, gây ảnh hưởng đến dịch vụ nào và có được phép thay đổi hay không.

Đây là cuộc cạnh tranh giữa các nền tảng AI có khả năng thực hiện công việc đầu cuối, chứ không đơn giản là cuộc đua xem mô hình nào trả lời câu hỏi lập trình tốt hơn.

Các doanh nghiệp công nghệ Mỹ đang đẩy mạnh hướng đi này. Trong khi đó, các doanh nghiệp Trung Quốc cũng có động lực phát triển công cụ lập trình AI và hệ sinh thái phần mềm riêng. Với doanh nghiệp Việt Nam, lựa chọn không nhất thiết phải là đứng về một hệ sinh thái duy nhất. Điều quan trọng là giữ quyền kiểm soát dữ liệu, mã nguồn và khả năng chuyển đổi giữa các nhà cung cấp.

Góc nhìn pháp lý và điểm yếu lớn nhất của mô hình

Performance Factory đặt ra một vấn đề quản trị quan trọng: ai chịu trách nhiệm khi AI đề xuất thay đổi làm gián đoạn dịch vụ, gây mất dữ liệu hoặc tạo ra lỗ hổng bảo mật?

Nếu tác nhân được quyền đọc mã nguồn, nhật ký hệ thống và dữ liệu vận hành, doanh nghiệp phải xác định rõ phạm vi truy cập, thời hạn lưu trữ, khả năng kiểm toán và trách nhiệm phê duyệt. Khi AI được trao quyền triển khai, yêu cầu kiểm soát càng nghiêm ngặt.

Ở góc độ cạnh tranh, doanh nghiệp cũng cần tránh phụ thuộc hoàn toàn vào một nhà cung cấp. Nếu quy trình kỹ thuật, dữ liệu và lịch sử điều tra đều bị khóa trong một nền tảng, chi phí chuyển đổi có thể tăng mạnh.

Điểm yếu lớn nhất trong câu chuyện Performance Factory là dữ liệu về hiệu quả sửa lỗi cuối cùng còn khá khiêm tốn so với quy mô điều tra. Hơn 1.700 cuộc điều tra và hơn 600 nguyên nhân được xác định là kết quả đáng chú ý, nhưng chỉ khoảng 15 bản sửa do Codex trực tiếp tạo ra được triển khai. Bài viết gốc cũng chưa cung cấp số liệu định lượng về thời gian tiết kiệm, chi phí vận hành giảm bao nhiêu hoặc tỷ lệ sự cố tái diễn sau sửa lỗi.

Do đó, chưa thể kết luận hệ thống đã thay thế được phần lớn công việc kỹ sư. Điều có thể khẳng định là nó đang tự động hóa đáng kể khâu điều tra và điều phối.

Doanh nghiệp Việt Nam nên bắt đầu từ đâu?

Với doanh nghiệp vừa và nhỏ, việc xây dựng một hệ thống như OpenAI ngay từ đầu là không cần thiết. Thậm chí, đó có thể là khoản đầu tư lãng phí nếu doanh nghiệp chưa có quy trình vận hành rõ ràng.

Hướng đi thực tế hơn là bắt đầu từ một vấn đề lặp lại thường xuyên: lỗi máy chủ, truy vấn cơ sở dữ liệu chậm, lỗi giao diện, dịch vụ thanh toán gián đoạn hoặc hàng đợi xử lý đơn hàng bị tắc.

Doanh nghiệp có thể triển khai từng bước:

  • Chuẩn hóa nhật ký hệ thống và dữ liệu giám sát trước khi đưa AI vào điều tra.

  • Xây dựng quy trình để AI đọc lỗi, phân loại nguyên nhân và đề xuất cách xử lý.

  • Yêu cầu một tác nhân hoặc kỹ sư độc lập kiểm tra lại kết luận quan trọng.

  • Chỉ cho phép AI đề xuất thay đổi mã; con người duyệt trước khi triển khai.

  • Đo thời gian xử lý, tỷ lệ sửa đúng và số lỗi tái diễn để đánh giá hiệu quả.

Với những hệ thống viết bằng Go, PHP, Laravel hoặc các nền tảng phổ biến, doanh nghiệp có thể thử nghiệm trên một dịch vụ nhỏ trước khi mở rộng. Không nên giao quyền truy cập toàn bộ cơ sở dữ liệu sản xuất cho tác nhân AI nếu chưa có cơ chế phân quyền và kiểm soát.

Trong bối cảnh cạnh tranh giữa Hoa Kỳ và Trung Quốc, doanh nghiệp Việt Nam nên ưu tiên kiến trúc mở, dữ liệu có thể xuất chuyển và công cụ không phụ thuộc tuyệt đối vào một mô hình. AI có thể đến từ nhiều quốc gia, nhưng dữ liệu khách hàng và năng lực vận hành phải nằm trong quyền kiểm soát của doanh nghiệp.

Tương lai của kỹ sư phần mềm không chỉ là viết mã

Performance Factory cho thấy một thay đổi sâu hơn trong ngành công nghệ. Khi AI đảm nhận ngày càng nhiều công việc lập trình, lợi thế của doanh nghiệp sẽ chuyển sang khả năng thiết kế quy trình, quản trị dữ liệu, kiểm chứng kết quả và kiểm soát rủi ro.

Kỹ sư giỏi trong tương lai không chỉ là người viết mã nhanh. Họ còn phải biết giao việc cho tác nhân, đánh giá bằng chứng và quyết định khi nào AI được phép hành động.

Bài học quan trọng nhất dành cho doanh nghiệp Việt Nam không phải là phải mua công cụ AI đắt tiền nhất. Đó là hãy biến những công việc lặp lại thành quy trình có thể đo lường, tự động hóa và kiểm soát. AI chỉ tạo ra lợi thế bền vững khi doanh nghiệp biết cách quản trị nó.

Vì sao 25% kết quả chẩn đoán của AI vẫn cần điều tra lại

OpenAI Codex, Performance Factory, AI lập trình, tự động sửa lỗi, tối ưu phần mềm, tác nhân AI, kỹ thuật phần mềm, ChatGPT, tự động hóa doanh nghiệp, giám sát hệ thống, kiểm tra mã nguồn, doanh nghiệp Việt Nam, AI doanh nghiệp, cạnh tranh AI