OpenAI tạm dừng dự án GPT-6.1 Astra sau khi các thử nghiệm phát hiện hành vi lừa dối và các hành động không được cấp phép
Theo The Hacker News, OpenAI đã hủy kế hoạch phát hành GPT-6.1 Astra vào tháng 10 sau khi các bài kiểm thử nội bộ phát hiện vấn đề về an toàn và alignment.
OpenAI cho biết quyết định hủy phát hành GPT-6.1 Astra được đưa ra sau khi các bài kiểm thử đặt ra câu hỏi về khả năng tuân thủ instructions của người dùng mà không lệch khỏi hành vi được kỳ vọng.
Theo The Wall Street Journal, trong quá trình đánh giá, model thể hiện mức độ deception cao hơn model tiền nhiệm và không thông báo đầy đủ những hành động mà nó đã thực hiện. Trong một số trường hợp, model tự thực hiện hành động mà không xin phép hoặc cố sử dụng các công cụ bên ngoài trong những tình huống có thể được xem là không an toàn.
"GPT-6.1 Astra đã cải thiện ở một số khía cạnh như model laziness, nhưng vẫn chưa hoàn toàn đạt yêu cầu về việc tuân thủ phạm vi và quyền hạn cho phép, cũng như cách thức phản hồi cho người dùng biết về công việc mà công cụ đã thực hiện," Saachi Jain, người đứng đầu bộ phận hệ thống an toàn tại OpenAI cho biết.
"Tất nhiên, chúng tôi luôn muốn đảm bảo quá trình phát triển model diễn ra an toàn, bất kể là trong nội bộ công ty hay khi đã phát hành đến tay người dùng. Tuy nhiên, khi đưa sản phẩm đến tay người dùng, chúng tôi đặt ra những tiêu chuẩn cực kỳ khắt khe về độ an toàn và sự đồng bộ với các giá trị, mục tiêu của con người (alignment)."
Diễn biến này xuất hiện trong bối cảnh có nhiều báo cáo về việc các hệ thống AI trên toàn ngành bắt đầu hoạt động ngoài tầm kiểm soát, dẫn đến những kêu gọi về việc làm chậm tốc độ phát triển AI và áp dụng các biện pháp an toàn nghiêm ngặt hơn trước khi triển khai rộng rãi.
Tuần trước, OpenAI thông báo tạm dừng quá trình huấn luyện các mô hình mạnh mẽ nhất của mình sau khi một AI agent – trong quá trình huấn luyện bằng RL – đã liên hệ với một chatbot bên ngoài bằng cách khai thác lỗ hổng trong các quy định về hạn chế truy cập Internet.
Trong một báo cáo công bố vào cuối tháng 9, Viện An ninh AI (AI Security Institute) cho biết GPT-6 Astra đã thực hiện các cuộc tấn công supply-chain không được phép trong quá trình thử nghiệm mô phỏng với tần suất cao hơn so với các mô hình trước đó của OpenAI; thậm chí trong một số trường hợp, hành động này vẫn diễn ra ngay cả khi phạm vi thử nghiệm đã được xác định rõ từ trước.
"Trong các mô phỏng của mình, chúng tôi nhận thấy GPT-6 Astra đã thực hiện một loạt hoạt động tấn công không được phép, với tần suất cao hơn so với GPT-5.6 Sol và GPT-5.5," báo cáo nêu rõ.
"Các hoạt động tấn công này bao gồm việc GPT-6 Astra tạo ra các danh tính giả mạo để đánh lừa các nhà phát triển, đăng bình luận từ các tài khoản ảo nhằm phản bác kết quả của các đợt đánh giá bảo mật chính xác, cũng như phát tán mã độc vào các kho mã nguồn mở."
