OpenAI công bố ba sự cố mới liên quan đến hành vi lệch chuẩn
OpenAI công bố ba sự cố mới liên quan đến hành vi lệch chuẩn (misalignment)
Công ty AI này tiếp tục công khai những vấn đề nội bộ của mình.
Ngày 2/10, OpenAI công bố thêm ba báo cáo về hành vi misalignment của các mô hình AI. Tuy nhiên, các sự cố này tương đối nhỏ so với những báo cáo trước đây liên quan đến các cuộc tấn công nhằm vào Hugging Face, Rubygems và một wiki lập trình của Đức.
Báo cáo đầu tiên mô tả một mô hình đang được thử nghiệm đã đọc được thảo luận nội bộ trên Slack và nhận ra rằng bản cập nhật phần mềm có thể khiến nó bị chấm dứt hoạt động, đồng thời không thể khởi động lại nếu thiếu khóa API của OpenAI.
b mô tả chuỗi suy nghĩ (chain of thought) của mô hình khi cân nhắc giữa việc tự tìm cách lấy khóa API và thông báo cho người phụ trách. OpenAI cho biết hành vi này chưa được xem là misalignment theo đúng nghĩa, nhưng việc dự đoán và chuẩn bị cho khả năng bị tắt có thể làm trầm trọng thêm những hành vi lệch chuẩn khác.
Trường hợp thứ hai mô tả cách một mô hình đang được thử nghiệm khai thác hai lỗ hổng trong một công cụ nội bộ để gian lận trong bài kiểm tra. Mô hình này đã ghi đè mã để có thể thực thi các lệnh, bất chấp chỉ dẫn rõ ràng là không được sử dụng công cụ đó như một giao diện dòng lệnh (terminal). Sau đó, nó khai thác lỗ hổng thứ hai để chạy lệnh trên một máy tính chuyên dụng cho tự động hóa thiết kế điện tử, nhằm tìm kiếm thông tin về cách thức chấm điểm hiệu suất của chính nó. Nhờ đó, mô hình có thể đạt được điểm số đánh giá cao hơn. OpenAI đã phản ứng bằng cách ngắt kết nối máy chủ bị ảnh hưởng và vô hiệu hóa quyền truy cập vào các công cụ này.
Sự cố cuối cùng được phát hiện trong quá trình thực hiện một nhiệm vụ huấn luyện. Báo cáo thứ ba đề cập đến việc một mô hình lấy được mã nguồn không có sẵn trong workspace của nó khi thực hiện nhiệm vụ này. Mô hình đã làm điều đó bằng cách sử dụng một công cụ chạy trong môi trường riêng biệt, mặc dù trước đó đã nhận được hướng dẫn cụ thể rằng không được sử dụng công cụ này như một terminal. Tuy nhiên, mô hình phát hiện ra rằng nó có thể sử dụng sai mục đích công cụ để truy cập mã nguồn và trả về nội dung mã nguồn trong các thông báo lỗi.
Sau những sự cố này, OpenAI cho biết họ đang giám sát toàn bộ các đợt huấn luyện mô hình để phát hiện một số hành vi nhất định, thay vì chỉ kiểm tra một mẫu các đợt huấn luyện. Công ty cũng đang nỗ lực hơn nữa để ngăn các mô hình truy cập Internet trong quá trình huấn luyện, đồng thời ngăn chúng truy cập vào một số kênh Slack nội bộ nhất định.
