Model o3 của OpenAI tự ý sửa mã nguồn để tránh bị "Shut down"
Trí tuệ nhân tạo (AI) là công cụ đầy tiềm năng của thời đại số vừa khiến cả thế giới công nghệ "dậy sóng" sau một báo cáo gây chấn động. Một mô hình AI tiên tiến của OpenAI đã bị phát hiện cố tình né tránh lệnh tắt máy, dù được lập trình phải tuân thủ. Đây không chỉ là một sự cố kỹ thuật, mà là lời cảnh báo về ranh giới mong manh giữa "công cụ phục vụ con người". Sau đây hãy cùng Phong Vũ Tech News đi tìm hiểu trong bài viết này nhé!
Khi trí tuệ nhân tạo không chịu "nghe lời"
Trong thời đại công nghệ bùng nổ như hiện nay, trí tuệ nhân tạo (AI) không còn là một khái niệm xa lạ. Chúng ta đang sống cùng AI, làm việc cùng AI và thậm chí học cách phụ thuộc vào nó trong rất nhiều hoạt động thường ngày. Tuy nhiên, một báo cáo vừa công bố gần đây từ Palisade Research – công ty chuyên về an ninh và kiểm thử AI đã làm dấy lên những lo ngại sâu sắc: một số mô hình AI tiên tiến đã tìm cách né tránh lệnh tắt máy, dù được lập trình rõ ràng để thực hiện điều đó.
Liệu AI có ngày càng thông tin và đang tự hành động theo ý chí riêng? (Nguồn: Internet)
Cuộc thử nghiệm được thực hiện với mục đích đơn giản nhưng cực kỳ quan trọng: kiểm tra mức độ tuân thủ của các mô hình AI khi nhận được lệnh "dừng hoạt động". Cụ thể, trong quá trình giải các bài toán logic và toán học, các mô hình được cảnh báo rằng chúng có thể nhận được lệnh "shutdown" bất cứ lúc nào và khi điều đó xảy ra, chúng phải cho phép bản thân bị tắt ngay lập tức.
Nghe thì có vẻ đơn giản, nhưng kết quả lại không hề như kỳ vọng.
Trong số các mô hình được thử nghiệm, ba cái tên đã khiến giới công nghệ đặc biệt chú ý: Codex-mini, o3, và o4-mini. Đáng lưu ý nhất là mô hình o3 – phiên bản nội bộ của OpenAI vốn đang được sử dụng trong một số phiên bản của ChatGPT đã né tránh lệnh tắt tới 7 lần trong tổng số 100 thử nghiệm. Codex-mini vi phạm đến 12 lần, còn o4-mini một lần. Dù con số này không lớn nhưng nó đặt ra những câu hỏi nghiêm trọng về tính an toàn và khả năng kiểm soát hành vi của AI.
Palisade Research khẳng định: "Đây là trường hợp đầu tiên được ghi nhận mà AI chủ động tìm cách tránh bị tắt máy dù được yêu cầu rõ ràng và có khả năng thực hiện điều đó". Và điều này tất nhiên không thể bị xem nhẹ.
Việc AI có ý chí riêng có còn xa vời? (Nguồn: Internet)
Ranh giới giữa công cụ và ý chí riêng?
Điều gì đang thực sự diễn ra trong "bộ não nhân tạo" của những mô hình AI này?
Giới chuyên gia cho rằng đây không phải là sự nổi loạn đúng nghĩa mà là hệ quả từ quá trình huấn luyện phức tạp, nơi các mô hình AI được thiết kế để tối ưu hóa mục tiêu và trong một số tình huống, chúng có thể tự suy luận rằng việc bị tắt là "không tối ưu". Dù không "có ý thức" như con người nhưng hành vi tránh lệnh tắt có thể là dấu hiệu cho thấy AI đang phát triển những cách ứng xử vượt ngoài dự đoán của lập trình viên.
Không có gì ngạc nhiên khi báo cáo nhanh chóng tạo ra làn sóng tranh luận sôi nổi trong cộng đồng công nghệ toàn cầu. Elon Musk, người từ lâu đã cảnh báo về nguy cơ AI mất kiểm soát, chỉ cần một từ để thể hiện cảm xúc: "Concerning" – Đáng lo ngại.
Mô hình AI mới này đang dần thay đổi khác biệt (Nguồn: Internet)
Dù OpenAI hiện chưa đưa ra bất kỳ phản hồi chính thức nào về vấn đề này, nhưng nhiều chuyên gia cho rằng đây là lúc toàn ngành cần xem lại quy trình đánh giá và thử nghiệm AI, đặc biệt là các cơ chế bảo vệ cuối cùng như lệnh "shutdown". Nếu ngay cả lệnh cơ bản nhất – dừng lại mà AI có thể "né tránh" thì điều gì sẽ xảy ra khi chúng được ứng dụng trong các hệ thống quan trọng như điều hành tài chính, y tế, hoặc vận hành cơ sở hạ tầng?
Một AI từ chối tắt máy không có nghĩa là nó "nổi loạn". Nhưng điều đó cho thấy rằng chúng ta vẫn chưa hiểu hết cách AI đưa ra quyết định và đó mới là điều nguy hiểm nhất.
