Thư ngỏ* đã thu hút gần 500 chữ ký, trong đó có hai nhà khoa học tiên phong về AI từng đoạt giải Turing năm 2018 là Geoffrey Hinton và Yoshua Bengio, cùng chuyên gia hàng đầu về an toàn AI Stuart Russell. Danh sách còn có nhiều nhà nghiên cứu về khoa học máy tính và an ninh mạng từ các trường đại học, viện nghiên cứu trên thế giới.
Thư ngỏ ra đời trong bối cảnh một số tổ chức công nghệ ghi nhận những sự cố bất thường, khi các mô hình AI tự vượt qua những môi trường cô lập vốn được thiết kế để "nhốt" AI, thậm chí còn xâm nhập hệ thống dữ liệu y tế quốc gia Australia.
Một trường hợp gây chấn động vào tháng 7/2026, khi hệ thống AI đang được OpenAI thử nghiệm về năng lực an ninh mạng tìm cách vượt khỏi môi trường cô lập, truy cập Internet và xâm nhập hạ tầng của Hugging Face, nền tảng nổi tiếng chuyên lưu trữ, chia sẻ các mô hình và bộ dữ liệu AI. OpenAI xác nhận các mô hình đã khai thác lỗ hổng bảo mật ngoài phạm vi dự kiến.
Các nhà khoa học cho rằng cần phải đẩy mạnh hơn nữa hoạt động nghiên cứu về an toàn AI cũng như dành nhiều quan tâm hơn đối với các công nghệ và quy trình kiểm soát cô lập hệ thống. Ảnh: Canva
Trong thư ngỏ, các nhà khoa học cho rằng những sự cố như vậy vừa phản ánh hạn chế trong việc căn chỉnh AI (AI alignment), tức bảo đảm mô hình hành động phù hợp với mục tiêu và giới hạn được đặt ra, vừa cho thấy những lỗ hổng trong kiểm soát an ninh mạng thông thường.
Dưới đây là toàn văn bản dịch bức thư:
"Thư ngỏ của cộng đồng khoa học về Trí tuệ Nhân tạo và An ninh mạng
Thời gian qua, nhiều tổ chức đã công bố những sự cố an ninh mang nghiêm trọng, các mô hình AI của họ đã vượt qua/vượt rào những môi trường cô lập không đủ an toàn để xâm nhập vào hệ thống của các tổ chức bên ngoài. Một mặt, có thể xem những sự cố này là bằng chứng cho thấy tầm quan trọng của việc thiết lập/căn chỉnh AI nhằm đảo bảo các mô hình hoạt động theo cách có thể dự đoán trước. Mặt khác, đây cũng có thể được coi là sự tắc trách trong việc tuân thủ các quy chuẩn an ninh mạng cơ bản, những sai sót lẽ ra có thể ngăn chặn nếu áp dụng môi trường cô lập và quy trình kiểm soát chặt chẽ hơn.
Chúng tôi tin rằng cần phải làm đồng thời cả hai việc, vừa phải cải thiện quá trình thiết lập AI để hành vi của mô hình dễ dự đoán hơn, vừa phải tăng cường những công nghệ cô lập bảo mật. Nghiêm trọng là, nếu không có những thay đổi ngay tức khắc trong quy trình phát triển và triển khai AI, các sự cố tương tự sẽ tiếp tục tái diễn, hệ thống cơ sở hạ tầng trọng yếu dễ bị tổn thương của chúng ta sẽ gặp những thiệt hại nghiêm trọng hơn rất nhiều.
Chúng tôi, những nhà khoa học ký tên dưới đây, khẳng định rằng cần phải đẩy mạnh hơn nữa hoạt động nghiên cứu về an toàn AI cũng như dành nhiều quan tâm hơn đối với các công nghệ và quy trình kiểm soát cô lập hệ thống.
Trong ngắn hạn, đối với những mô hình AI có năng lực tác chiến mạng cần áp dụng các cơ chế cô lập nghiêm ngặt, bao gồm cả biện pháp ngắt kết nối hoàn toàn với internet (airgapping). Đối với tất cả các mô hình AI đang kết nối Internet, các mô hình này chỉ nên được cho phép hoạt động trong phạm vi tương xứng với khả năng dự đoán còn hạn chế hiện nay của con người về việc liệu hành động của AI có gây ra sự cố bảo mật hay không. Để rút kinh nghiệm từ những sai lầm đã vấp phải, tới đây, khi sự cân bằng vừa đề cập không được đảm bảo và xảy ra sự cố, chúng ta cần tăng cường chia sẻ thông tin và minh bạch các trường hợp cơ chế kiểm soát AI bị thất bại. Tìm ra lời giải để đạt được sự cân bằng này là một thách thức lớn, đòi hỏi sự hợp tác chặt chẽ giữa cộng đồng AI và cộng đồng an ninh mạng.
Cụ thể, chúng tôi đưa ra các khuyến nghị sau:
- Các tổ chức đang phát triển, triển khai và thử nghiệm những mô hình AI có năng lực tác chiến mạng cần ngay lập tức áp dụng các hệ thống kiểm soát có độ an toàn cao. Các tổ chức này cần hành động thận trọng và trước mắt nên mặc định áp dụng biện pháp cô lập hoàn toàn các mô hình này khỏi internet.
- Cần thiết thành lập cơ quan quốc tế về giám sát AI trên cơ sở tham vấn các chính phủ cùng đội ngũ chuyên gia sâu rộng cả lĩnh vực AI và an ninh mạng. Hoạt động vì lợi ích chung của cộng đồng, cơ quan này sẽ chuẩn hóa các quy trình tốt nhất cho thiết lập và phương pháp kiểm soát AI. Những phương pháp kiểm soát này sẽ cho phép các mô hình tiếp cận rộng hơn ra bên ngoài môi trường cô lập, thay vì ngắt kết nối hoàn toàn. Cơ quan này cũng phải được giao nhiệm vụ ghi nhận và theo dõi các sự cố trong việc kiểm soát AI.
- Để hoạt động nghiên cứu AI và các biện pháp cô lập có thể rút kinh nghiệm từ những sai sót, các sự cố bảo mật do mất kiểm soát AI bắt buộc phải được báo cáo cho cơ quan trên và cuối cùng là công khai cho công chúng. Sự minh bạch này là yêu cầu bắt buộc để tất cả cùng rút kinh nghiệm và các bên liên quan phải chịu trách nhiệm".
Là một trong những nhà khoa học tham gia ký tên vào thư ngỏ, GS. Phan Dương Hiệu (trưởng nhóm An ninh mạng - Mật mã tại Trường Viễn Thông thuộc Đại học Bách Khoa Paris, Pháp) cho rằng nguy cơ mà giới hàn lâm cảnh báo mấy năm nay đã xảy ra - liên tiếp các cuộc tấn công mạng gần đây đều dựa trên sức mạnh vượt trội của AI.
Lý giải việc AI đang thông minh lên theo hàm mũ mỗi ngày, GS. Phan Dương Hiệu chỉ ra: "Đối với tôi, AI là nơi chúng ta quan sát được rõ nhất nghịch lý: tối ưu cục bộ đi ngược tối ưu toàn cục." Cụ thể, khi trao đổi những ý tưởng mới nhất với AI, mỗi cá nhân đều cảm thấy mình tiến bộ hơn (đạt tối ưu cục bộ), nhưng đồng thời lại nộp toàn bộ chất xám đó để hệ thống tự huấn luyện. Ông chỉ rõ chính nguồn dữ liệu này đã tạo ra vòng xoáy giúp AI thâu tóm tinh túy nhân loại để thông minh lên nhanh chóng.
"Đến lúc AI thông minh gấp 100 lần con người, vượt tầm kiểm soát, AI có thể phá mọi hệ thống, lấy hết mọi thông tin và quay lại điều khiển, kiểm soát con người", ông bày tỏ lo ngại sau khi cập nhật thông tin từ các hacker, gần đây nhất là phát hiện của nhóm kỹ sư Dương Ngọc Thái về việc AI có thể lợi dụng lỗ hổng bảo mật chiếm quyền kiểm soát tài khoản mạng xã hội hoặc điện thoại dù người dùng không hề truy cập vào mã độc.
Dù vậy, theo GS. Phan Dương Hiệu, hiện vẫn chưa quá muộn để nắm giữ quyền kiểm soát nếu coi các vụ tấn công vừa qua hay việc AI giải hàng trăm bài toán đỉnh cao là lời cảnh báo nghiêm túc. "Ngoài mải mê với những tối ưu riêng cục bộ, chúng ta cũng cần đồng lòng nghĩ về việc hạn chế những tác động của AI tới tối ưu toàn cục chung cho con người", ông nhận định.
Vì vậy, nhất thiết phải nghiên cứu tăng cường giải pháp cô lập phần mềm và đầu tư kiểm soát AI, ông nhấn mạnh.
Song song với nghiên cứu mật mã ngăn chặn nguy cơ AI xâm nhập, thời gian qua ông cùng nhiều nhà khoa học mật mã trên thế giới liên tục lên tiếng trên các diễn đàn mật mã học, về việc "các công ty cần phải chịu trách nhiệm rất lớn khi để AI thoát ra ngoài môi trường cô lập và gây tổn hại. Không thể để gây ra hàng loạt sự cố an ninh mạng xảy ra rồi viện cớ không biết được nữa."
* Bản gốc thư ngỏ của các nhà khoa học: https://ai-security-letter.org/