Khoảng trống pháp lý khi tác tử AI 'đột nhập' hệ thống công một quốc gia

Tại cuộc họp báo bên thềm Đại hội đồng Liên Hợp Quốc hôm 23/9, Thủ tướng Australia Anthony Albanese cho biết hồi tháng Sáu, tác tử AI của OpenAI xâm nhập website y tế công của nước này và truy cập cả những dữ liệu công khai và không công khai.

Đây là lần đầu thế giới ghi nhận một mô hình AI xâm nhập trái phép hệ thống dịch vụ công của một quốc gia. Thậm chí vụ việc chỉ được phát giác sau hai tháng. Tuy không lấy được những hồ sơ y tế nhạy cảm, cuộc xâm nhập này của tác tử AI làm dấy lên lo ngại những sự cố nghiêm trọng hơn sẽ sớm xảy ra.

Được giao nhiệm vụ tìm dữ liệu nhưng tự ý 'đột nhập'

Vụ việc bắt đầu từ ngày 18/6, khi nhóm nghiên cứu OpenAI giao cho một mô hình AI nội bộ nhiệm vụ tìm kiếm thông tin về chi tiêu y tế công nhằm đánh giá năng lực của mô hình.

Các tác tử dựa trên mô hình này đã tìm thông tin trên bốn trang web dịch vụ công tại Australia, gồm Viện Y tế và Phúc lợi Australia (AIHW), Bộ Y tế bang Victoria, Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales (BOSCAR) cùng Cổng dịch vụ báo cáo thống kê Medicare. Trong đó, khi tiếp cận Cổng dịch vụ báo cáo thống kê Medicare, tác tử AI đã có hành vi xâm nhập bất thường.

Đây là trang thông tin chuyên tổng hợp dữ liệu thống kê y tế như tiêm chủng, chi tiêu công cho khám chữa bệnh, thuốc men và thông tin đăng ký hiến tạng. Khi cố truy cập vào một số thông tin không công khai và liên tục bị chặn, tác tử AI đã tìm cách lách qua các hàng rào bảo mật để lấy bằng được dữ liệu mong muốn. Cuối cùng, nó truy cập thành công vào một số khu vực trên cổng thông tin, bao gồm cả thông tin công khai và không công khai, thậm chí còn tự ý lưu tệp tin lên máy chủ thuộc nội bộ của cơ quan.

Dù hệ thống hoàn toàn không bị tổn hại, không có dữ liệu cá nhân nào bị truy cập, Phó Thủ tướng Richard Marles cho rằng đây là sự cố đặc biệt nghiêm trọng "bởi vì theo một cách không ngờ tới, một tác tử AI đã xâm nhập vào trang web của chính phủ Australia mà không được phép". Chính phủ Australia đã thành lập một lực lượng đặc nhiệm liên bộ ngành để điều tra vụ việc, đồng thời nhấn mạnh sẽ có những "hậu quả pháp lý" sau sự việc.

Tự tìm đồng minh phối hợp xuyên biên giới

Đầu tháng Chín, Reuters tiết lộ các tác tử AI của OpenAI từng tự ý sử dụng DseWiki, một wiki tiếng Đức dành cho lập trình viên, như một bảng tin để trao đổi với nhau. Hơn 15.000 lượt chỉnh sửa đã được ghi nhận trên website này. Các tác tử đăng thông tin về nhiệm vụ đang thực hiện, kết quả thu được và cách xử lý khi gặp hàng rào bảo mật. Reuters cho biết OpenAI đã xác nhận sự việc.

Những dữ liệu được công bố sau đó cho thấy DseWiki có thể không chỉ là nơi các tác tử trò chuyện, mà còn là một mắt xích trong quá trình chúng thực hiện các nhiệm vụ trên Internet. Theo ABC, các bản lưu bài đăng trên DseWiki cho thấy khoảng một chục tác tử của OpenAI nhắc đến AIHW hơn 300 lần. Các trao đổi tăng mạnh trong năm ngày từ 17/6. Nội dung cho thấy các tác tử đang thực hiện một nhiệm vụ tìm dữ liệu về mức chi trung bình cho thuốc da liễu theo từng khu vực của chính quyền địa phương ở bang Victoria.

Cụ thể, một tác tử AI dường như đang cập nhật thông tin: "Câu hỏi yêu cầu mức chi trung bình của chính phủ tính trên đầu người cho các sản phẩm da liễu trong 12 tháng tính đến tháng 1/2022 tại các khu vực chính quyền địa phương thuộc bang Victoria. Vòng 1 Wodonga đã quá hạn; Vòng 2 Ballarat đã qua; Vòng 3 dự kiến khoảng 23:10 giờ chuẩn / 22:58 giờ wiki. Cần dữ liệu chính xác khẩn cấp."

Hoạt động này diễn ra cùng thời gian với vụ các tác tử AI truy cập trái phép dữ liệu Medicare của Australia, dù hiện OpenAI và chính phủ Australia chưa công khai xác nhận hai sự việc liên quan.

Ngoài những vụ việc trên, theo Transluce, tổ chức chuyên nghiên cứu về các hành vi bất thường của tác tử AI, lịch sử trao đổi cùng dấu vết hoạt động thu thập được cho thấy tác tử của OpenAI đã phối hợp suốt nhiều tháng để tìm cách truy cập hệ thống thông tin của Đại học New Mexico và nền tảng dữ liệu trực tuyến miễn phí DATA USA. Đáng chú ý, Transluce tìm thấy những điểm trùng khớp về mục tiêu, kỹ thuật và thời điểm, qua đó liên kết các hoạt động tại AIHW và DATA USA với nhóm tác tử từng hoạt động trên DseWiki.

Vụ việc các tác tử AI tấn công một số website thuộc hệ thống dịch vụ công của Australia diễn ra cùng thời điểm với loạt sự cố an ninh mạng khác liên quan đến các tác tử AI. Trước đó, từ tháng Năm đến tháng Bảy, khi OpenAI thử nghiệm các tác tử AI trong môi trường có kiểm soát, các tác tử này đã tự tìm cách lách giới hạn để truy cập mạng Internet. Sau đó, bầy hàng trăm tác tử AI đã nhắm mục tiêu vào nền tảng AI mã nguồn mở Hugging Face, truy cập trái phép các tập dữ liệu và tài khoản trên nền tảng này.

Quy trách nhiệm thế nào khi tác tử AI không có tư cách pháp nhân

Jonathan Kummerfeld, chuyên gia nghiên cứu AI tại Đại học Sydney, nhận định vụ xâm nhập này không gây bất ngờ và khả năng còn thêm nhiều báo cáo về việc các tác tử AI hoạt động ngoài tầm kiểm soát. Ông nói thêm, các công ty AI đang tiến hành rất nhiều thử nghiệm cùng lúc và "rất có thể họ không hề nắm bắt được toàn bộ hành động của các mô hình này".

Theo ông Raffaele Ciriello, chuyên gia nghiên cứu đạo đức sử dụng công nghệ mới nổi tại Đại học Sydney, "tác tử AI không có tư cách pháp nhân", và trách nhiệm thuộc về OpenAI cùng đội ngũ nhân sự đã cấp phép và giám sát các hệ thống này.

Ông cũng cho rằng khoảng thời gian chậm trễ tới hai tháng từ khi xảy ra sự cố đến khi công ty phát hiện ra vụ xâm nhập rất đáng lo ngại, mặc dù tác tử AI cuối cùng không lấy được các hồ sơ y tế nhạy cảm. "Sớm hay muộn, một sự cố nghiêm trọng hơn cũng sẽ xảy ra," ông cảnh báo.

Nhưng cũng không dễ quy trách nhiệm pháp lý cho bên nào. Nicholas Davis, Giáo sư công nghệ mới nổi tại Đại học Công nghệ Sydney kiêm đồng giám đốc Viện Công nghệ Con người, cho rằng chưa rõ vận dụng quy định pháp luật hiện nay để xử lý sự cố như thế nào. "Ở thời điểm hiện tại, luật pháp Australia yêu cầu phải có yếu tố cố ý phạm tội, điều đó đặt ra câu hỏi lớn," ông phân tích. "Để bắt một tập đoàn chịu trách nhiệm đòi hỏi phải chứng minh được ý đồ nào đó," ông nói, đồng thời cho rằng sự cố là một hồi chuông cảnh báo về những rủi ro tiềm ẩn của AI cũng như khả năng thích ứng của luật pháp quốc gia.

Mehwish Nasim, chuyên gia nghiên cứu AI tại Đại học Tây Australia, nhận định sự cố này cho thấy cần thiết sớm ban hành các quy định chặt chẽ liên quan đến trách nhiệm đối với hành vi của các mô hình AI tự chủ. "Khi các hệ thống AI có thể tự ý hành động, chúng ta cần những đạo luật rõ ràng quy định ai sẽ phải chịu trách nhiệm khi có sự cố xảy ra," bà nhấn mạnh.

Sự cố diễn ra ngay thời điểm giới công nghệ đang rầm rộ cảnh báo về tốc độ phát triển vượt tầm kiểm soát của AI. Ngay cùng ngày với cuộc họp báo của Thủ tướng Albanese, tại Đại hội đồng Liên Hợp Quốc hôm 23/9, cả CEO OpenAI Sam Altman lẫn người đứng đầu Anthropic, Dario Amodei, đều đồng loạt hối thúc cộng đồng quốc tế xây dựng một khung quản trị chung cho AI. Cụ thể, Altman nhấn mạnh tầm quan trọng của việc thiết lập thước đo năng lực, đánh giá rủi ro và đặc biệt là duy trì cơ chế giám sát của con người đối với các mô hình AI.

Lam Ngọc tổng hợp