Chatbot có thể làm lộ ý tưởng nghiên cứu chưa công bố như thế nào

Một tình huống đang trở nên quen thuộc: mỗi khi có công ty AI công bố thành tựu mới, một nhà nghiên cứu từng sử dụng công cụ của công ty lại lên tiếng cáo buộc họ sao chép trái phép công trình của mình.

Chẳng hạn, vào ngày 8/9, công ty OpenAI cho biết các tác tử AI (AI agent) của họ đã giải thành công bài toán Navier-Stokes, một trong bảy Bài toán Thiên niên kỷ. Tuy nhiên, nhà toán học Tristan Buckmaster tại Đại học New York (Mỹ) đã công khai cho rằng OpenAI thực chất đã hưởng lợi từ công trình nghiên cứu sâu rộng mà ông cùng đồng nghiệp Levent Alpöge thực hiện, thông qua sử dụng công cụ hỗ trợ lập trình Codex [1].

Hai tuần sau, công ty Anthropic thông báo mô hình Claude của họ đã khám phá ra một hệ thống enzyme mới đầy triển vọng trong công nghệ sinh học gọi là ARTs. Mario Rodríguez Mestre, nhà sinh học tại Đại học Copenhagen, ngay sau đó nói với tờ The New York Times rằng nhóm của ông đã nghiên cứu các hệ thống tương tự từ năm 2022 và từng chia sẻ các bản thảo chưa công bố với Claude [2].

Trên trang web của công ty, OpenAI cho biết một cuộc điều tra đã xác nhận công việc mà Buckmaster thực hiện trên Codex trong hai tháng trước đó không thể "ảnh hưởng đến mô hình hoặc các kết quả toán học mà nó tạo ra dưới bất kỳ hình thức nào" [3]. Trong khi đó, Anthropic khẳng định Claude "không được huấn luyện dựa trên bất kỳ bản ghi nào của người dùng".

Dù vậy, các nhà khoa học bắt đầu đặt ra một câu hỏi đáng lo về những công cụ AI mà nhiều người sử dụng hằng ngày. Khi bạn nhập một ý tưởng mới vào một chatbot hoặc tác tử lập trình (coding agent), liệu ý tưởng đó có thể bị công ty tạo ra mô hình AI sử dụng, hoặc bị một đối thủ cạnh tranh khai thác, nếu họ đặt cùng câu hỏi này vào một thời điểm nào đó trong tương lai? Và bạn có thể làm gì để giảm thiểu rủi ro trên?

Các vụ việc trên cũng đang cho thấy một khoảng trống khó xử lý: khi nhà khoa học đưa ý tưởng và dữ liệu chưa công bố vào chatbot AI, họ không phải lúc nào cũng có thể biết thông tin đó được lưu trữ, xử lý hoặc sử dụng ra sao. Và nếu AI sau đó tạo ra một kết quả tương tự, việc chứng minh mối AI có lấy ý tưởng của nhà khoa học hay không sẽ rất khó khăn.

Giới học thuật, một phân khúc khách hàng có giá trị cao?

Nhiều công ty AI cho các nhà nghiên cứu sử dụng công cụ của mình miễn phí hoặc với giá ưu đãi, làm dấy lên mối quan ngại về một kiểu trao đổi "có qua có lại". Theo Mohammad Hosseini, người nghiên cứu về đạo đức sử dụng AI tại Đại học Northwestern (Mỹ), những người làm việc trong môi trường đại học là một phân khúc khách hàng có giá trị cao. Và thông tin của họ có thể được sử dụng thường xuyên hơn để huấn luyện các mô hình AI.

Một cuộc điều tra của các cơ quan bảo vệ quyền riêng tư Canada công bố tháng 5/2026 kết luận OpenAI đã thu thập thông tin trong hội thoại ChatGPT nhằm huấn luyện mô hình. Vụ việc cho thấy dữ liệu người dùng thực sự có thể được sử dụng để phát triển AI.

Về nguyên tắc, một bài nghiên cứu hoặc chứng minh chưa được công bố có thể trở thành dữ liệu cho đợt huấn luyện tiếp theo của mô hình AI, Hosseini nhận định. Nhưng liệu một "giọt nước" nhỏ bé như vậy, giữa đại dương bao la các dữ liệu huấn luyện, có thể tạo ra tác động đáng kể hay không? Một số bằng chứng cho thấy điều đó có thể xảy ra. Đơn cử, một bản thảo nghiên cứu đăng trên trang arXiv vào tháng Một đã chỉ ra rằng các chatbot thương mại có thể tái tạo phần lớn nội dung tập Harry Potter và hòn đá phù thủy với độ chính xác gần như từng từ một [4]. Đây là một trong những cuốn sách được dùng trong quá trình huấn luyện các mô hình.

Theo A. Feder Cooper - nhà nghiên cứu AI tại Đại học Yale và đồng tác giả của nghiên cứu trên - việc mô hình ghi nhớ nguyên văn không thực sự là mối đe dọa đối với giới nghiên cứu. Các tập dữ liệu dùng để huấn luyện mô hình có quy mô khổng lồ, lớn đến mức, xét theo lý thuyết thông tin, mô hình không thể ghi nhớ toàn bộ, Cooper nói. Tuy vậy, ông lưu ý rằng mô hình AI không cần ghi nhớ nguyên văn một cuộc trò chuyện mới có thể tận dụng thông tin từ đó. "Nó chỉ cần hiểu nội dung cuộc trò chuyện... đủ để sử dụng thông tin từ đó."

Các cuộc trò chuyện của một người dùng đơn lẻ có thể không tạo ra ảnh hưởng đáng kể. Nhưng tác động tích lũy từ hàng nghìn cuộc trò chuyện lại là chuyện khác. Các công ty AI thường xuyên phân tích dữ liệu hội thoại trên quy mô lớn để tìm hiểu cách người dùng sử dụng sản phẩm của họ. Chẳng hạn, hệ thống Anthropic Insights có khả năng tóm tắt hàng triệu cuộc trò chuyện và phân loại chúng thành các nhóm chủ đề. Để bảo vệ quyền riêng tư, hệ thống loại bỏ những nhóm có quá ít người dùng, nhưng Anthropic không công bố cụ thể ngưỡng "ít" này là bao nhiêu.

Theo Niloofar Mireshghallah, nhà nghiên cứu quyền riêng tư trong lĩnh vực AI tại Đại học Carnegie Mellon, phân tích dữ liệu hội thoại theo cách này có khả năng dẫn đến rò rỉ thông tin nghiên cứu nhạy cảm cao nhất. Rủi ro không nằm ở việc sao chép trực tiếp, mà ở chỗ qua dữ liệu hàng loạt cuộc trò chuyện, công ty AI có thể nhận ra một vấn đề sắp được giải quyết, từ đó dồn nguồn lực vào để tự giải quyết.

Những biện pháp giúp giảm nguy cơ rò rỉ thông tin

Khi công ty AI phân tích hàng loạt cuộc trò chuyện của người dùng, các biện pháp bảo vệ quyền riêng tư có thể chưa đủ để bảo vệ thông tin của các nhà nghiên cứu, Mireshghallah cho biết thêm. Những biện pháp bảo vệ thường được thiết kế để không thể dễ dàng xác định một cuộc trò chuyện thuộc về người dùng cụ thể nào.

Tuy nhiên, khi một vài nhà nghiên cứu liên tục hỏi hàng trăm câu về một vấn đề toán học rất chuyên biệt, các cuộc trò chuyện của họ lại có thể trở nên nổi bật giữa dữ liệu chung, khiến mô hình dễ suy đoán ai đang nghiên cứu vấn đề đó hoặc họ đang tìm hiểu điều gì.

Không có cài đặt nào giúp chatbot bảo đảm hoàn toàn quyền riêng tư. Nhưng các nhà nghiên cứu cho biết, những biện pháp sau có thể giúp giảm đáng kể nguy cơ rò rỉ thông tin:

Sử dụng tài khoản doanh nghiệp thay vì tài khoản cá nhân

Các trường đại học mua quyền sử dụng ChatGPT, Claude hoặc Gemini thường ký hợp đồng với nhà cung cấp, quy định công ty không được dùng dữ liệu người dùng để huấn luyện mô hình AI. Trong khi đó, tài khoản cá nhân không được hưởng sự bảo vệ tương tự.

Jennifer King, chuyên gia nghiên cứu về chính sách dữ liệu và quyền riêng tư tại Đại học Stanford, khuyên rằng nếu bạn đang sử dụng tài khoản cá nhân cho công việc nghiên cứu, hãy chuyển sang dùng tài khoản doanh nghiệp do trường đại học của bạn cung cấp.

Tuy nhiên, ngay cả với tài khoản doanh nghiệp, cam kết "không dùng dữ liệu để huấn luyện" cũng không đồng nghĩa với "không sử dụng dữ liệu dưới bất kỳ hình thức nào". Hợp đồng giữa Đại học Bang California và OpenAI cho phép công ty sử dụng thông tin của khách hàng sau khi đã xóa dữ liệu nhận dạng cá nhân, ẩn danh hóa hoặc gộp dữ liệu từ nhiều người thành thông tin chung. King khuyến nghị các nhà nghiên cứu đọc kỹ các điều khoản chi tiết trong hợp đồng sử dụng AI mà cơ sở của họ đã ký.

Tắt tính năng dùng dữ liệu để huấn luyện AI

Nếu sử dụng tài khoản cá nhân, hãy bật cài đặt ngăn việc sử dụng các cuộc trò chuyện của bạn để huấn luyện AI.

Lưu ý các trường hợp ngoại lệ

Trong một phân tích gần đây về chính sách của các công ty AI, Mireshghallah chỉ ra rằng trên ChatGPT, việc đánh giá câu trả lời bằng nút thích hoặc không thích có thể khiến toàn bộ cuộc trò chuyện liên quan đủ điều kiện được sử dụng để huấn luyện mô hình, ngay cả khi bạn đã chọn không cho phép sử dụng dữ liệu của mình vào mục đích này.

Anthropic cũng lưu trữ dữ liệu phản hồi của người dùng - gồm lượt nhấn thích/không thích câu trả lời của AI và những nhận xét giải thích vì sao câu trả lời hữu ích hoặc chưa chính xác - trong vòng 5 năm. Công ty có thể sử dụng dữ liệu này để huấn luyện các mô hình AI. Các nhà cung cấp khác cũng áp dụng những chính sách tương tự.

Những cuộc trò chuyện mà hệ thống AI đánh dấu là có nguy cơ mất an toàn - như các cuộc trò chuyện liên quan đến vũ khí sinh học hoặc sức khỏe tâm thần - cũng có thể thuộc diện ngoại lệ. Ví dụ, khi hệ thống của Anthropic đánh dấu một cuộc trò chuyện, công ty sẽ lưu trữ nội dung đầu vào và đầu ra trong tối đa 2 năm, đồng thời lưu trữ một số loại dữ liệu khác phục vụ công tác bảo đảm an toàn trong tối đa 7 năm.

Chủ động dọn dẹp dữ liệu

King khuyến nghị các nhà nghiên cứu tải bản ghi các cuộc trò chuyện với AI về để tự lưu trữ sau khi hoàn thành dự án, rồi cân nhắc xóa những cuộc trò chuyện đó khỏi nền tảng AI. Bản ghi có thể hữu ích cho việc kiểm chứng, tái lập kết quả nghiên cứu hoặc giải quyết tranh chấp, nhưng không nhất thiết phải được lưu trên máy chủ của nhà cung cấp.

Tuy nhiên, xóa cuộc trò chuyện không đồng nghĩa với mọi dữ liệu đều được xóa ngay lập tức. Anthropic cho biết các cuộc trò chuyện đã xóa sẽ được gỡ khỏi máy chủ trong vòng 30 ngày, và công ty vẫn có thể lưu trữ chúng lâu hơn vì lý do an toàn. Việc xóa dữ liệu cũng không có nghĩa là mô hình tự động quên những gì đã học từ dữ liệu trước đó.

Tự vận hành mô hình riêng

Đối với người am hiểu kỹ thuật, lựa chọn bảo vệ quyền riêng tư tốt nhất là chạy một mô hình AI có trọng số mở (open-weight model) trên phần cứng của chính mình. Tuy nhiên, Cooper lưu ý điều này đồng nghĩa với việc bạn phải rời xa các dịch vụ, công cụ và tính năng tích hợp sẵn trên các nền tảng như ChatGPT, Claude hay Gemini.

Nếu thông tin thực sự nhạy cảm, hãy cân nhắc không dùng AI

Cooper lưu ý rằng ngay cả khi bạn không tự gửi thông tin cho AI thì cũng chỉ hạn chế được rủi ro ở mức độ nhất định bởi người phản biện hoặc đồng nghiệp vẫn có thể dùng AI để xử lý bản thảo của bạn mà bạn không hề hay biết.

Về phần mình, Mestre và Buckmaster cho biết họ vẫn thường xuyên sử dụng AI và tin rằng công nghệ này có thể mang lại lợi ích to lớn. Tuy nhiên, họ muốn kiểm soát chặt chẽ hơn dữ liệu, cơ sở hạ tầng và hoạt động của các tác tử AI.

Quốc Hùng tổng hợp