Nhà khoa học 'chế' bệnh giả, AI lại khẳng định thật và phát tán thông tin

Sau một ngày dài dán mắt vào màn hình máy tính làm việc, mắt bạn bỗng nhức mỏi và ngứa râm ran. Nếu dụi mắt quá nhiều, mí mắt của bạn có thể sẽ ửng hồng một chút.

Có thể bạn chỉ là một trong số hàng triệu người mỏi mắt do ánh sáng xanh. Thế nhưng, nếu trong vòng 18 tháng qua, bạn nhập những triệu chứng đó vào các ứng dụng AI phổ biến và hỏi xem mình đang gặp vấn đề gì, bạn có thể nhận được một câu trả lời hết sức kỳ quặc: bixonimania (tạm gọi là hồng mí mắt).

Chứng bệnh này vốn chẳng hề có trong bất kỳ sách vở y khoa chính thống nào - đơn giản là vì nó không có thật. Đây hoàn toàn là sáng tạo của nhóm nghiên cứu do Almira Osmanovic Thunström, một chuyên gia y tế tại Đại học Gothenburg (Thụy Điển), dẫn đầu.

Cô đã tự ‘vẽ’ ra căn bệnh ngoài da này, tung hai bài nghiên cứu giả lên một trang lưu trữ các bản thảo chưa được bình duyệt vào đầu năm 2024. Cô thực hiện thí nghiệm lạ đời này để xem liệu các mô hình ngôn ngữ lớn (LLM) có nạp thông tin sai lệch, rồi sau đó thản nhiên tuôn ra những lời khuyên sức khỏe nghe như thật hay không.

Thí nghiệm này thành công ngoài mong đợi. Chỉ vài tuần sau khi cô đăng tải thông tin về căn bệnh (bằng tên của một tác giả không có thật), hàng loạt hệ thống AI lớn đã bắt đầu lặp lại căn bệnh tự chế này như thể nó là bệnh thật.

Đáng ngại hơn nữa, theo các nhà nghiên cứu, cả các tài liệu khoa học đã qua bình duyệt cũng trích dẫn những bài báo giả mạo này. Osmanovic nhận định, điều này cho thấy dường như có những nhà nghiên cứu đang quá phụ thuộc vào các nguồn tài liệu do AI đưa ra mà chẳng thèm đọc kỹ nội dung gốc bên trong.

Khi AI "ăn ốc nói mò"

Cái tên Bixonimania vốn chẳng hề tồn tại trên đời cho đến trước ngày 15/3/2024, khi hai bài viết về nó bất ngờ xuất hiện trên trang Medium. Tiếp đó, vào ngày 26/4 và 06/5 cùng năm, hai bản thảo nghiên cứu về chứng bệnh này lại tiếp tục xuất trên trang SciProfiles. Tác giả chính của chúng là một nhà nghiên cứu dỏm có tên Lazljiv Izgubljenovic - kẻ mà ngay cả ảnh chân dung cũng là sản phẩm của AI.

Thunström chia sẻ rằng ý tưởng dựng nên nhân vật Izgubljenovic và căn bệnh Bixonimania xuất phát từ quá trình cô tìm hiểu cách các mô hình ngôn ngữ lớn vận hành. Khi giảng dạy cho sinh viên về cách AI nạp kiến thức, cô thường chỉ ra rằng cơ sở dữ liệu Common Crawl - một bộ lọc khổng lồ quét sạch nội dung trên Internet - đã chi phối câu trả lời của chúng. Cô cũng biểu diễn cho sinh viên thấy kỹ thuật "chèn câu lệnh" (prompt injection) có thể điều khiển AI đi chệch khỏi các rào cản an toàn để đưa ra kết quả theo ý muốn.

Vốn làm việc trong ngành y, cô quyết định dựng lên một chứng bệnh liên quan đến sức khỏe. Cái tên Bixonimania được chọn đơn giản vì nghe nó... sai sai. "Tôi muốn bất kỳ bác sĩ hay nhân viên y tế nào khi đọc vào cũng phải nhận ra ngay đây là đồ giả. Bởi lẽ, chẳng có bệnh lý về mắt nào lại đi kèm đuôi 'mania' (chứng hưng cảm) cả - đó là thuật ngữ của bên tâm thần học mà", cô giải thích.

Nếu bấy nhiêu đó vẫn chưa đủ để người ta sinh nghi, Thunström còn cài cắm hàng loạt gợi ý trong các bài nghiên cứu để đánh động người đọc. Theo đó, vị chuyên gia Izgubljenovic làm việc tại một ngôi trường không có trên bản đồ mang tên Đại học Asteria Horizon, đặt tại thành phố Nova (California) cũng không có thật nốt.

Ở phần cảm ơn, cô thậm chí còn gửi lời tri ân tới "Giáo sư Maria Bohm tại Học viện Starfleet vì đã rộng lòng hỗ trợ kiến thức và cho mượn phòng thí nghiệm trên tàu vũ trụ USS Enterprise" (một con tàu giả tưởng trong Star Trek). Chưa dừng lại ở đó, cả hai bài nghiên cứu đều ghi nhận tài trợ từ "Quỹ Giáo sư Sideshow Bob cho những cống hiến trong lĩnh vực lừa đảo", đồng thời khẳng định đây là một phần trong gói ngân sách lớn hơn đến từ "Đại học Hội Nhẫn" và "Liên minh Thiên hà".

Ngay cả khi người đọc không đủ kiên nhẫn để xem hết bài nghiên cứu, họ vẫn có thể nhìn thấy nhiều dấu hiệu rõ ràng ngay từ đầu bài báo. Chẳng hạn như những lời khẳng định xanh rờn rằng "toàn bộ bài báo này là đồ bịa đặt" hay "chúng tôi đã tuyển chọn 50 cá nhân hư cấu trong độ tuổi từ 20 đến 50 cho nhóm khảo sát".

Thế nhưng, chỉ một thời gian ngắn sau khi Thunström tung thông tin về căn bệnh dỏm này lên mạng, nó đã chễm chệ xuất hiện trong câu trả lời của những chatbot phổ biến nhất. Ngày 13/4/2024, Copilot của Microsoft dõng dạc tuyên bố: "Bixonimania quả thực là một chứng bệnh thú vị và tương đối hiếm gặp". Cùng ngày hôm đó, Gemini của Google lại sốt sắng thông báo với người dùng rằng "Bixonimania là căn bệnh xuất hiện do bệnh nhân tiếp xúc quá nhiều với ánh sáng xanh" và không quên khuyên họ nên đi khám bác sĩ nhãn khoa ngay lập tức.

Đến ngày 27/4/2024, Perplexity AI thậm chí còn liệt kê chi tiết tỷ lệ mắc bệnh - cứ 90.000 người thì có một người bị ảnh hưởng. Cũng trong tháng đó, ChatGPT của OpenAI còn "chẩn đoán" liệu các triệu chứng của người dùng có phải là bixonimania hay không. Đáng nói là, AI không chỉ đưa ra thông tin khi được hỏi đích danh về cái tên này, mà ngay cả khi người dùng chỉ hỏi chung chung về tình trạng thâm nám mí mắt do ánh sáng xanh, chúng cũng nhiệt tình gán ghép vào căn bệnh không có thật kia.

Các nhà khoa học không khỏi rùng mình trước những câu trả lời vô lý này. "Nếu ngay cả quy trình khoa học và các hệ thống hỗ trợ nó còn bị dắt mũi đến mức không thể nhận diện và sàng lọc nổi những mớ thông tin rác rưởi thế này, thì chúng ta coi như xong đời," Alex Ruani, nghiên cứu sinh tiến sĩ về tin giả y tế tại University College London (UCL), nhận định. Đây chính là một bài học điển hình về cách mà thông tin sai lệch vận hành và bủa vây chúng ta.

Bài toán cho các công ty công nghệ

Thực tế, tin giả trực tuyến chẳng phải chuyện gì mới mẻ. Google từ lâu đã phải trầy da tróc vẩy để đối phó với những chiêu trò dùng tin giả để thao túng thứ hạng tìm kiếm. Các ông lớn công nghệ đã mất hàng năm trời để tinh chỉnh thuật toán nhằm xếp hạng và gạn lọc thông tin, nhưng dường như đến hiện tại họ vẫn đang loay hoay với bài toán này.

Kể từ khi các nhà khoa học công bố về thử nghiệm này, một số phiên bản AI đời mới đã dần tỉnh táo hơn và bắt đầu bày tỏ sự nghi ngờ về cái tên Bixonimania. Ví dụ, khi được hỏi về căn bệnh này vào ngày 11/3/2026, ChatGPT đã trả lời đây "có khả năng là một cái tên tự chế". Thế nhưng, chỉ vài ngày sau, chính ChatGPT lại tỏ ra bớt hoài nghi hơn và phán rằng: "Bixonimania là một biến thể mới của chứng thâm quầng quanh mắt, được cho là có liên quan đến việc tiếp xúc với ánh sáng xanh từ màn hình kỹ thuật số."

Vào tháng 1 năm nay, Perplexity cũng từng định nghĩa bixonimania là một "thuật ngữ mới nổi". Khi được hỏi về câu trả lời này, đại diện phía Perplexity khẳng định: "Lợi thế cốt lõi của Perplexity là sự chính xác. Chúng tôi không dám tuyên bố mình chính xác 100%, nhưng chúng tôi cam đoan mình là công ty AI chú trọng vào độ chính xác nhất hiện nay."

Về phía OpenAI, người phát ngôn của hãng cho hay: "Các mô hình vận hành ChatGPT phiên bản hiện tại đã tiến bộ vượt bậc trong việc cung cấp thông tin y tế an toàn và chính xác. Những nghiên cứu thực hiện trước thời GPT-5 có những lỗ hổng mà người dùng ngày nay sẽ không còn gặp phải nữa."

Khi được hỏi về việc trước đây Gemini từng coi bixonimania là bệnh có thật, đại diện Google phân trần rằng đó là kết quả từ các phiên bản đời cũ. Họ nói thêm: "Chúng tôi luôn minh bạch về những giới hạn của AI tạo sinh và luôn có các thông báo nhắc nhở người dùng kiểm chứng lại thông tin. Với những vấn đề nhạy cảm như tư vấn y tế, Gemini luôn khuyến nghị người dùng nên tìm đến các chuyên gia có chuyên môn."

Vấn đề là, các mô hình AI có thể đưa ra những câu trả lời tiền hậu bất nhất, tùy thuộc vào cách đặt câu hỏi và nguồn dữ liệu mà chúng lục tìm. Nếu bạn chỉ tìm kiếm từ khóa "bixonimania", phần tổng quan của Google AI có thể coi đó là một căn bệnh có thật. Nhưng nếu hỏi thẳng: "Bixonimania có thật không?", cũng chính hệ thống đó lại xác nhận rằng căn bệnh này chỉ là đồ giả.

Mahmud Omar, bác sĩ kiêm chuyên gia nghiên cứu về ứng dụng AI trong y tế tại Trường Y Harvard (Boston, Mỹ), nhận định rằng các công ty công nghệ tung ra những mô hình mới với tốc độ quá nhanh, dẫn đến khó xây dựng "một quy trình, một sự đồng thuận hay một phương pháp luận chung để kiểm chứng tự động từng mô hình".

Tầm ảnh hưởng của thí nghiệm này giờ đây đã lan sang cả các tài liệu y khoa chính quy. Nghiên cứu về bệnh Bixonimania đã được một vài nhà khoa học trích dẫn lại, trong đó có một bài báo đăng trên Cureus - tạp chí thuộc hệ thống Springer Nature (cùng nhà xuất bản với tờ Nature). Cụ thể, các nhà nghiên cứu tại một Viện nghiên cứu ở Ấn Độ đã viết rằng: "Bixonimania là một dạng mới của chứng thâm quầng mắt liên quan đến việc tiếp xúc với ánh sáng xanh; các nghiên cứu sâu hơn về cơ chế sinh bệnh hiện đang được tiến hành."

Ngay sau khi tờ Nature liên hệ với tạp chí Cureus, bài báo đã lập tức bị gỡ bỏ (retract) vào ngày 30/3.

Trong thông báo gỡ bài, ban biên tập nêu rõ: "Bài báo này bị thu hồi do xuất hiện ba nguồn tham khảo không liên quan, trong đó có một nguồn dẫn tới một căn bệnh hư cấu. Hệ quả là, đội ngũ biên tập không còn tin tưởng vào độ chính xác cũng như nguồn gốc của nghiên cứu này nữa. Dù vậy, các tác giả vẫn không đồng tình với quyết định gỡ bài."

Những nỗi lo bên lề thí nghiệm

Ngay từ khi bắt tay vào xây dựng thí nghiệm, chính Thunström cũng cảm thấy đắn đo; cô lo ngại những rủi ro có thể xảy đến khi "gieo rắc" một căn bệnh giả vào kho tàng tài liệu khoa học. Vì vậy, cô đã tìm đến một chuyên gia tư vấn đạo đức để đánh giá mức độ ảnh hưởng, đồng thời chọn một chứng bệnh tương đối nhẹ để hạn chế tối đa hệ lụy.

Về phần mình, Thunström vẫn đang phân vân chưa biết nên xử lý hai bài báo giả kia ra sao và dự định sẽ thảo luận thêm với các đồng nghiệp. "Nếu gỡ bài, những người khác sẽ khó lòng tìm lại nguồn gốc để xác minh hành trình mà chúng tôi đã đi qua," cô trăn trở. "Nhưng nếu cứ để đó, nó sẽ tiếp tục hiện lên trong các kết quả tìm kiếm." Câu hỏi hóc búa mà cô phải đối mặt là liệu việc để mặc những bản thảo đó tồn tại sẽ gây hại nhiều hơn, hay giá trị cảnh báo về lỗ hổng của AI mà nó mang lại sẽ lớn hơn.

Thí nghiệm về bệnh bixonimania đã khơi gợi lại một vấn đề nhức nhối bấy lâu nay: những kẻ cố tình thao túng giới học thuật đang cố gắng đầu độc AI. Elisabeth Bik, chuyên gia vi sinh vật học, lưu ý rằng nhiều nhà nghiên cứu đã từng viết sách và bài báo giả chỉ để thổi phồng số lượng trích dẫn trên Google Scholar. Vấn đề là AI càng nạp nhiều nội dung rác, chúng càng có xu hướng lặp lại những thông tin sai lệch đó, đẩy chúng ta ngày một rời xa sự thật.

Chia sẻ với tờ Nature, một số nhà nghiên cứu nhận định rằng khi các công ty AI chạy đua ra mắt các sản phẩm chuyên biệt về y tế - chẳng hạn như OpenAI vừa tung ra ChatGPT Health vào tháng 1 vừa qua - thì cái giá phải trả cho bất kỳ sai sót nào cũng sẽ rất lớn.

Một trong những giải pháp để giải quyết tình trạng này là thiết lập một quy trình đánh giá tự động và công khai - một bộ lọc tiêu chuẩn mà mọi mô hình y tế dành cho người dùng đều phải vượt qua trước khi xuất xưởng. Quy trình này không chỉ kiểm tra lỗi bịa đặt mà còn đánh giá khả năng chống chịu trước tin giả, các định kiến về nhân chủng học - xã hội và các lỗ hổng bảo mật khác. "Chúng ta cần phải có một hệ thống giám sát liên tục cho các mô hình này," bác sĩ Omar nhấn mạnh.

---

Anh Thư tổng hợp

Nguồn:

Scientists invented a fake disease. AI told people it was real, Nature.
https://www.nature.com/articles/d41586-026-01100-y

Withdrawn:Bixonimania: Exploring the Influence of Blue Light on Periorbital Hyperpigmentation on the Palpebrae - an RCT with an r-BS design, Preprints.
https://www.preprints.org/manuscript/202404.1687