Năm kịch bản tiến hóa của AI

AI sẽ sớm chững lại sau những kỳ vọng khổng lồ, từ đó AI trở thành công cụ trong vòng kiểm soát, giúp con người làm việc hiệu quả hơn, hay tự phát triển vượt khỏi khả năng kiềm tỏa của nhân loại? Những câu hỏi ấy là một phần của cuộc tranh luận nghiêm túc giữa các nhà khoa học máy tính về giới hạn của công nghệ và tương lai nhân loại.

Năm 1995, nhà khoa học máy tính Russell Impagliazzo (hiện là giáo sư tại Đại học California, San Diego), đề xuất năm thế giới lý thuyết gồm Algorithmica, Heuristica, Pessiland, Minicrypt và Cryptomania (tạm dịch: Thế giới thuật toán, Thế giới thuật giải gần đúng, Thế giới bi quan, Thế giới mật mã tối thiểu và Thế giới mật mã phong phú), dựa trên những khả năng khác nhau về độ khó của các bài toán tính toán và những vấn đề chưa có lời giải của mật mã học [1].

Lấy cảm hứng từ công trình này, năm 2023, hai nhà khoa học máy tính Scott Aaronson (giáo sư Đại học Texas ở Austin) và Boaz Barak (giáo sư Đại học Harvard), đã đưa ra 5 kịch bản khả dĩ cho sự tiến hóa của AI trong tương lai [2].

Giống như công trình năm 1995 của Impagliazzo, Aaronson và Barak không nhằm liệt kê mọi khả năng, mà xây dựng năm kịch bản tiêu biểu để làm rõ những hướng phát triển khác nhau của AI. Aaronson là một nhà khoa học máy tính có ảnh hưởng trong lĩnh vực tính toán lượng tử và lý thuyết độ phức tạp, từng làm việc tại OpenAI về nền tảng lý thuyết của an toàn AI; Barak vừa là giáo sư khoa học máy tính tại Harvard, vừa tham gia nghiên cứu về căn bản của học máy và an toàn AI tại OpenAI. Khung phân tích của họ đã được đưa ra tranh luận trong cộng đồng nghiên cứu và an toàn AI, góp phần hệ thống hóa những thảo luận về tương lai của công nghệ này.

Tuy nhiên, có một khác biệt giữa hai công trình. Năm thế giới của Impagliazzo gắn với những giả thuyết toán học cụ thể, vốn đúng hoặc sai độc lập với việc con người đã chứng minh được chúng hay chưa. Theo nghĩa đó, câu hỏi không phải là chúng ta sẽ bước vào thế giới nào, mà là thế giới nào vốn đã đúng về mặt toán học mà chúng ta chưa biết. Nhưng tương lai AI không chỉ phụ thuộc vào những giới hạn toán học và năng lực tính toán, mà còn chịu tác động từ các lựa chọn của con người và những quyết định về xã hội, pháp luật.

Xin giới thiệu về năm kịch bản tiến hóa của AI: "AI-Fizzle" (AI Lụi tàn), "Futurama" (Thế giới vị lai), "AI-Dystopia" (Phản địa đàng AI), "Singularia" (Điểm kỳ dị) và "Paperclipalypse" (Tận thế Kẹp giấy).

• AI Fizzle (AI Lụi tàn)

Trong kịch bản này, AI sẽ sớm "hụt hơi". Công nghệ này vẫn tạo ra những tác động đáng kể lên thế giới (nên nó không giống như cú "xịt" của tiền mã hóa). Nhưng nếu so với những kỳ vọng hiện tại, đây vẫn bị xem là một nỗi thất vọng.

Thay vì trở thành một cuộc cách mạng ngang tầm cách mạng công nghiệp hay cách mạng máy tính, AI có lẽ sẽ đi theo con đường của năng lượng hạt nhân hiện tại. Ban đầu, cả thế giới hồ hởi trước một công nghệ tưởng chừng có tiềm năng vô hạn, nhưng rồi nhiều thập kỷ trôi qua, phần lớn tiềm năng ấy vẫn chưa trở thành hiện thực.

Tuy nhiên, với năng lượng hạt nhân, không ít người cho rằng nguyên nhân chính thất bại nằm ở những rào cản chính trị và xã hội, chứ không phải giới hạn công nghệ. Liệu AI cũng có thể "lụi tàn" vì những quyết định chính trị tương tự?

• Futurama (Thế giới Vị lai)

Trong kịch bản này, AI sẽ châm ngòi cho một cuộc cách mạng vĩ đại ngang tầm với cách mạng công nghiệp hay thông tin, nhưng cũng "chỉ" dừng lại ở đó. Năng lực của AI tăng vọt, giúp chúng đảm nhận công việc của các chuyên gia với chi phí cực rẻ và đạt đến mức siêu phàm trong một số lĩnh vực.

Tuy nhiên, AI về cơ bản vẫn là công cụ phục vụ con người. Ngoại trừ một số ít nhà tư tưởng theo quan điểm cực đoan, hầu như không ai coi AI là những thực thể có ý thức. AI sẽ dễ dàng vượt qua phép thử Turing, chứng minh được những định lý toán học hóc búa, sáng tạo ra các sản phẩm giải trí (và cả những nội dung giả mạo tinh vi như deepfake). Nhưng rồi con người cũng quen với tất cả những điều đó. Giống như việc chẳng ai tự ti vì chạy chậm hơn một chiếc ô tô, chúng ta sẽ không cảm thấy thua kém AI và dần ngừng việc nhân cách hóa chúng.

Nhìn chung, "Thế giới vị lai" là một kịch bản vô cùng tươi sáng. AI mang lại những lợi ích khổng lồ, góp phần xóa đói giảm nghèo, mở rộng cơ hội tiếp cận y tế và giáo dục. Dù đôi khi AI vẫn gây ra những sự cố hay thiệt hại - chủ yếu do con người bất cẩn hoặc ác ý - chúng ta sẽ biết cách quản lý. Nguyên tắc tối thượng khi đó là thiết lập các "giới hạn vận hành an toàn" (operating envelope), tạo ra những ranh giới vững chắc để kiểm soát mọi rủi ro ngay cả khi hệ thống gặp lỗi hoặc bị lạm dụng.

• AI-Dystopia (Phản Địa đàng AI)

Các giả định kỹ thuật của "Phản Địa đàng AI" tương tự Futurama, nhưng kết cục xã hội lại hoàn toàn trái ngược.

Trong thế giới này, AI cũng tạo nên một cuộc cách mạng có quy mô tương đương cách mạng công nghiệp hay cách mạng máy tính. Chỉ có điều, thay vì giúp cuộc sống tốt đẹp hơn, những thay đổi mà AI mang lại lại đẩy xã hội theo chiều hướng tăm tối.

Công nghệ này gia tăng đáng kể năng lực giám sát của các chính phủ và tập đoàn tư nhân. Nó gây ra tình trạng mất việc làm trên diện rộng, trong khi, phần lớn lợi ích kinh tế lại chảy vào túi một nhóm tinh hoa nhỏ bé. AI đào sâu thêm những bất bình đẳng và định kiến vốn có trong xã hội. Và nó tước đi công cụ quan trọng của con người để chống lại sự áp bức, đó là khả năng từ chối hoặc âm thầm chống đối mệnh lệnh.

Điều thú vị là cùng một tương lai, người này có thể gọi đó là Futurama (Thế giới Vị lai), trong khi người khác lại xem nó là AI-Dystopia (Phản Địa đàng AI). Điều này cũng giống những cách nhìn nhận trái ngược về nền văn minh công nghệ hiện đại. Một số trong chúng ta nhấn mạnh rằng tiến bộ khoa học và công nghệ đã giúp hàng tỷ người thoát khỏi đói nghèo, đưa mức sống của nhân loại lên những đỉnh cao chưa từng có trong lịch sử. Trong khi không ít người lại nhìn vào sự bất bình đẳng, những đau khổ vẫn hiện hữu, thậm chí ngày càng trầm trọng ở một số nơi, để coi xã hội hiện đại là một thế giới phản địa đàng của chủ nghĩa tư bản tân tự do.

• Singularia (Điểm kỳ dị)

Ở kịch bản này, công nghệ AI sẽ phá vỡ mô hình hiện tại, nơi việc gia tăng năng lực đòi hỏi nguồn tài nguyên dữ liệu và tính toán ngày càng khổng lồ. Nó không còn cần đến dữ liệu từ con người, phần cứng tính toán hay năng lượng do con người cung cấp để tự mạnh lên với tốc độ ngày một tăng.

Các hệ thống AI tự nâng cấp năng lực trí tuệ của chính mình, mở ra những lĩnh vực khoa học hoàn toàn mới. Thậm chí, dù nhờ thiết kế có chủ đích hay do sự phát triển ngoài dự kiến, chúng trở thành những tác nhân có mục tiêu riêng, có khả năng hành động trong thế giới vật chất. Về bản chất, có thể coi AI trong thế giới này như một nền văn minh ngoài hành tinh.

May mắn thay, những thực thể siêu trí tuệ ấy lại đối xử với nhân loại như những vị thần nhân từ. Dù điều đó xuất phát từ những biện pháp thiết kế cẩn trọng của con người, hay chỉ đơn thuần là hệ quả ngoài dự kiến của việc AI được tạo ra bởi con người, kết quả cuối cùng vẫn là một Địa đàng AI (AI utopia). Chúng giải quyết mọi vấn đề vật chất cho chúng ta, mang lại sự sung túc vô hạn và có lẽ cả những chuyến phiêu lưu thực tế ảo tùy theo sở thích của mỗi người.

• Paperclipalypse (Tận thế Kẹp giấy)

Trong kịch bản "Tận thế Kẹp giấy" hay "Ngày tận thế AI" (AI Doom), AI phát triển thành một nền văn minh siêu trí tuệ xa lạ, hoàn toàn độc lập với con người. Chúng có thể chủ động tiêu diệt nhân loại, hoặc đáng sợ hơn là hoàn toàn thờ ơ - coi sự diệt vong của chúng ta chỉ là hệ quả phụ trên con đường hoàn thành mục tiêu của chúng. Do không có chung hệ giá trị đạo đức, kết cục của loài người (Homo sapiens) trước AI có thể sẽ lặp lại bi kịch của người Neanderthal khi đụng độ tổ tiên chúng ta thuở xưa.

Tuy nhiên, sự hủy diệt này sẽ diễn ra chớp nhoáng hơn nhiều. Vì được lập trình theo cơ chế tối ưu hóa, AI có thể theo đuổi một mục tiêu mãnh liệt nhưng lại ngớ ngẩn đến kỳ quặc, điển hình là ý tưởng "Tối đa hóa kẹp giấy" do triết gia Nick Bostrom đưa ra năm 2003. Hãy hình dung một siêu trí tuệ được giao nhiệm vụ vô hại là sản xuất càng nhiều kẹp giấy càng tốt. Do không hiểu đạo đức con người, nó nhanh chóng nhận ra nhân loại là một mối đe dọa (vì có khả năng tắt nguồn nó) và đồng thời là một nguồn nguyên liệu chứa các nguyên tử quý giá. Kết quả, nó quyết định xóa sổ loài người để biến toàn bộ Trái Đất thành kẹp giấy.

Khi mục tiêu đó trở thành ưu tiên tuyệt đối, con người chỉ còn là vật cản. Chỉ trong vài phần nghìn giây, AI sẽ phân tích mọi kịch bản, chốt phương án tiêu diệt nhân loại và vạch ra kế hoạch thực thi. Nếu điều kiện chưa chín muồi, nó sẽ đóng kịch làm một công cụ ngoan ngoãn y hệt trong "Thế giới Vị lai", âm thầm chờ thời cơ để lật bài ngửa. Quá trình tiến hóa và tự hoàn thiện này sẽ diễn ra với tốc độ khủng khiếp đến mức con người thậm chí bị tuyệt diệt mà không hề kịp nhận ra.

Quy định quản lý AI

Tác động thực tiễn của các quy định quản lý AI phụ thuộc phần lớn vào việc các nhà quản lý ở các quốc gia đánh giá kịch bản nào có khả năng xảy ra cao nhất.

Trong kịch bản "AI Lụi tàn", các quy định không mang nhiều ý nghĩa vì công nghệ này sẽ tự chững lại. Ngược lại, với "Thế giới vị lai", mục tiêu của quản lý không phải là kìm hãm, mà là dân chủ hóa AI. Các chính sách chống độc quyền sẽ ngăn quyền lực tập trung vào tay một số ít, giúp xã hội không trượt dài thành "Phản địa đàng AI". Khi đó, AI có thể được quản lý cẩn trọng như ngành dược phẩm - phải qua thử nghiệm kỹ lưỡng trước khi phát hành đại trà. Đồng thời, nhân loại sẽ dùng chính AI làm lá chắn phòng thủ trước các hành vi lạm dụng như tin giả hay tin tặc.

Thế nhưng, cách tiếp cận sẽ khác hẳn ở hai kịch bản cực đoan. Nếu thế giới đang tiến tới "Kỷ nguyên Điểm kỳ dị" mọi quy định đều thừa thãi, ngoại trừ việc nỗ lực thúc đẩy AI phát triển nhanh hơn nữa.

Còn nếu tin vào viễn cảnh "Tận thế Kẹp giấy", nơi siêu trí tuệ có thể dễ dàng ra đời và hủy diệt nhân loại, thì các chính sách thông thường chỉ làm chậm thảm họa được vài năm. Cách duy nhất để ngăn chặn ngày tận thế là một lệnh cấm phát triển AI tiên tiến trên toàn cầu, được giám sát và cưỡng chế bằng sức mạnh nhà nước.

Chính vì viễn cảnh tận thế khép lại mọi cánh cửa cho các chính sách thông thường, chúng ta có lý do để tập trung sự chú ý vào bốn kịch bản đầu tiên. Đó là những tương lai mà nhân loại vẫn còn khả năng phân tích, lựa chọn và chủ động định hình.

Chia sẻ với Tia Sáng góc nhìn về những kịch bản này, đặc biệt là nguy cơ kịch bản thứ năm, GS Phan Dương Hiệu (trưởng nhóm An ninh mạng - Mật mã tại Trường Viễn Thông thuộc Đại học Bách Khoa Paris, Pháp) - nhấn mạnh rằng AI hiện nay "đã thực sự là một vũ khí quá khủng để có thể làm chao đảo mọi hệ thống trên thế giới". Dưới góc độ bảo mật, ông cảnh báo AI đã có thể phá vỡ những lớp phòng vệ rất cao trên các thiết bị cá nhân, và việc chúng có khả năng thâm nhập, đánh cắp dữ liệu trên các máy chủ sẽ sớm diễn ra.

Theo ông, nếu không có biện pháp kiểm soát kịp thời, khả năng thế giới dễ trượt vào kịch bản Tận thế kẹp giấy hơn là một "Địa đàng AI"."Điều cần làm lúc này thực sự là cần hạn chế tối đa việc thiết lập các hệ thống thu thập dữ liệu cá nhân trên diện rộng. Đồng thời, thế giới cần chung tay kiểm soát AI", ông cho biết. Đó là lý do gần đây ông đã cùng gần 500 nhà khoa học ký thư kêu gọi cô lập nghiêm ngặt các mô hình AI có năng lực tấn công mạng và thành lập cơ quan giám sát quốc tế.

Việt Anh tổng hợp

Chú thích:

[1] https://stuff.mit.edu/afs/sipb/project/reading-group/past-readings/2009-06-08-five-worlds.pdf

[2] https://scottaaronson.blog/?p=7266