Đằng sau mạng lưới bot chi phối sự phẫn nộ trên mạng xã hội

Nhờ "tác dụng phụ" ít ai ngờ tới của công nghệ AI, hoạt động thao túng "tâm lý đám đông" trên các nền tảng mạng xã hội đã được chuyên nghiệp hóa thành một ngành dịch vụ và tạo ra điều mà công chúng tưởng là phản ứng tự nhiên của xã hội.

Sự phẫn nộ được sản xuất có chủ đích

Đầu năm 2016, Giáo sư luật Benjamin Perrin của Đại học British Columbia đăng một bình luận trên Twitter liên quan đến hashtag #GoodRiddanceHarper, chủ đề đang thu hút nhiều tranh luận sau khi Thủ tướng Canada Stephen Harper từ chức. Ban đầu, bài đăng của ông chỉ nhận một phản hồi tiêu cực từ một tài khoản khác. Tuy nhiên, chỉ trong vài giờ, bình luận ấy bất ngờ thu hút hơn một nghìn lượt thích và chia sẻ, nhanh chóng trở thành ý kiến nổi bật nhất trong cuộc thảo luận.

Sau khi tìm hiểu, Perrin phát hiện sự bùng nổ tương tác không đến từ một làn sóng phản đối tự nhiên mà được khuếch đại bởi các mạng lưới phần mềm tự động sản xuất nội dung và tương tác. Các mạng lưới bot này có thể tạo ra hàng triệu tương tác giả để đánh lừa thuật toán của nền tảng mạng xã hội về mức độ phổ biến của một nội dung. Ông cảnh báo rằng nếu các kỹ thuật như vậy tiếp tục phát triển, chúng có thể trở thành công cụ hiệu quả để quấy rối và làm vô hiệu những tiếng nói phản biện trên không gian mạng [1].

Điều đáng chú ý trong câu chuyện không nằm ở số lượng tài khoản tấn công GS Perrin mà ở cách một phản ứng vốn rất nhỏ được khuếch đại, tạo cảm giác như cả cộng đồng đang đồng loạt lên án ông. Trong bối cảnh đó, người dùng bước vào cuộc tranh luận rất khó phân biệt đâu là sự phẫn nộ thực sự của công chúng và đâu là kết quả của một chiến dịch được tổ chức.

Trong nhiều năm, khi chứng kiến một cá nhân, doanh nghiệp hay tổ chức bất ngờ trở thành tâm điểm của những cơn bão chỉ trích trên mạng xã hội, chúng ta thường lý giải hiện tượng này như phản ứng tự phát của "đám đông". Cách nhìn đó ngày càng trở nên thiếu chính xác.

Các nghiên cứu trong lĩnh vực truyền thông số chỉ ra rằng nhiều chiến dịch tấn công trực tuyến hiện nay không còn vận hành như những phản ứng bộc phát của cộng đồng mà là kết quả của sự phối hợp có chủ đích giữa các công cụ tự động, các mạng lưới tài khoản được điều khiển và những người dùng thật. Hiện tượng này được gọi là tuyên truyền số (computational propaganda) [2].

Để đạt hiệu quả, các chiến dịch tuyên truyền số thường kết hợp với thao túng truyền thông (media manipulation), tức lợi dụng cách vận hành của hệ sinh thái truyền thông để khiến một thông điệp được lan truyền mạnh hơn, thu hút nhiều sự chú ý hơn và cuối cùng được nhìn nhận như một sự kiện có ý nghĩa xã hội [3].

Các phát hiện này đánh dấu một thay đổi quan trọng. Nếu trong truyền thông đại chúng trước đây, quyền lực chủ yếu nằm ở khả năng sản xuất nội dung, thì trong môi trường nền tảng số, quyền lực ngày càng chuyển sang khả năng điều phối sự chú ý.

Hệ sinh thái thao túng truyền thông

Nhìn từ bên ngoài, một cuộc tấn công trực tuyến thường xuất hiện rất đột ngột. Một phát ngôn gây tranh cãi, một đoạn video được cắt ghép hay một bài viết được diễn giải theo hướng tiêu cực chỉ sau vài giờ đã kéo theo hàng chục nghìn bình luận, chia sẻ và những lời kêu gọi tẩy chay. Cảm giác đầu tiên của người chứng kiến là "đám đông đã nổi giận". Nhưng thực tế, đằng sau nó có thể là cả một dây chuyền được tổ chức theo nhiều lớp, nơi con người, thuật toán và các công cụ tự động phối hợp với nhau để tạo ra điều mà công chúng tưởng là phản ứng tự nhiên của xã hội.

Không có một "bộ chỉ huy" duy nhất đứng sau tất cả chiến dịch này. Các nghiên cứu về tuyên truyền số và thao túng truyền thông cho thấy nhiều loại chủ thể khác nhau đang khai thác cùng một hạ tầng điều phối dư luận. Đó có thể là các công ty truyền thông bẩn (black PR) nhận xử lý khủng hoảng hoặc bôi nhọ đối thủ theo hợp đồng; các nhóm lợi ích kinh tế muốn thao túng danh tiếng của doanh nghiệp cạnh tranh; các mạng lưới hoạt động chính trị tìm cách gây ảnh hưởng đến dư luận; hoặc những cộng đồng trực tuyến được huy động để thúc đẩy một chương trình nghị sự nhất định.

Một thí dụ điển hình, tại Ba Lan, một công ty tư vấn truyền thông ngầm (được gọi dưới bí danh The Firm) trong 10 năm đã kiến tạo một hệ sinh thái khổng lồ với hơn 40.000 danh tính giả và hàng trăm nghìn tài khoản mạng xã hội có địa chỉ IP và tính cách riêng biệt để thao túng dư luận[4].

Tại Ukraine, các tập đoàn của các tỷ phú tài phiệt như Rinat Akhmetov đã sử dụng mạng lưới bot trực tuyến nhằm mục đích can thiệp và thao túng không gian thông tin trong nước [5].

Trong khi đó ở Mỹ, tỷ phú quản lý quỹ đầu cơ Robert Mercer đã tài trợ cho trang Breitbart News để theo đuổi đồng thời hai mục tiêu kinh tế và ý thức hệ, thực hiện chiến tranh thông tin chống lại báo chí chủ lưu [3]. Ngoài ra, các nhân vật chính trị như Steve Bannon đã chủ động tận dụng và "kích hoạt" các cộng đồng trực tuyến ẩn danh từ Gamergate, 4chan, 8chan và Reddit thành một lực lượng chính trị tập thể phối hợp sáng tạo meme và quấy rối để ủng hộ Donald Trump [6].

Dù mục tiêu khác nhau, họ đều chia sẻ một điểm chung là tìm cách kiến tạo môi trường để công chúng tự hình thành một kết luận có lợi cho mình. Minh chứng rõ nhất là chiến thuật "thao túng sự chú ý" (attention hacking) của hacker Andrew "weev" Auernheimer. Bằng cách xâm nhập các máy in tại các trường đại học để tự động in tờ rơi phân biệt chủng tộc, Auernheimer đã lợi dụng logic chú ý của truyền thông để biến những thông điệp cực đoan vốn ít khi được thảo luận thành chủ đề được báo chí chính thống đưa tin rộng rãi, buộc không gian công cộng phải tiếp nhận và tự tranh luận [3].

"Điểm kích nổ" của một chiến dịch tấn công mạng

Một chiến dịch thường bắt đầu không phải bằng việc phát tán hàng loạt thông tin, mà bằng việc lựa chọn đúng mục tiêu: doanh nghiệp, người nổi tiếng, quan chức hoặc sự kiện xã hội có khả năng khơi dậy cảm xúc mạnh.

Sau khi xác định được mục tiêu, người điều phối tiếp tục tìm kiếm một "điểm kích nổ". Đó có thể là một phát ngôn gây tranh cãi, một đoạn video bị cắt khỏi bối cảnh, một hình ảnh dễ gây hiểu lầm hoặc một sơ xuất. Điều đáng chú ý là nguyên liệu của chiến dịch thường không hoàn toàn bịa đặt. Thay vì dựng nên một câu chuyện hoàn toàn giả, những người đứng sau chiến dịch thường sử dụng một phần sự thật rồi đặt nó vào ngữ cảnh mới để dẫn dắt công chúng đến những diễn giải có lợi cho mục tiêu của họ.

Từ đây, cỗ máy điều phối dư luận bắt đầu vận hành theo nhiều lớp. Lớp đầu tiên không phải là hàng chục nghìn người dùng thật, mà chỉ là một mạng lưới tương đối nhỏ gồm bot (các tài khoản hoạt động tự động), các tài khoản kết hợp giữa con người và phần mềm tự động (cyborg account), các tài khoản giả được chuẩn bị từ trước và đôi khi cả các "trang trại tương tác" (click farm) - nơi nhiều người được thuê để đồng loạt bấm thích, chia sẻ hoặc bình luận nhằm tạo cảm giác một nội dung đang được quan tâm. Họ đồng loạt đăng tải cùng một nội dung, sử dụng chung hashtag, chia sẻ cùng một đường dẫn hoặc lặp lại những thông điệp giống nhau trong một khoảng thời gian rất ngắn. Mục tiêu của giai đoạn này không phải là tạo ra dư luận ngay lập tức mà là tạo ra các tín hiệu để đánh lừa thuật toán. Như Emilio Ferrara và các cộng sự đã chỉ ra, bot trong kỷ nguyên nền tảng không cần phải thuyết phục con người trước tiên; điều chúng cần là khiến hệ thống phân phối nội dung tin rằng một chủ đề đang thu hút sự quan tâm của cộng đồng [7].

Khi thuật toán bắt đầu ưu tiên phân phối nội dung, chiến dịch bước sang lớp thứ hai. Các tài khoản có lượng người theo dõi lớn, những cộng đồng trên Facebook, Telegram, Discord hoặc các nhóm trực tuyến có chung quan điểm tiếp tục chia sẻ và bình luận để duy trì đà lan truyền. Lúc này, ranh giới giữa hành vi được tổ chức và sự tham gia tự phát dần trở nên mờ nhạt. Nhiều người dùng nhìn thấy chủ đề vì nó liên tục xuất hiện trên bảng tin và tin rằng mình chỉ đang tham gia vào một cuộc tranh luận bình thường. Thực chất, họ đang trở thành mắt xích tiếp theo trong một quá trình đã được thiết kế từ trước.

Đến khi lượng tương tác đạt đến một ngưỡng nhất định, chiến dịch gần như không còn phụ thuộc vào những người điều phối ban đầu. Thuật toán tiếp tục mở rộng phạm vi phân phối; báo chí bắt đầu chú ý đến chủ đề đang "gây bão"; còn người dùng thật tạo ra phần lớn bình luận, chia sẻ và tranh luận. Điều vốn khởi đầu từ một nhóm rất nhỏ lúc này mang hình hài của một làn sóng dư luận rộng lớn. Thành công lớn nhất của chiến dịch không nằm ở số lượng bot được huy động, mà ở chỗ chính công chúng đã tiếp quản công việc khuếch đại mà không nhận ra mình đang tham gia vào một quá trình điều phối. Đó cũng là cơ chế tạo nên "ảo tưởng về sự đồng thuận": một quan điểm của số ít dần xuất hiện trước mắt rất nhiều người như thể đó là tiếng nói của số đông [8].

Nếu chỉ dừng ở khía cạnh chính trị, chúng ta sẽ bỏ qua một động lực quan trọng khác của những chiến dịch này: kinh tế của sự chú ý. Khi khả năng điều phối tương tác có thể mang lại lợi ích kinh tế, nó nhanh chóng trở thành một loại dịch vụ được mua bán trên thị trường. Theo khảo sát về thao túng truyền thông năm 2020 của Viện Internet Oxford, hoạt động thao túng dư luận trên mạng xã hội đã được chuyên nghiệp hóa thành một ngành dịch vụ với hơn 65 công ty chuyên nhận tổ chức các chiến dịch thao túng thông tin theo đơn đặt hàng, hoạt động tại 48 quốc gia. Kể từ năm 2009, gần 60 triệu USD đã được chi để thuê các dịch vụ này. Chỉ trong giai đoạn từ tháng 1/2019 đến tháng 11/2020, Facebook và Twitter đã phải gỡ bỏ hơn 317.000 tài khoản và trang thuộc các mạng lưới thao túng có tổ chức [9].

Nhìn từ góc độ trên, chiến dịch tấn công trực tuyến hoạt động như một dây chuyền sản xuất công nghiệp. Nó vận hành bằng sự phân công rõ ràng: có người đặt hàng, có người lựa chọn mục tiêu, có người thiết kế thông điệp, có người tổ chức mạng lưới khuếch đại và có những hệ thống thuật toán đảm nhiệm khâu phân phối. Sản phẩm cuối cùng của dây chuyền ấy không phải là một tin giả hay một hashtag mà là môi trường nhận thức, nơi công chúng nhìn thấy một số chủ đề nhiều hơn những chủ đề khác, cảm nhận một số ý kiến phổ biến hơn thực tế và từ đó tự hình thành kết luận rằng đó chính là tiếng nói của số đông. Đó cũng là sự dịch chuyển quan trọng của quyền lực trong thời đại nền tảng: thay vì nằm chủ yếu ở việc kiểm soát người khác nghĩ gì, quyền lực ngày càng nằm ở khả năng kiểm soát điều kiện để người khác đi đến kết luận mà không nhận ra rằng môi trường thông tin quanh mình đã được sắp đặt.

Đáng chú ý hơn, quá trình ấy không kết thúc trên mạng xã hội. Trong môi trường truyền thông số, báo chí cũng chịu áp lực theo dõi những chủ đề đang tạo ra nhiều tương tác để không bị bỏ lại phía sau trong cuộc cạnh tranh về tốc độ và lượng truy cập. Khi một câu chuyện "gây bão" được báo chí phản ánh, nó lập tức có thêm tính chính danh và lại tiếp tục được thuật toán khuếch đại. Marwick và Lewis mô tả đây là một vòng lặp giữa truyền thông xã hội và truyền thông chính thống, trong đó mỗi bên vô tình củng cố khả năng hiển thị của bên còn lại [3].

Kỳ tới: Để không vô tình trở thành mắt xích trong dây chuyền 'sản xuất sự phẫn nộ'

---

Chú thích:

[1] Dubois, E., & McKelvey, F. (2019). Canada: Building bot typologies. In S. C. Woolley & P. N. Howard (Eds.), Computational propaganda: Political parties, politicians, and political manipulation on social media (pp. 64-81). Oxford University Press.

[2] Woolley, S. C., & Howard, P. N. (2019). Introduction: Computational propaganda worldwide. In P. N. Howard & S. C. Woolley (Eds.), Computational propaganda: Political parties, politicians, and political manipulation on social media (pp. 3-16). Oxford University Press.

[3] Marwick, A., & Lewis, R. (2017). Media manipulation and disinformation online. Data & Society Research Institute.

[4] Gorwa, R. (2019). Poland: Unpacking the ecosystem of social media manipulation. In P. N. Howard & S. C. Woolley (Eds.), Computational propaganda: Political parties, politicians, and political manipulation on social media (pp. 86-101). Oxford University Press.

[5] Zhdanova, M., & Orlova, D. (2019). Ukraine: External threats and internal challenges. In P. N. Howard & S. C. Woolley (Eds.), Computational propaganda: Political parties, politicians, and political manipulation on social media (pp. 41-63). Oxford University Press

[6] Daniels, J., Gregory, K., & McMillan Cottom, T. (Eds.). (2022). The Oxford handbook of digital media sociology. Oxford University Press.

[7] Ferrara, E., Varol, O., Davis, C., Menczer, F., & Flammini, A. (2016). The rise of social bots. Communications of the ACM, 59(7), 96-104. https://doi.org/10.1145/2818717

[8] Lerman, K., Yan, X., & Wu, X.-Z. (2016). The "majority illusion" in social networks. PLOS ONE, 11(2). https://doi.org/10.1371/journal.pone.0147617

[9] Bradshaw, S., Bailey, H., & Howard, P. N. (2021). Industrialized disinformation: 2020 global inventory of organized social media manipulation (Working Paper 2021.1). Project on Computational Propaganda, Oxford Internet Institute, University of Oxford. https://demtech.oii.ox.ac.uk/research/posts/industrialized-disinformation/