Thuật toán đang dần can thiệp vào các quyết định của con người

Đảo ngược vai trò của con người và công nghệ

Năm 2011, nhiều người bị sốc khi một cuốn sách về loài ruồi được niêm yết giá ... hơn 23 triệu USD trên Amazon.

Vào thời điểm đó, Amazon có 17 bản sách tương tự được bán, trong đó chủ yếu được niêm yết giá trên dưới 35 USD, nhưng có 2 bản được niêm yết giá cao kỳ lạ bởi hai người bán hàng, tạm gọi là A và B. Một người ghi giá bán 1,7 triệu USD, còn người kia ghi giá 2,1 triệu USD.

Chỉ vài ngày sau, cuốn sách trên phần rao bán của A và B đã đua nhau tăng lên chóng mặt. Cứ khi người A tăng giá thì sách của người B cũng tăng theo và ngược lại. Đến cuối cùng, cuốn sách bị đẩy giá lên tới hơn 23 triệu USD – kỳ tích cho một cuốn sách học thuật!

Hóa ra, tờ Wired tìm hiểu, phía sau cuộc đua giá kỳ lạ này là bàn tay của các thuật toán. Hai nhà cung cấp trên Amazon đã sử dụng thuật toán định giá để có thể tự động thay đổi giá sản phẩm của mình dựa trên đối thủ cạnh tranh. Cuối cùng, một trong hai người bán đã phát hiện ra và quyết định hạ giá xuống chỉ còn hơn 100 USD.

Người bán đã phát hiện và sửa chữa lỗi sai từ thuật toán này. Nhưng câu hỏi đặt ra là điều gì sẽ xảy ra nếu những can thiệp kiểu này xảy ra mọi lúc - kể cả theo những cách mà chúng ta thậm chí còn không nhận ra?

Trong một nghiên cứu về tác động dài hạn của thuật toán đăng trên tạp chí Journal of the Association for Information Systems, hai giáo sư Dionysios Demetis và Allen S. Lee đã kết luận rằng theo thời gian, vai trò của công nghệ thông tin và con người đã bị đảo ngược. Trước đây, con người chúng ta sử dụng công nghệ như một công cụ. Giờ đây, công nghệ đã phát triển đến mức nó đang sử dụng và thậm chí kiểm soát lại chúng ta.

Theo GS. Dionysios Demetis, giảng viên môn Hệ thống quản lý tại Đại học Hull (Mỹ), con người chúng ta không chỉ bị gạt ra khỏi những quyết định mà máy móc đưa ra cho mình, mà còn chịu ảnh hưởng sâu sắc theo những cách khó lường.

Các ví dụ về việc thuật toán can dự vào đời sống xuất hiện ngày càng nhiều. Trong ngành luật ở Mỹ, trí tuệ nhân tạo (AI) đang dần thay thế các chuyên viên phân tích hồ sơ, khiến kết quả bào chữa hay truy tố một vụ án phần nào phụ thuộc vào thuật toán. Thậm chí, có một số nơi dùng phần mềm theo dõi và dự đoán xem tù nhân nào có nguy cơ tái phạm khi ra tù, từ đó ảnh hưởng trực tiếp đến quyết định người đó được ân xá hay tiếp tục bị giam giữ. Theo cách này, khi chấp nhận gợi ý tham khảo của các thuật toán, các thẩm phán đã chấp nhận uốn nắn tư duy theo những cơ chế ra quyết định mà chính họ cũng không thể hiểu hết.

Trong tuyển dụng, nhiều tập đoàn lớn đã sử dụng phần mềm để sàng lọc hồ sơ xin việc. Điều đó có nghĩa là một số ứng viên tiềm năng sẽ không bao giờ lọt vào mắt xanh của người tuyển dụng, vì họ đã bị máy móc loại bỏ. Hành động này không chỉ đặt sinh kế của người lao động vào tay máy móc, mà còn có thể vô tình tạo ra những thiên lệch trong tuyển dụng mà bản thân công ty không hề mong muốn - như trường hợp từng xảy ra tại Amazon.

Trong lĩnh vực tin tức và tài chính, các hệ thống phân tích cảm xúc tự động liên tục "lướt" internet để xem mọi người đang bàn luận về một công ty theo hướng tốt hay xấu. Những thông tin này sau đó được đưa vào các thuật toán giao dịch chứng khoán để tự quyết định cho chủ tài khoản mua hoặc bán cổ phiếu mà không cần người đó phải đọc từng bản tin.

Trên thực tế, các thuật toán hoạt động mà không có sự can thiệp của con người đóng vai trò quan trọng trong thị trường tài chính. Ví dụ, khoảng 85% giao dịch trên thị trường ngoại hối hiện nay được thực hiện hoàn toàn bằng thuật toán. Cuộc chạy đua phát triển các hệ thống giao dịch ngày càng tinh vi để giành lợi thế cạnh tranh trên thị trường đồng nghĩa với việc những dòng tiền khổng lồ tỷ đô đang được phân bổ dựa trên quyết định của máy móc chứ không phải con người.

Không chỉ trong những hệ thống lớn như tư pháp hay tài chính, thuật toán còn xuất hiện trong đời thường, quyết định tin tức nào ta đọc, video nào ta xem tiếp, quảng cáo nào bám theo ta suốt cả ngày, thậm chí gợi ý khi nào nên ngủ.

Hệ quả ngoài ý muốn

Ở quy mô nhỏ hơn, các kỹ sư và doanh nghiệp thiết kế thuật toán vẫn có thể định hướng cách những thuật toán này hoạt động và đưa ra quyết định. Nhưng vì phần lớn AI là các thuật toán có khả năng tự học và tự tìm ra cách hoàn thành nhiệm vụ, nên chúng ta thường không biết chính xác điều gì đứng sau các quyết định cuối cùng của AI đó.

Giống như mọi công nghệ khác, điều này có thể dẫn đến những hệ quả ngoài ý muốn, thậm chí vượt xa những gì mà người kỹ sư thiết kế thuật toán có thể hình dung.

Hãy nhìn vào vụ sụp đổ chớp nhoáng của chỉ số Dow Jones trong một phiên giao dịch hồi năm 2010. Các chương trình máy tính chuyên dùng để mua bán cổ phiếu tự động (gọi là thuật toán giao dịch) đã góp phần làm thị trường bốc hơi gần 9% chỉ trong vài phút.

Mặc dù đến cuối ngày, giá đã tăng trở lại và phần lớn thiệt hại được phục hồi, nhưng sau 5 tháng điều tra, cơ quan quản lý vẫn không thể xác định chắc chắn được điều gì đã châm ngòi cho cú sụt giảm đó.

Đáng chú ý là các thuật toán giao dịch không hề bị lỗi lập trình hay trục trặc gì cả. Hành vi giao dịch xuất hiện từ hàng triệu quyết định tự động qua lại lẫn nhau. Mỗi thuật toán tuân theo logic riêng của mình, và khi chúng "đẩy" thị trường theo cùng một hướng, hiệu ứng dây chuyền đã tạo ra một vòng xoáy lao dốc.

Việc các thuật toán giao dịch chi phối thị trường như vậy không diễn ra một sớm một chiều mà là kết quả của nhiều năm tích lũy, khi những người vận hành hệ thống giao dịch ngày càng cho rằng quyết định của con người là một ‘điểm nghẽn’, khiến thị trường vận hành kém hiệu quả hơn.

Hồi năm 1987, trong cú sập khiến thị trường chứng khoán Mỹ mất hơn 22% giá trị, một số nhà môi giới đã không nghe điện thoại để tránh phải thực hiện các lệnh bán của khách hàng. Điều này khiến khách hàng giận dữ vì không cắt được lỗ. Và dần dần, thị trường chứng khoán quyết định cắt giảm sự tham gia của con người, gia tăng sự hiện diện của máy móc, với kỳ vọng máy móc sẽ làm tốt hơn, trung thực hơn, đáng tin hơn con người trong hoạt động mua bán chứng khoán.

Giới tài chính đã chi hàng triệu đô la để xây dựng các tuyến cáp cực nhanh và hệ thống truyền tín hiệu sóng ngắn, chỉ để rút ngắn vài phần nghìn giây trong thời gian các thuật toán gửi lệnh giao dịch. Khi tốc độ được đẩy lên mức cực đoan như vậy, việc con người cần khoảng 215 mili giây để bấm một nút lệnh trở nên hoàn toàn thừa thãi. Vai trò duy nhất còn lại của chúng ta là can thiệp và điều chỉnh lại thuật toán khi các hệ thống công nghệ này gặp trục trặc.

Vấn đề nằm ở chỗ không một người nào thực sự hiểu toàn bộ hệ thống đang vận hành ra sao. Hành vi thị trường xuất hiện từ hàng triệu quyết định tự động tương tác lẫn nhau, tạo ra những hệ quả mà không ai dự đoán được.

Khi các thuật toán ngày càng tự học và vận hành như những "hộp đen", câu hỏi đặt ra không còn là có sử dụng thuật toán hay không, mà là xã hội sẽ thiết kế các cơ chế giám sát, can thiệp và phân định trách nhiệm như thế nào. Việc xác định đâu là những quyết định có thể giao cho máy móc, và đâu là những lựa chọn cần giữ lại cho con người, vì thế trở thành một vấn đề chính sách và đạo đức không thể né tránh.

Hồng Hạnh tổng hợp

---

Tài liệu tham khảo:

Dionysios Demetis. (2019), Algorithms have already taken over human decision making, The Conversation

Jeffrey Dastin, (2018), Amazon scraps secret AI recruiting tool that showed bias against women, Reuters.

Jill Treanor, (2015), The 2010 'flash crash': how it unfolded, The Guardian.