Nghĩ về chính phủ với AI
Theo Helen Margetts và Cosmina Dorobantu - những người phụ trách chương trình chính sách công của Viện Alan Turing ở London và nghiên cứu ở Viện Internet Oxford, trường Đại học Oxford, các nhà hoạch định chính sách nên khai thác dữ liệu để đảm bảo các dịch vụ công do mình cung cấp thuận lợi, hiệu quả và công bằng với người sử dụng.
Mỗi ngày, con người tạo ra hơn 2,5 x 1018đơn vị dữ liệu. Các doanh nghiệp đang triển khai các thuật toán AI dựa trên việc khai thác nguồn “tài nguyên” giàu có này, qua đó tăng thêm cho các hàng hóa và dịch vụ của mình hàng tỷ đô la mỗi năm. Ví dụ nhờ AI, Amazoncó thể gửi các mặt hàng mà họ dự đoán là các khách hàng sẽ mua tới những trung tâm vùng trước khi khách hàng nhấp chuột đặt qua mạng. Cũng nhờ mỏ dữ liệu khổng lồ của Google và Facebook, từng cửa hàng bánh ngọt hay xe đạp có thể hưởng lợi từ việc quảng cáo hướng tới mục tiêu cá nhân. Dữ liệu cũng có thể hỗ trợ việc dự đoán và ngăn ngừa các trường hợp tai nạn giao thông, tội phạm đường phố hay sự cần thiết của việc trông nom bọn trẻ. Dựa trên các mô hình tính toán hiện đại, người ta có thể cắt giảm các chi phí khổng lồ của việc chống lũ, bùng phát dịch bệnhvà khủng hoảng tài chính. Tất cả các dịch vụ đó có thể trở nên rẻ hơn và hiệu quả hơn.
Nhưng hiện tại các chính phủ vẫn còn phải vật lộn với những công nghệ còn đơn giản hơn nhiều. Các chính sách hàng đầu liên quan đến công nghệ thông tin vẫn còn được xây dựng và áp dụng một cách lúng túng. Đạo luật Bảo vệ bệnh nhân và Chăm sóc sức khỏe hợp túi tiền (The Affordable Care Act hay Obamacare) của cựu Tổng thống Obama gần như sụp đổ vào năm 2013 khi HealthCare.gov, trang web cho phép người Mỹ tham gia vào các kế hoạch bảo hiểm y tế, gặp phải vô số lỗi như ngăn không cho tạo tài khoản, không nhận biết được ai đã có tài khoản, đưa ra những tình huống không thể giải quyết được cho người truy cập, và không thể tính toán được các gói trợ cấp y tế. Universal Credit – cuộc cải cách lớn nhất của nhà nước phúc lợi Anh kể từ những năm 1940 về thanh toán an sinh xã hội, từng bị coi là thảm họa vì nó thất bại trong việc trả tiền cho người yêu cầu một cách thích đáng. Universal Creditcũng từng sự lãng phí tới 837 triệu bảng (tương đương 1,1 tỷ USD)vào phát triển một hợp phần của hệ thống số nhưng rút cục lại không hoạt động. Hệ thống trả tiền Phoenix của Canada, được giới thiệu vào năm 2016 để kiểm tra tiến trình trả lương của chính phủ liên bang, đã chi trả lương không chính xác tới 62% nhân viên chính phủ trong từng năm tài chính kể từ khi ra mắt. Và ở Australia, đến cuối tháng 1/2019, hơn 2,5 triệu người đã “phớt lờ” My Health Record, hệ thống hồ sơ y tế số của quốc gia,vì những lo ngại về bảo mật dữ liệu, an toàn và hiệu quả, chiếm khoảng 1/10 những người được cho là thích hợp với My Health Record.
Đổi mới công nghệ là vấn đề cốt lõi cho chính quyền duy trì vị trí của mình trong một thế giới tập trung vào dữ liệu. Lĩnh vực số này là nơi các công dân sống và làm việc, mua sắm và vui chơi, gặp gỡ và tranh luận. Giá cả hàng hóa được thiết lập bằng phần mềm. Có những công việc có được qua trung gian là các nền tảng online như Uber và Deliveroo. Những người bầu cử nhận được các thông tin mục tiêu – và cả thông tin “nhiễu” – thông qua truyền thông xã hội.
Vì vậy, để ứng dụng AI vào các nhiệm vụ vận hành các chính sách và các tổ chức chính phủ có hiệu quả hơn, thiết lập quyền của người lao động và đảm bảo sự minh bạch của những cuộc bỏ phiếu…, các chính phủ cần phải có hiểu biết về dữ liệu và các thuật toán, trong đó cần tiếp tục vào những ưu tiên chínhmà chúng tôi rút ra trong quá trình làm việc với các nhà hoạch định chính sách tại Viện Alan Turing.
Quản lý số
Quá trình hoạch định chính sách được thiết kế trong những thời điểm hết sức khác biệt.Các chính phủ phụ thuộc vào dữ liệu được xây dựng theo nhu cầu của người sử dụng(custom-built data), được thu thập thông qua các cơ quan phân tích quốc gia hoặc các cuộc điều tra quốc gia. Tuy nhiên điểm yếu của họ là không có truyền thống sử dụng dữ liệu giao dịch về hành vi của con người để cải thiện các chính sách hoặc dịch vụ như các doanh nghiệp.
Ngày nay, các tương tác của các chính phủ với công dân tạo ra những con đường của dữ liệu số. Ví dụ, các cơ quan cấp phép phương tiện giao thông có các bộ dữ liệu chứa thông tin về các loại xe của chúng ta, cách chúng ta thường dừng lại theo yêu cầu của cảnh sát giao thông, những tai nạn chúng ta thường gặp phải như thế nào, liệu chúng ta có trả thuế đường theo từng đợt và khi nào thì chúng ta nhận được (hoặc đánh mất) bằng lái xe…
AI có thể khai thác dữ liệu về các thói quen của các công dân để hỗ trợ chính phủ hoạt động theo ba cách:
1. Các dịch vụ công được cá nhân hóa có thể phát triểnphù hợp với những trường hợp riêng biệt. Giống như dữ liệu được sử dụng để quảng cáo, các phương pháp này có thể giúp các nguồn lực của chính phủ hướng đến các cá nhânhiệu quả. Ví dụ, tại bang Queensland, Australia, một nền tảng chính quyền số được xây dựng để có thể cung cấp các dịch vụ cá nhân hóa theo những yêu cầu của người dùng và thông qua những tương tác trong quá khứ của họ với chính quyền. Và tại New Zealand, ứng dụng trên điện thoại thông minh SmartStart cung cấp thông tin cá nhân hóa từ khắp các cơ quan chính phủ đến các bậc cha mẹ đang mong chờ ngày mãn nguyệt khai hoa, cho phép họ cơ hội điền vào các giấy tờ và có được giấy khai sinh ngay trên điện thoại của mình.
2. AI có khả năng giúp chính phủ tạo ra các dự báo ngày một chính xác để có thể lập kế hoạch chuẩn bị.Các thuật toán học máy có thể nhận diện các mẫu hình trong dữ liệu và sau đó dùng chúng để dự đoán các xu hướng hoặc sự kiện trong tương lai. Một số chính quyền địa phương của Anh đang thử nghiệm việc sử dụng các phân tích để đoán trước nhu cầu trong tương lai của các vùng đất mình quản lý như tình trạng vô gia cư,các dịch vụ khẩn cấp và các dịch vụ xã hội.Ví dụ,các mô hình học máy có thể mô phỏng yêu cầu tương lai cho giáo dục theo nhu cầu đặc biệt, và cách thay đổi như thế nào nếu như chính sách hoặc các yếu tố bên ngoài khác thay đổi.
AI có thể được sử dụng để hướng đến hỗ trợ thanh tra y tế hoặc an toàn thực phẩm. Ví dụ cơ quan y tế của Las Vegas, Nevada, đã làm việc với trường Đại học Rochester ở New York, để sử dụng dữ liệu truyền thông xã hội và học máy để nhận biết các nhà hàng hay xảy ra ngộ độc thực phẩm. Các nhà nghiên cứu ước tính, hệ thống của họ có thể ngăn ngừa khoảng 9.000 trường hợp ngộ độc thực phẩm và hầu như 560 trường hợp phải điều trị ở bệnh viện ở Las Vegas mỗi năm.
Dù còn nhiều tranh cãi nhưng việc dự báo có thể ứng dụng tới từng cá nhân. Các thuật toán học máy có thể xác định thời điểm bọn trẻ thường rời trường hay có khả năng lâm vào rủi ro dựa trên dữ liệu về tương tác trước đó của chúng với các cơ quan thuộc lĩnh vực công. Điều này có thể giúp chính quyền tối ưu được các nguồn lực đang khan hiếm. Một hệ thống cảnh báo sớm như vậy đã được áp dụng tại Mỹ và New Zealand, và một đang được xem xét ở Anh.
3. Các chính phủ có thể mô phỏng các hệ thống phức hợp, từ việc điều hành quân đội đến các lĩnh vực tư của toàn bộ quốc gia.Điều đó giúp chính phủ trải nghiệm với nhiều sự lựa chọn chính sách khác nhau và điểm trúng những hậu quả khó lường trước trước khi thực hiện cam kết theo đuổi một chính sách.
Các mô hình điện toán tác tử – chương trình tồn tại trong một môi trường nhất định, có khả năng tự động hành động, tự phản ứng lại sự thay đổi của môi trường nhằm đáp ứng mục tiêu đã được thiết kế trước – kết hợp với dữ liệu lớncó thể nắm bắt những phức tạp của thế giới thật nhiều hơn trước khi bắt đầu áp dụng để thử nghiệm các chính sách và can thiệpcủa chính quyền. Ví dụ, Ngân hàng Anh là một mô hình thị trường bất động sản Anh và mô phỏng các hiệu ứng của chính sách nhằm giảm nhẹ nguy cơ rủi ro tài chính. Chính quyền liên bang Mỹ đang đánh giá những tác động của các thảm họa tiềm năng như nổ bom hạt nhân tại trung tâm Washington DC. Và các cố vấn Mexico đang sử dụng một mô hình tính toán tác tử để nhận diện những gì mà chính phủ liên bang cần ưu tiên thực hiện nhằm đạt được những mục tiêu phát triển bền vững của Liên Hợp Quốc.
Năm thách thức AI
Tuy nhiên vẫn còn khoảng cách để có thể tạo ra xu thế chủ đạo AI trong chính phủ, như trường hợp dưới đây.
Cảnh sát nhận diện những người tham gia lễ hội tại London từ trên mái nhà. Nguồn: Nature
Năm 2017, Cảnh sát Trung tâm London thử nghiệm một thuật toán ghi nhận gương mặt tại một lễ hội có cả triệu người tham dự để nhận diện những người trong danh sách “truy nã”. Công nghệ này đã đánh dấu 35 người phù hợp với những “tiêu chuẩn” trong khi các nhân viên an ninh loại đi 30 người. 5 trường hợp còn lại bị cảnh sát không cấp quyền tham dự lễ hội. Tuy nhiên cuối cùng thì Cảnh sát Trung tâm London mới nhận ra rằng danh sách mà họ có được đều đã lạc hậu, có người từ lâu không còn dính dáng đến các băng đảng tội phạm nữa.
Thất bại này đã đưa ra 5 thách thức mà các chương trình ứng dụng AI đều gặp phải:
1. Mức độ chính xác của công nghệ này vẫn còn ở mức thấp. Do đó, các lực lượng an ninh – và cả các nhà hoạch định chính sách – sẽ phải nỗ lực xây dựng các ứng dụng học máy và AI dựa trên những vấn đề tương tự mà họ đã gặp phải trong quá trình xây dựng các hệ thống số họ xây dựng trước đó. Những vấn đề đó có thể là việc thiếu chuyên gia chuyên trách, lương bổng, khó khăn trong đánh giá công việc hợp với các các nhà cung cấp dịch vụ ở lĩnh vực tư, những rào cản văn hóa tồn tại từ những “tai nạn” công nghệ thông tin trong quá khứ.
2. Đây là sự đánh cược với mức rủi ro cao với các chính phủ.Khi Netflix – dịch vụ truyền dữ liệu video theo yêu cầu trên toàn cầu và thuê DVD trả phí tại Hoa Kỳ, để lỡ đề xuất của một khách hàng về một bộ phim thì hậu quả chưa lớn lắm nhưng với thất bại ở các dự án thuộc lĩnh vực công thì hậu quả rất lớn, nó ảnh hưởng đến cái nhìn về khả năng điều hành của chính phủ trong tương lai. Ví dụ, về cơ bản, việc sử dụng dữ liệu từ các cá nhân để cải tiến lĩnh vực y tế đều nhận được sự ủng hộ rộng rãi nhưng trong trường hợp dự án của chính phủ đưa ra bị thất bại như trường hợp Cơ quan Dịch vụ Y tế quốc gia Anh năm 2017 khi cơ quan này thỏa thuận cung cấp thông tin về bệnh nhân cho các cơ quan di trú. Lúc đó, nhiều người thuộc các quốc gia khácđã từ chối cung cấp dữ liệu y tế của mình cho họ. Điều này rút cục đã ảnh hưởng nghiêm trọng đến các nghiên cứu y học.
3. Việc các cơ quan công áp dụng AI cần được công khai.Cơ quan Cảnh sát Trung tâm London đã không thông báo thông tin về việc có bao nhiêu người tham dự lễ hội đã được hệ thống nhận dạng khuôn mặt nhận biết hoặc thông báo chi tiết về dữ liệu được thu thập và lưu trữ như thế nào. Sự minh bạch là yếu tố cốt lõi để đảm bảo niềm tin trong lĩnh vực công.
4. Các nhà hoạch định chính sách cần quyết định khi nào thích hợp cho việc sử dụng các dự đoán được xây dựng trên các thuật toán AI để đưa ra các quyết định về các cá nhân.Việc hướng đến số đông các công dân tôn trọng pháp luật với phần mềm nhận diện khuôn mặt để tìm ra một vài tội phạm có vẻ không được công bằng với họ, đồng thời lại đòi hỏi chi phí và nhân lực. Khi các nhà hoạch định chính sách áp dụng các công nghệ tương tự cho nhiều lĩnh vực thì có thể những vấn đề đạo đức bắt đầu xuất hiện. Ví dụ như trường hợp một trường học có thể làm gì trước một con số xác suất thống kê về khả năng 60% – hoặc thậm chí 98% – một học sinhcó thể bỏ học? Vậy sau đó là gì, chính quyền không cần đầu tư hoặc đầu tư ít hơn cho đứa trẻ đó?
5. Khi Cảnh sát Trung tâm London thử nghiệm công cụ nhận diện khuôn mặt vào năm 2017, họ đã không kiểm tra tính thiên kiến về chủng tộc của nó. Mặc dù có những chỉ dấu rõ ràng về khả năng này nhưng ngay tại thời điểm đó thì các thuật toán AI ít có độ chính xác hơn với đối tượng là người da đen và các cá nhân thuộc những nhóm thiểu số. Việc bỏ qua vấn đề thiên kiến trong thiết kế các ứng dụng AI đã làm tăng sự rủi ro khi duy trì thiên kiến. Việc thực thi những chính sáchgây tranh cãivới các cộng đồng vốn đã bị cách ly khỏi xã hội trong hàng thế kỷ đã để lại hậu quả: đẩy một số nhóm dân cư vào thế bất lợi trong các dữ liệu chính sách. Chính bản chất phụ thuộc vào dữ liệu để xác định các nghi phạm hoặc định hướng cho các cuộc điều tra cộng với độ thiếu chính xác của các thuật toán khi phân tích các khuôn mặt dựa trên màu da dường như góp phần gia cố thêm điều đó.
Tuy nhiên vẫn còn có những điều để hi vọng cho tương lai của việc áp dụng công nghệ AI. Việc sử dụng dữ liệu tốt hơn có thể thúc đẩy các nhà hoạch định chính sách có thể giải quyết đượcmột số vấn đề xã hội cố hữu. Một trong những vấn đề đólà thiên kiến có hệ thống trong việc đưa ra những quyết định pháp lý vốn tồn tại hàng thập kỷ trước khi AI ra đời. Dữ liệu cần cho việc dò theo những thiên kiến như vậy đã không được thu thập. Ví dụ, hệ thống tòa án Anh có xu hướng không ghi lại những đặc điểm của những người liên đới tới các vụ việc ở tòa như tuổi tác, sắc tộc, giới tính, tình trạng khuyết tật. Vào tháng 1 vừa qua, khi phản hồi một bình luận về chương trình hiện đại hóa các tòa án trị giá 1 tỷ bảng, Bộ Tư pháp Anh cam kết thu thập dữ liệu về các đặc điểm của những người đó nhằm giúp các tòa án có thể tránh sự thiên kiến trong xét xử.
Những bước tiếp theo
Dẫu trong cái nhìn của công chúng, những gã khổng lồ về công nghệ như Google, Amazon và Facebook đều đang dẫn đầu về phát triển AI nhưng các nhà nghiên cứu độc lập mới thực sự có thể tham gia nhiều hơn và đóng góp nhiều hơn cho các chính phủ để tăng cường tiềm năng công nghệ đó. Các viện nghiên cứu phát triển AI trên khắp thế giới cần phải giới thiệu với các nhà hoạch định chính sách những nghiên cứu mới nhất và hợp tác với họ để giải quyết những vấn đề chính sách tồn tại. Có thể ví dụ một vài nơi như Viện Alan Turing ở London, Anh; Viện Trí tuệ nhân tạo Stanford, California; Sáng kiến AI Đạo đức và quản trị do Viện Công nghệ Massachusettsvà trường Đại họcHarvard ở Cambridge, Massachusetts phụ trách.
Tại Viện Alan Turing, chúng tôi dùng học máy để nhận diện những kẻ phạm tội và nạn nhân của các vụ việc xảy ra, trải rộng từ phạm vi nô lệ hiện đại đến quá khích và cực đoan. Chúng tôi hướng đến việc hỗ trợ các nhà hoạch định chính sách kiểm soát các vấn đề đó và xây dựng những biện pháp đối phó. Chúng tôi đang dùng điện toán tác tử để mô phỏng các cấp độ yêu cầu của dịch vụ an ninh và cùng với Văn phòng Hội đồng thông tin Anh phát triển các hướng dẫn để giải thích cách đưa ra quyết định với sự hỗ trợ của thuật toán.
Các chính phủ cần phát triển các khung đạo đức cho việc áp dụng AI. Đã có một vài hành động tích cực như vậy ở một số lĩnh vực khác – ở Anh là Hội đồng về đạo đức sinh học Nuffieldvà Cơ quan phôi học và sinh sản người để gây dựng niềm tin vào các công nghệ như liệu pháp tế bào gốc. Đây chính là lý do căn bản thuyết phục Chính phủ Anh chấp thuận thành lập Trung tâm Dữ liệu Đạo đức và đổi mới sáng tạo, Viện nghiên cứuAda Lovelace ở London và các tổ chức tư nhân như tổ chức Partnership on AI.
Vượt ra ngoài mục tiêu tiết kiệm kinh phí hay tập trung nhiều hơn vào các vấn đề liên quan đến công dân, việc áp dụng khoa học dữ liệu và AIcòn giúp các nhà hoạch định chính sách nhận được những giá trị khác: giải quyết được những vấn đề tồn tại hàng thế kỷ trong các hệ thống quản lý của chính phủ. Bằng việc truy được gốc tích vấn đề, các công nghệ được xây dựng trên cơ sở dữ liệu có thể đề xuất cách con người có thể vượt qua chúng. Hiện chúng tôi có một số công nghệ chất lượng cao, ví dụ như khiến cho xe tự lái trở nên an toàn hơn so với những xe do con người điều khiển. Theo cách đó, chúng ta có thể chấp nhận một hệ thống quản lý ứng dụng AI có ít thiên kiến hơn. Và một chính phủ có sự hỗ trợ của dữ liệucó thể sẽ trở nên công bằng, minh bạch và phản hồi nhanh hơn chính phủ quan liêu.□
Anh Vũ lược dịch
Nguồn: https://www.nature.com/articles/d41586-019-01099-5
