Công nghệ nhận diện: Mối đe dọa khủng khiếp

Một công nghệ mới đang được tung hô, được khắc họa như một cây đũa thần giúp theo dõi và bắt tội phạm nhanh chóng, thực ra lại mang tiềm năng biến đa phần con người thành nô lệ.

Ảnh: AnitaVDB/iStock; Thor Alvis/Unsplash.

Hệ thống camera giám sát ở khắp phố phường, các hộ gia đình vốn được thiết lập để kiểm soát tội phạm có một lỗ hổng lớn: hệ thống này tạo ra một dung lượng video khổng lồ mà không có một nguồn lực nào đủ để xử lý và phân tích các hình ảnh được ghi lại. Hơn nữa, khi có một vụ án xảy ra, kẻ phạm tội có nhiều tiếng đồng hồ, thậm chí là nhiều ngày để chạy trốn, trước khi người ta phát hiện ra cuốn băng ghi lại tội ác đó, nếu không muốn nói rằng có khi người ta còn chẳng phát hiện ra. 

Khi một công nghệ không hiệu quả, thì đó là cơ hội cho những đổi mới sáng tạo liên tục diễn ra. Đối với trường hợp của camera giám sát, thì công nghệ nhận diện khuôn mặt được cho là một giải pháp hoàn hảo bởi nó vừa rẻ, vừa nhanh, lại quá tiện – chỉ cần “cài thêm” mà không cần thay thế toàn bộ hệ thống camera sẵn có.  
Truyền thông đại chúng cũng hưởng ứng cho công nghệ ảo diệu này. Trong các phim khoa học viễn tưởng, công nghệ nhận diện khuôn mặt hiện lên như một cây đũa thần. Các bộ phim tô hồng những thám tử và cảnh sát cứu nhân loại chỉ cần công nghệ nhận diện khuôn mặt là bắt được ngay kẻ thủ ác. Thật là hư cấu bởi cốt truyện và nhân vật trong những tác phẩm viễn tưởng được dàn dựng nào có sống trong một xã hội phức tạp, với vô số đức tin, trải nghiệm và các vấn đề đa chiều khác nhau? Sự hào nhoáng của những bộ phim viễn tưởng kinh phí khủng đi kèm với những công nghệ mà người xem nhìn qua đã thấy “sành điệu”, như một thứ bùa mê đối với các nhà công nghệ vốn dùng sự “viễn tưởng” như một chỉ dẫn để tạo ra những công nghệ họ ao ước, còn với những quan chức chính quyền, những người xoay sở với chút ngân sách ít ỏi mà mua được những công nghệ “mới nhất và đỉnh nhất” thì thấy bản thân mình được nâng tầm cả về thành tựu lẫn địa vị. Những nhà công nghệ thường cũng không lo, hoặc không quen nghĩ tới việc những gì họ làm sẽ ảnh hưởng đến xã hội như thế nào. Trong khi đó, các chính quyền sẵn sàng thí điểm công nghệ thì có vẻ hoặc là do họ bị lóa mắt bởi những hứa hẹn về hiệu quả và tác động của công nghệ mới, hoặc là họ hiểu nhầm về những gì sẽ xảy ra với địa phương của mình. 

Nói chung, công nghệ nhận diện khuôn mặt đưa ra lời hứa ngọt ngào rằng nó sẽ giúp xác định và bắt những kẻ thủ ác một cách dễ dàng, như trong các bộ phim, mà cơ quan nghiệp vụ không phải nhúng tay vào những việc “lằng nhằng” như là xây dựng các mối quan hệ và kết nối với mọi người trong cộng đồng. Cảnh sát dùng phần mềm thì dù sao cũng an toàn hơn là đối đầu trực diện với những kẻ tình nghi là tội phạm nguy hiểm hay là mạo hiểm tiếp xúc với người khác để đánh giá xem liệu họ có phạm tội hay không. Với cách này, lý do vốn được dùng để bảo vệ cho việc lắp camera giám sát, giờ tiếp tục được dùng cho nhận diện khuôn mặt, không khiến ai trong cộng đồng còn có chút nghi ngờ gì nó nữa. 

Chỉ tiếc rằng, dữ liệu dùng để nhận diện khuôn mặt không thể thay thế cách những tri thức về cộng đồng chúng ta đang sống, bởi vì nếu không thì chúng ta sử dụng và phân tích những dữ liệu đó kiểu gì? Công nghệ không hoạt động hiệu quả một cách công bằng và bình đẳng đối với tất cả mọi người, đặc biệt là với những người nằm trong nhóm da màu hay thuộc giới tính thứ ba. Một nghiên cứu của Đại học MIT năm 2018 đã chỉ ra rằng, ba hệ thống phân tích khuôn mặt phổ biến chỉ xác định sai 0.8% người trong nhóm đàn ông da sáng nhưng lại xác định sai tới 34.7% người trong nhóm phụ nữ da màu. Nếu triển khai bắt tội phạm, nguy cơ bắt nhầm người thật sự nghiêm trọng.   


Cảnh sát Mỹ thường xuyên dùng công nghệ nhận diện khuôn mặt trong điều tra, bắt tội phạm. Ảnh: Claire Merchlinsky/NBC Newsa

Phần mềm nhận diện khuôn mặt là một đổi mới sáng tạo trên hệ thống camera giám sát – được triển khai để giải quyết một vấn đề xã hội. Nhưng thực ra, không phải công nghệ, chỉ có con người mới có thể giải quyết được các vấn đề xã hội. Con người mới là những kẻ phải áp dụng công nghệ để giải quyết những vấn đề đó, và chúng ta buộc mình đối diện với những phân vân lớn: Dùng công nghệ nào thì hợp lí, công nghệ nào thì không và công nghệ nào để tạo nên “một xã hội an toàn và lành mạnh?” 

Chưa cần thu thập đủ thông tin từ công chúng, đã bắt đầu có câu trả lời cho những câu hỏi trên. Những công nghệ dùng cho nhận diện khuôn mặt đang tràn lan và rẻ mạt trên thị trường, được dùng dù không có quy định của pháp luật và không có sự minh bạch, là đáng quan ngại nhất. Hơn nữa, rất có khả năng những cơ quan công an thiếu nhân lực, ngân sách hạn hẹp, hoặc thiếu kinh nghiệm trong triển khai công nghệ lại tiện lấy luôn hướng dẫn sử dụng của các công ty bán công nghệ nhận diện khuôn mặt thành tiêu chuẩn áp dụng trong điều tra, giám sát tội phạm. 

Một khi phần mềm nhận diện khuôn mặt của các công ty, chẳng hạn như Amazon được áp dụng một cách rộng rãi – chúng ta sẽ trở thành chuột bạch cho đủ loại thí nghiệm khác nhau – rồi một ứng dụng công nghệ tối tân khác có thể ra đời: công nghệ trí tuệ nhân tạo dựa trên nhận diện khuôn mặt để đưa ra các kết luận về bản thân chúng ta và hành vi của chúng ta. Mà thực ra nó đã diễn ra rồi, công nghệ trí tuệ nhân tạo và nhận diện khuôn mặt đang được ứng dụng để giám sát 11 triệu người Duy Ngô Nhĩ, một nhóm người thiểu số Hồi giáo ở Trung Quốc.  

“Công nghệ nhận diện khuôn mặt được kết nối vào hệ thống camera giám sát ngày một dày đặc của Trung Quốc, được dành riêng để quan sát người Duy Ngô Nhĩ dựa trên vẻ bề ngoài của họ, ghi lại nhất cử nhất động của họ nhằm phục vụ cho việc đánh giá và tìm kiếm của chính phủ đối với cộng đồng người này,” theo tờ New York Times gần đây. “Việc này khiến Trung Quốc trở thành nước tiên phong trong việc áp dụng công nghệ thế hệ mới để theo dõi người dân, có khả năng sẽ thúc đẩy một kỷ nguyên mà sự phân biệt chủng tộc được diễn ra một cách tự động và mặc định”. 

Chính quyền và các công ty Trung Quốc đang dùng công nghệ nhận diện khuôn mặt để bắt kẻ tình nghi tại những sự kiện đại chúng lớn và trong cả những hoạt động thường ngày: nhận diện người dân tại sân bay và tại khách sạn, bêu riếu công khai những người vi phạm giao thông và để cá nhân hóa các quảng cáo. Công nghệ nhận diện khuôn mặt cũng đang được áp dụng rộng rãi trên khắp nước Mỹ, cho mục đích từ an ninh biên giới đến quảng cáo ở siêu thị. Một tập đoàn bất động sản ở New York còn định dùng công nghệ nhận diện khuôn mặt để kiểm soát người dân sống trong các tòa nhà cho thuê giá rẻ của họ. 

Chúng ta có lẽ đang chứng kiến giai đoạn quá độ của các công nghệ trưởng thành theo cách bất ngờ tới mức vừa thách thức tất cả giới hạn chịu đựng của chúng ta, vừa thử thách những quy tắc xã hội thông thường. Chẳng hạn, một khi chúng ta bị “nhận diện” ở tất cả mọi nơi chúng ta đi qua, chúng ta sẽ liên tục bị “lập hồ sơ”. Khi chúng ta bị “lập hồ sơ”, thì mọi hành vi của chúng ta đều có thể dự đoán bằng máy móc. Một khi hành vi của chúng ta có thể bị “dự đoán” bởi chính phủ và bởi các nhà quảng cáo, chúng ta sẽ mất đi quyền tự chủ (và có lẽ là mất luôn khả năng phân biệt thật và ảo) dưới bàn tay của thuật toán đang tạo ra những dữ liệu về chúng ta còn đáng tin cậy hơn cả những gì chúng ta hiểu về bản thân mình và những người xung quanh. 


Công ty Walgreens dùng công nghệ nhận diện khuôn mặt để quảng cáo trên các tủ đông trong siêu thị. Nếu ‘Walgreens’ nhìn thấy bạn đang mua bia vào thời điểm bốn giờ chiều, màn hình sẽ “mời” bạn mua thêm pizza trong tủ đông để ăn cho bữa tối.  

Đúng là đôi lúc người ta có thể tạm hi sinh sự tự chủ của mình vì sự tiện lợi, nhưng sẽ là bất thường nếu chúng ta lúc nào cũng bị buộc làm như vậy. Đó là sự nô lệ hóa. Ứng dụng trí tuệ nhân tạo để tối ưu hóa hiệu quả của công nghệ nhận diện khuôn mặt nhân danh sự tiện lợi là một bước tiến nguy hiểm của đổi mới sáng tạo liên quan đến công nghệ giám sát bởi vì chúng ta bị buộc phải từ bỏ từng chút một tự do của bản thân mình. 

Nhưng để cấm sử dụng phần mềm nhận diện khuôn mặt hoàn toàn không phải là chuyện đơn giản. Những người làm luật và các công ty công nghệ như Microsoft hầu hết chỉ muốn thúc đẩy các khuôn khổ pháp luật gửi cảnh báo rõ ràng tới người dân rằng chỗ họ đi qua có sử dụng công nghệ nhận diện khuôn mặt. Tuy nhiên, nếu người dân không có cách nào khác để thoát khỏi việc bị nhận diện tại các địa điểm trên, bất kể là công cộng hay tư nhân, ngoài việc rời khỏi khu vực đó, thì cảnh báo cũng chẳng có ích gì. Và nếu không có cách nào để tránh việc bị nhận diện bởi một hệ thống sẽ có ảnh hưởng khủng khiếp trong tương lai như vậy, thì con người bắt đầu bị nô lệ hóa. Chính vì vậy, các khuôn khổ luật pháp chặt chẽ và nghiêm khắc để hạn chế việc sử dụng công nghệ nhận diện khuôn mặt là vô cùng quan trọng, nhất là tại thời điểm công nghệ đang phát triển như vũ bão hiện nay. 

Một khi công nghệ nhận diện khuôn mặt và trí tuệ nhân tạo được áp dụng rộng rãi trong một môi trường thiếu vắng khuôn khổ pháp luật để kiểm soát nó một cách nghiêm túc, con người sẽ bị bỏ rơi, trở thành công cụ cho doanh nghiệp hay chính phủ khi họ cần đến danh tính và địa chỉ của chúng ta. Việc sử dụng công nghệ chỉ còn được dẫn dắt bởi lòng tham, lợi nhuận, quyền lực. 

Chúng ta muốn dùng công nghệ nhận diện khuôn mặt để tìm ra “kẻ xấu” nhưng thực ra “kẻ xấu” lại chính là những người đứng sau thúc đẩy công nghệ này, những người muốn chúng ta từ bỏ nhân dạng, từ bỏ danh tính, từ bỏ cá tính – để họ không chỉ kiếm lợi nhuận từ đó mà còn dùng nó như một phương thức phân loại chúng ta và kiểm soát xã hội ta đang sống. Đó là lí do tại sao công nghệ nhận diện khuôn mặt là một công nghệ quan trọng để chúng ta tranh luận và ngày càng nhiều người mong nó bị cấm sử dụng trong xã hội loài người. □

Hảo Linh phỏng dịch
Nguyên gốc: https://www.fastcompany.com/90336549/the-creeping-threat-of-facial-recognition
—–
*Tiến sĩ, nhà nhân học với hướng nghiên cứu tập trung vào tự chủ của con người (human agency), thuật toán, trí tuệ nhân tạo, tự động hóa trong các mối quan hệ và hệ thống xã hội.