AI trong an ninh công cộng: Nguy cơ ‘vườn kín’ dữ liệu?

Trí tuệ nhân tạo (AI) đang thay đổi mạnh mẽ cách chúng ta sống, làm việc và quản trị, đặc biệt trong lĩnh vực y tế và dịch vụ công, hứa hẹn hiệu quả và quyết định nhanh chóng hơn. Tuy nhiên, đằng sau sự chuyển đổi này là một mất cân bằng ngày càng tăng: khả năng thu thập dữ liệu của chúng ta đã vượt xa khả năng quản trị nó một cách có trách nhiệm, đặt ra những thách thức không nhỏ.

AI: Từ tiềm năng đến thách thức về dữ liệu

Trí tuệ nhân tạo (AI) không còn là một khái niệm khoa học viễn tưởng. Nó đã và đang len lỏi vào mọi ngóc ngách của đời sống, hứa hẹn mang lại những đột phá cho hiệu quả hoạt động và tốc độ ra quyết định, đặc biệt trong các lĩnh vực nhạy cảm như y tế công cộng và dịch vụ công.

Tuy nhiên, sự phát triển vũ bão của AI cũng kéo theo một “cơn khát” dữ liệu khổng lồ. Và chính tại đây, một vấn đề nghiêm trọng đã nảy sinh: trong khi công nghệ cho phép chúng ta thu thập dữ liệu với tốc độ chưa từng thấy, năng lực quản trị và bảo vệ nguồn dữ liệu đó lại chưa theo kịp. Điều này không đơn thuần là một thách thức công nghệ, mà đã leo thang thành một cuộc khủng hoảng tiềm tàng về quyền riêng tư.

Từ phần mềm dự đoán trị an, công cụ giám sát đến hệ thống nhận diện biển số tự động, dữ liệu cá nhân đang được thu thập, phân tích và sử dụng với tốc độ chóng mặt. Đáng lo ngại hơn, phần lớn người dân không hề hay biết ai đang sở hữu dữ liệu của họ, chúng được sử dụng ra sao, và liệu có được bảo vệ an toàn hay không.

“Vườn kín dữ liệu”: Mối nguy tiềm ẩn trong an ninh công cộng

Trong bối cảnh đó, một khái niệm cần được đặc biệt lưu tâm là “vườn kín” (walled gardens). Đây là những hệ thống đóng, nơi một công ty duy nhất kiểm soát hoàn toàn việc truy cập, luồng lưu thông và cách thức sử dụng dữ liệu.

Thế nào là “vườn kín”?

Khái niệm “vườn kín” không hề xa lạ trong thế giới công nghệ, đặc biệt phổ biến ở lĩnh vực quảng cáo và mạng xã hội. Hãy nghĩ đến các nền tảng khổng lồ như Facebook, Google hay Amazon – nơi dữ liệu người dùng được thu thập và khai thác trong một hệ sinh thái riêng biệt, do chính họ kiểm soát.

Điều đáng báo động là mô hình “vườn kín” này đang ngày càng xuất hiện nhiều hơn trong lĩnh vực an ninh công cộng. Các công ty công nghệ an ninh công cộng đóng vai trò then chốt trong việc xây dựng cơ sở hạ tầng cảnh sát hiện đại. Tuy nhiên, bản chất độc quyền của một số hệ thống này đồng nghĩa với việc chúng thường không được thiết kế để tương tác trơn tru với các công cụ từ những nhà cung cấp khác.

Nguy cơ từ “vườn kín” trong an ninh công cộng

Những “vườn kín” này có thể cung cấp các chức năng mạnh mẽ như lưu trữ cảnh quay từ camera gắn người trên nền tảng đám mây hoặc hệ thống nhận diện biển số tự động. Thế nhưng, chúng cũng tạo ra một sự độc quyền về cách dữ liệu được lưu trữ, truy cập và phân tích.

Hậu quả là các cơ quan thực thi pháp luật thường thấy mình bị “khóa chân” vào các hợp đồng dài hạn với những hệ thống độc quyền, không thể “nói chuyện” với nhau. Kết quả là sự phân mảnh dữ liệu, thông tin bị cô lập và cuối cùng là suy giảm khả năng phản ứng hiệu quả trong cộng đồng vào những thời điểm quan trọng nhất. Đây chính là một trong những thách thức lớn nhất mà AI mang lại nếu chúng ta không giải quyết triệt để vấn đề quyền riêng tư dữ liệu ngay từ bây giờ.

Sự thiếu hiểu biết của công chúng: Mảnh đất màu mỡ cho lạm dụng

Phần lớn công chúng không nhận thức được lượng thông tin cá nhân khổng lồ của họ đang chảy vào các hệ thống “vườn kín” này. Tại nhiều thành phố, vị trí, phương tiện di chuyển, hoạt động trực tuyến và thậm chí cả trạng thái cảm xúc của bạn có thể được suy luận và theo dõi thông qua một mạng lưới chắp vá các công cụ do AI điều khiển.

Những công cụ này có thể được quảng bá là nâng cấp giúp chống tội phạm. Nhưng trong bối cảnh thiếu vắng sự minh bạch và các quy định chặt chẽ, chúng rất dễ bị lạm dụng. Vấn đề không chỉ nằm ở chỗ dữ liệu tồn tại, mà còn ở chỗ nó tồn tại trong các hệ sinh thái khép kín, được kiểm soát bởi các công ty tư nhân với sự giám sát tối thiểu từ cộng đồng hay các cơ quan độc lập.

Lấy ví dụ, các công cụ như hệ thống nhận diện biển số xe hiện đã có mặt tại hàng ngàn cộng đồng trên khắp Hoa Kỳ, liên tục thu thập dữ liệu và đưa vào mạng lưới độc quyền của nhà cung cấp. Các sở cảnh sát thường thậm chí không sở hữu phần cứng; họ thuê nó. Điều này có nghĩa là quy trình xử lý dữ liệu, phân tích và cảnh báo đều do nhà cung cấp quyết định, chứ không phải dựa trên sự đồng thuận của cộng đồng hay các tiêu chuẩn công khai.

Hồi chuông cảnh báo: Tại sao “vườn kín” làm xói mòn công lý?

AI cần dữ liệu để hoạt động. Nhưng khi dữ liệu bị khóa chặt bên trong các “vườn kín”, nó không thể được đối chiếu chéo, xác thực hoặc thách thức. Điều này dẫn đến việc các quyết định quan trọng – ai bị chặn xe kiểm tra, nguồn lực được phân bổ đi đâu, hay ai bị gắn cờ là mối đe dọa – lại được đưa ra dựa trên thông tin cục bộ, đôi khi không chính xác hoặc thiếu sót.

Nguy cơ ra quyết định sai lầm

Nguy cơ ở đây là gì? Đó là những quyết định thiếu chính xác, nguy cơ vi phạm quyền tự do dân sự và một khoảng cách ngày càng lớn giữa các cơ quan cảnh sát và cộng đồng mà họ phục vụ. Sự minh bạch bị xói mòn. Niềm tin bốc hơi. Và sự đổi mới bị kìm hãm, bởi vì các công cụ mới không thể tham gia thị trường trừ khi chúng tuân thủ những ràng buộc của các hệ thống “vườn kín” này.

Hãy tưởng tượng một kịch bản nơi hệ thống nhận diện biển số gắn cờ nhầm một chiếc xe là xe bị đánh cắp dựa trên dữ liệu lỗi thời hoặc được chia sẻ không chính xác. Nếu không có khả năng xác minh thông tin đó trên các nền tảng khác hoặc kiểm tra lại quy trình ra quyết định, nhân viên thực thi pháp luật có thể hành động dựa trên những thông tin sai lệch (dương tính giả). Thực tế, đã có những sự cố mà công nghệ thiếu sót dẫn đến bắt giữ oan sai hoặc các cuộc đối đầu leo thang không cần thiết. Những hậu quả này không phải là giả thuyết; chúng đang xảy ra trong các cộng đồng.

Giải pháp cho lực lượng thực thi pháp luật: Hướng tới hệ sinh thái mở và khả năng tương tác

Thay vì khóa chặt dữ liệu, chúng ta cần các hệ sinh thái mở hỗ trợ việc chia sẻ dữ liệu an toàn, được tiêu chuẩn hóa và có khả năng tương tác. Điều này không có nghĩa là hy sinh quyền riêng tư. Ngược lại, đó là cách duy nhất để đảm bảo các biện pháp bảo vệ quyền riêng tư được thực thi.

Một số nền tảng đang nỗ lực hướng tới mục tiêu này. Ví dụ, FirstTwo cung cấp các công cụ nhận biết tình huống theo thời gian thực, nhấn mạnh vào việc tích hợp có trách nhiệm dữ liệu công khai. Những nền tảng khác, như ForceMetrics, tập trung vào việc kết hợp các bộ dữ liệu khác nhau như cuộc gọi 911, hồ sơ sức khỏe hành vi và lịch sử sự cố trước đó để cung cấp cho nhân viên thực thi pháp luật bối cảnh tốt hơn tại hiện trường. Quan trọng hơn cả, các hệ thống này được xây dựng với ưu tiên hàng đầu là nhu cầu an ninh công cộng và sự tôn trọng cộng đồng, chứ không phải là yếu tố xem xét sau cùng.

Xây dựng hạ tầng ưu tiên quyền riêng tư: Vượt trên cả công nghệ

Một cách tiếp cận ưu tiên quyền riêng tư không chỉ đơn thuần là biên tập lại thông tin nhạy cảm. Nó có nghĩa là hạn chế quyền truy cập dữ liệu trừ khi có nhu cầu rõ ràng, hợp pháp. Nó có nghĩa là ghi lại tài liệu về cách các quyết định được đưa ra và cho phép kiểm toán của bên thứ ba. Nó cũng có nghĩa là hợp tác với các bên liên quan trong cộng đồng và các nhóm dân quyền để định hình chính sách và việc triển khai. Những bước đi này sẽ giúp tăng cường an ninh và tính hợp pháp tổng thể.

Khoảng trống pháp lý và bài học từ GDPR

Mặc dù có những tiến bộ công nghệ, chúng ta vẫn đang hoạt động trong một khoảng trống pháp lý. Hoa Kỳ thiếu một luật liên bang toàn diện về quyền riêng tư dữ liệu, khiến các cơ quan và nhà cung cấp phải tự đặt ra các quy tắc. Trong khi đó, Châu Âu có Quy định chung về Bảo vệ Dữ liệu (GDPR), cung cấp một lộ trình cho việc sử dụng dữ liệu dựa trên sự đồng thuận và trách nhiệm giải trình. Ngược lại, Hoa Kỳ chỉ có một loạt các chính sách chắp vá ở cấp tiểu bang, không giải quyết thỏa đáng sự phức tạp của AI trong các hệ thống công.

Điều này cần phải thay đổi. Chúng ta cần các tiêu chuẩn rõ ràng, có thể thực thi về cách các tổ chức thực thi pháp luật và an ninh công cộng thu thập, lưu trữ và chia sẻ dữ liệu. Và chúng ta cần đưa các bên liên quan trong cộng đồng vào cuộc đối thoại. Sự đồng thuận, minh bạch và trách nhiệm giải trình phải được lồng ghép vào mọi cấp độ của hệ thống, từ mua sắm, triển khai đến sử dụng hàng ngày.

Kết luận

Trong lĩnh vực an ninh công cộng, nơi mà mỗi quyết định đều có thể ảnh hưởng đến sinh mạng con người, ý tưởng rằng một nhà cung cấp duy nhất có thể kiểm soát quyền truy cập vào dữ liệu quan trọng và hạn chế cách thức, thời điểm sử dụng dữ liệu đó không chỉ là kém hiệu quả, mà còn là phi đạo đức. Chúng ta cần vượt qua lầm tưởng rằng đổi mới và quyền riêng tư là hai mặt đối lập. AI có trách nhiệm đồng nghĩa với các hệ thống công bằng, hiệu quả và có trách nhiệm giải trình cao hơn. Điều này đòi hỏi phải từ chối sự trói buộc của nhà cung cấp, ưu tiên khả năng tương tác của hệ thống và yêu cầu các tiêu chuẩn mở. Bởi vì trong một xã hội dân chủ, không một công ty nào được phép độc quyền kiểm soát dữ liệu quyết định ai được giúp đỡ, ai bị chặn lại, hay ai bị bỏ lại phía sau. Việc đảm bảo quyền riêng tư và khả năng tương tác phải song hành để AI thực sự phục vụ lợi ích cộng đồng.