Một mặt AI có thể mang lại lợi ích lớn cho xã hội, nó cũng có thể làm xói mòn các tiêu chuẩn được chấp nhận về quyền riêng tư và quyền tự do dân chủ hiện tại.
Tiến bộ mang lại rủi ro
Dù AI hứa hẹn có thể cải thiện an toàn công cộng trong khi cắt giảm chi phí, công dân và chính phủ cũng cần xem xét các rủi ro tiềm ẩn của nó. Những rủi ro chính trong lĩnh vực này là:
- Công nghệ không hoàn hảo. AI không hoàn hảo, và phần lớn công nghệ này chưa đáp ứng được các tiêu chuẩn cần thiết để sử dụng nó với niềm tin trong lĩnh vực an toàn công cộng. Một ví dụ thường được trích dẫn là phần mềm nhận dạng khuôn mặt của Amazon, mà đã kết hợp 28 thành viên của Quốc hội Mỹ với các bức ảnh hình sự năm 2018. Một thử nghiệm nhận dạng khuôn mặt tại lễ hội Notting Hill 2017 cũng chỉ chính xác 2%.
- Những ví dụ này cho thấy tại thời điểm này trong quá trình phát triển của mình, chính phủ và các bộ phận an toàn công cộng không thể chỉ đơn giản là “bật AI lên” và lấy kết quả của nó làm sự thật. Ngoài ra, một mặt phân tích của công nghệ này có thể tránh được sai sót và thành kiến của con người, AI thực sự làm tồi tệ thêm bất kỳ sai sót nào được khắc vào lập trình hệ thống. Học máy có thể hấp thụ những thành kiến của các nhà thiết kế và mã hóa chúng thông qua các liên kết đã biết dựa trên cơ sở nền tảng không chính xác. Chính phủ cần biết rằng các thuật toán được sử dụng là công bằng và đáng tin cậy trước khi họ áp dụng AI.
- Các lo ngại về quyền tự do dân chủ và quyền riêng tư. Các nhóm nhân quyền trên toàn cầu đã bày tỏ mối quan ngại của họ về tiềm năng AI rằng nó làm xói mòn quyền tự do dân chủ và quyền riêng tư của công dân, đặc biệt là về an toàn công cộng. Các tổ chức từ lực lượng cảnh sát đến các hãng hàng không hiện có thể thu thập và sử dụng tất cả các loại dữ liệu cá nhân mà không có sự nhận biết hoặc cho phép của công dân. Mỗi ngày, các cá nhân thường để hồ sơ dữ liệu của họ mất dần quyền kiểm soát mà thường không nhận ra điều đó, thông qua các hoạt động như xét nghiệm DNA thương mại, nộp hồ sơ thuế và sàng lọc an ninh ưu tiên tại các sân bay. Các chính phủ sau đó có thể sử dụng dữ liệu này để, ví dụ, đánh giá khả năng một người nào đó nộp tiền bảo lãnh trong khi chờ xét xử. Họ thậm chí có thể “xếp hạng” các công dân, như trong chương trình điểm tín dụng xã hội gây tranh cãi ở Trung Quốc.
Trong một báo cáo được phát hành gần đây, Liên minh Tự do Dân sự Mỹ đưa ra một số kịch bản đáng lo ngại có thể xảy ra. Ví dụ, một cảnh sát trưởng có thể nhận được một danh sách hàng ngày về các công dân thường hay xuất hiện ở nơi công cộng. Chỉ báo này có thể là một cái gì đó như thay đổi về dáng đi, lời nói hoặc các hành động khác được ghi lại trên camera giám sát.
Như vậy, trong khi AI có thể mang lại lợi ích lớn cho xã hội, nó cũng có thể làm xói mòn các tiêu chuẩn được chấp nhận về quyền riêng tư và quyền tự do dân chủ hiện tại.
Các yếu tố chính phủ cần xem xét
Để chống lại sự bào mòn trong quyền tự do dân chủ và quyền riêng tư của công dân, chính phủ sẽ cần áp dụng một bộ các nguyên tắc cơ bản để sử dụng AI trong việc đảm bảo an toàn xã hội, bao gồm:
- Xây dựng các biện pháp để bảo vệ sự riêng tư và ngăn ngừa sự thiên vị
- Đảm bảo các nỗ lực AI phù hợp với các nguyên tắc pháp lý hiện hành
- Tạo sự tin cậy bằng cách giao tiếp với cộng đồng một cách chủ động và minh bạch
- Bao gồm những góc nhìn chuyên sâu và đánh giá của con người trong phân tích cuối cùng về các hoạt động AI
Nếu các chính phủ tuân thủ các nguyên tắc này, họ có thể quản lý hiệu quả hơn tác động mang tính chuyển đổi của AI và tác động tích cực đến cuộc sống của công dân trong khi bảo vệ quyền riêng tư của họ.
Tóm lược
AI có thể đóng một vai trò quan trọng trong các lĩnh vực an toàn xã hội ở phạm vi rộng như ma túy, răn đe tội phạm, ứng phó thảm họa thiên nhiên và kiểm soát đám đông. Nhưng khi các chính phủ khám phá những triển vọng mà AI mang đến, họ cũng phải xem xét các rủi ro của nó đối với quyền tự do dân chủ và quyền riêng tư, cũng như hồ sơ hỗn hợp về độ chính xác và thành kiến.
