7 phút đọc 31 thg 1 2020
Traffic night freeway lights

AI đang dần trở thành nhân viên bảo vệ cộng đồng như thế nào

Tác giả George Atalla

EY Global Government & Public Sector Leader

Working with governments to address complex issues and build a better working world.

7 phút đọc 31 thg 1 2020

AI đang dần trở thành nhân viên bảo vệ cộng đồng như thế nào .

Trí tuệ nhân tạo (AI) có thể hỗ trợ trong công cuộc chiến đấu chống tội phạm và giúp các cộng đồng trở nên an toàn hơn. Mặc dù AI có tiềm năng trong việc tiết kiệm nguồn nhân lực và bảo vệ sự sống, điều này chỉ được phát huy khi các tổ chức sử dụng nó tốt.

An toàn xã hội  bao gồm một loạt trách nhiệm của chính phủ, từ việc giữ gìn an ninh công cộng cho đến ứng phó với thiên tai. 

Các công nghệ AI là lời cam kết cho việc cải thiện tính an toàn trong tất cả các trách nhiệm đó. Chẳng hạn, tiềm năng của nó là giảm thiểu, ngăn chặn và ứng phó với tội phạm để tạo ra một cơ hội đặc biệt để xây dựng các cộng đồng an toàn hơn: cho đến nay, AI đã được ứng dụng để nhận dạng khuôn mặt và hình ảnh, quản lý các hiện trường vụ án và phát hiện các hành vi phạm tội. 

An toàn xã hội  bao gồm một loạt trách nhiệm của chính phủ, từ việc giữ gìn an ninh công cộng cho đến ứng phó với thiên tai. Các công nghệ AI là lời cam kết cho việc cải thiện tính an toàn trong tất cả các trách nhiệm đó. Chẳng hạn, tiềm năng của nó là giảm thiểu, ngăn chặn và ứng phó với tội phạm để tạo ra một cơ hội đặc biệt để xây dựng các cộng đồng an toàn hơn: cho đến nay, AI đã được ứng dụng để nhận dạng khuôn mặt và hình ảnh, quản lý các hiện trường vụ án và phát hiện các hành vi phạm tội.
Carl Ghattas
Giám đốc Điều hành, Lãnh đạo bộ phận An ninh Mạng của Chính phủ và Khu vực Công, EY

AI cũng có thể mạnh tay thu gọn hợp lý các công việc hành chính đơn giản, đồng thời cung cấp sự phân tích tiên tiến vượt xa khả năng của con người. Nhờ đó, nó có thể tiết kiệm được ngân sách, thời gian, và bảo vệ sự sống. Ở đây, chúng tôi sẽ tập trung vào năm lĩnh vực mà chúng tôi thấy chính phủ các nước đang chú trọng và bắt đầu đi vào khai thác tiềm năng to lớn này. 

Các lĩnh vực an toàn công cộng - cơ hội chín muồi cho AI thâm nhập 

1. Chính sách ngăn ngừa 

Chính phủ trên khắp thế giới đang sử dụng AI để dự đoán và ngăn chặn tội phạm. Tại Mỹ, các cơ quan thực thi pháp luật trong bộ máy chính quyền thành phố - bao gồm New Orleans và Los Angeles - đã làm việc với khu vực tư nhân để tạo ra các chương trình giữ gìn an ninh công cộng dự đoán. Chính quyền ở đây sử dụng dữ liệu để theo dõi những cá nhân có mối quan hệ với các thành viên khác trong băng đảng, tra ra tiền án phạm tội trước đây và phân tích các bài đăng trên truyền thông xã hội. Trong một trường hợp, một chương trình có thể xác định liệu một tội phạm có liên quan đến băng đảng hay không bằng cách đánh giá bốn tiêu chí: khu vực lân cận và địa điểm của tội phạm, số lượng nghi phạm và vũ khí chính được sử dụng. Một số nhà phát triển AI khẳng định công cụ của họ cũng có thể dự đoán khả năng các cá nhân thực hiện bạo lực hoặc trở thành nạn nhân của bọn tội phạm. 

Một lĩnh vực khác có thể được hưởng lợi từ việc phân tích dự đoán là tội phạm bạo lực. Chính phủ Anh đang phát triển một hệ thống gọi là Giải pháp Phân tích Dữ liệu Quốc gia (NDAS). Giải pháp này sẽ sử dụng số liệu thống kê và AI để đánh giá nguy cơ ai đó phạm tội hoặc trở thành nạn nhân của những tội ác này, để các cơ quan có thể can thiệp kịp thời. 

2. Hỗ trợ điều tra tội phạm 

Mặc dù AI đóng vai trò quan trọng trong việc dự đoán và ngăn chặn sự thỏa hiệp đối với an toàn xã hội, vai trò của nó cũng được phát huy khi xảy ra các trường hợp như tai nạn, tội phạm hoặc thảm hoạ. Ở Nam Phi, công nghệ ShotSpotter đã được phát huy trong việc chống lại 2 loại tội phạm khác nhau: săn trộm động vật hoang dã trong Vườn quốc gia Kruger và bạo lực súng đạn tại hai thị trấn ở Cape Town. Năm 2018, bằng chứng thu thập được từ các cảm biến ShotSpotter đã kết án thành công vụ nổ súng liên quan đến băng đảng ở Cape Town sau khi cảnh báo này khiến cảnh sát phải xem lại đoạn phim trên camera an ninh CCTV. 

Ngoài bản án hình sự năm ngoái, công nghệ này cũng đã góp phần đẩy nhanh tiến độ hơn gấp 5 lần trong việc thu hồi súng bất hợp pháp ở hai thị trấn nơi triển khai công nghệ, một phần nhờ vào khả năng cung cấp dữ liệu chính xác về hoạt động liên quan đến súng. 

3. Chống lại các mối đe dọa khủng bố 

Nhiều công ty công nghệ đang xem trí thông minh nhân tạo là một đồng minh quan trọng trong việc chống khủng bố. Các chính phủ rất muốn khám phá cách tiếp cận: năm 2018, Bộ Nội vụ Anh tiết lộ một công cụ AI mới có thể phát hiện 94% chương trình tuyên truyền của Daesh (ISIS) với độ chính xác hơn 99,9%. Nó sử dụng học máy để xác định xem tài liệu trong video có phải là tuyên truyền khủng bố hay không. Vì công cụ này được tích hợp vào quá trình đăng tải video, nó ngăn chặn nội dung cực đoan lên mạng và tước đi một kênh tuyển dụng có giá trị của các tổ chức khủng bố. Thật không may, trong khi Chính phủ Anh đã đầu tư rất nhiều vào công cụ này, các công ty công nghệ đã từ chối áp dụng nó cho đến nay, một phần vì thiếu yêu cầu quy định khiến nó trở thành ưu tiên chưa được chú trọng. 

AI cũng là một công cụ có giá trị trong việc xác định các hoạt động ngân hàng đáng ngờ liên quan đến tài trợ khủng bố. Nó có thể bổ sung các hệ thống hiện có để theo dõi các giao dịch với phân tích máy ngày càng tinh vi phát hiện ra sự bất thường trong dữ liệu và liên tục cập nhật các cảnh báo đã biết. AI có khả năng khai thác dữ liệu nhanh và nhiều hơn, cùng với số lượng tiêu chí cảnh báo lớn hơn so với các phương pháp kiểm toán truyền thống. 

4. Ứng phó với các thảm họa thiên nhiên  

Do các yếu tố như biến đổi khí hậu và đô thị hóa gia tăng, số lượng thảm họa thiên nhiên - và số lượng người bị ảnh hưởng - tiếp tục tăng lên. 

Các chính phủ trên toàn cầu đã sử dụng AI như một phương pháp tương đối rẻ nhưng mang lại hiệu quả ấn tượng để phát hiện: 

  • Nơi sẽ xảy ra thảm họa thiên nhiên 
  • Khu vực nào sẽ bị ảnh hưởng nặng nề nhất 
  • Các hệ thống giảm thiểu có khả năng thất bại cao nhất 
  • Cộng đồng và nhân khẩu học nào sẽ gặp nguy hiểm nhất 
  • Những hành động nào có khả năng giảm thiểu tác động của thảm họa và hậu quả của nó nhất 

Tính trung bình, lũ lụt ở Ấn Độ gây thiệt hại kinh tế ước tính khoảng 7,4 tỷ USD mỗi năm. Sau ba tháng lũ lụt vào năm 2018 đã khiến hơn 1.400 người chết, Ủy ban Nước Trung ương của Bang đã hợp tác với Google để tạo ra một hệ thống cảnh báo lũ lụt. Cách tiếp cận sử dụng các công nghệ AI, lập bản đồ địa lý và phân tích dữ liệu nước để cảnh báo khi lũ lụt đến và bắt nguồn từ đâu, nhờ đó các cơ quan có thể hành động kịp thời. CWC và Google đã gửi cảnh báo đầu tiên vào tháng 9 năm 2018, cảnh báo cư dân Patna về mưa lớn và có khả năng xảy ra lũ lụt. 

5. Kiểm soát đám đông và giao thông 

Cho dù họ tham gia các sự kiện thể thao, sự kiện tôn giáo hay biểu tình, đám đông đều mang đến những thách thức về mảng hậu cần và an toàn đối với các nhân viên an ninh. Một số chính phủ đã nhờ đến các công nghệ AI để giảm bớt sự bất trắc và rủi ro trong khi di chuyển đám đông và ứng phó với các mối đe dọa bên trong họ. 

Tại Nhật Bản, Cơ quan Cảnh sát Quốc gia đã bắt đầu thử nghiệm AI trong các lĩnh vực điều tra khủng bố và điều tra tội phạm. Điều này sẽ bao gồm việc sử dụng AI để tự động phát hiện các vật thể bị bỏ rơi và cách hành xử khác thường của mọi người tại các cuộc thi thể thao lớn và cả trong các sự kiện và hội nghị quốc tế. Hệ thống sẽ cảnh báo cho các nhân viên an ninh, những người sau đó có thể đánh giá tình hình và xác định đường lối hành động. Nếu thành công, Cơ quan Cảnh sát Quốc gia sẽ áp dụng các phương pháp trên cho Thế vận hội 2020 tại Tokyo. 

Năm 2019, cảnh sát Ấn Độ đã sử dụng AI để đảm bảo việc quản lý đám đông và an toàn trong suốt hai tháng diễn ra Kumbh Mela, sự kiện tụ họp tôn giáo lớn nhất thế giới. Hơn 1.000 camera quan sát đã thu thập dữ liệu từ địa điểm diễn ra lễ hội lớn vì công nghệ AI cho phép cảnh sát theo dõi mật độ đám đông, xác định và giám sát hoạt động đáng ngờ và quản lý tốt hơn lưu lượng giao thông. AI thậm chí còn được sử dụng để tối ưu hóa việc thu gom chất thải vì dữ liệu cảm biến ở thùng rác và dữ liệu giao thông đã được sử dụng để định tuyến phương tiện thu gom. Với hơn 150 triệu người tham dự, năm 2019, Kumbh Mela đã tránh được những vụ giẫm đạp gây tử vong, vốn là mối quan tâm lịch sử của lễ hội. 

Một mặt AI có thể mang lại lợi ích lớn cho xã hội, nó cũng có thể làm xói mòn các tiêu chuẩn được chấp nhận về quyền riêng tư và quyền tự do dân chủ hiện tại. 

Tiến bộ mang lại rủi ro 

Dù AI hứa hẹn có thể cải thiện an toàn công cộng trong khi cắt giảm chi phí, công dân và chính phủ cũng cần xem xét các rủi ro tiềm ẩn của nó. Những rủi ro chính trong lĩnh vực này là:  

  •  Công nghệ không hoàn hảo. AI không hoàn hảo, và phần lớn công nghệ này chưa đáp ứng được các tiêu chuẩn cần thiết để sử dụng nó với niềm tin trong lĩnh vực an toàn công cộng. Một ví dụ thường được trích dẫn là phần mềm nhận dạng khuôn mặt của Amazon, mà đã kết hợp 28 thành viên của Quốc hội Mỹ với các bức ảnh hình sự năm 2018. Một thử nghiệm nhận dạng khuôn mặt tại lễ hội Notting Hill 2017 cũng chỉ chính xác 2%. 
  • Những ví dụ này cho thấy tại thời điểm này trong quá trình phát triển của mình, chính phủ và các bộ phận an toàn công cộng không thể chỉ đơn giản là “bật AI lên” và lấy kết quả của nó làm sự thật. Ngoài ra, một mặt phân tích của công nghệ này có thể tránh được sai sót và thành kiến của con người, AI thực sự làm tồi tệ thêm bất kỳ sai sót nào được khắc vào lập trình hệ thống. Học máy có thể hấp thụ những thành kiến ​​của các nhà thiết kế và mã hóa chúng thông qua các liên kết đã biết dựa trên cơ sở nền tảng không chính xác. Chính phủ cần biết rằng các thuật toán được sử dụng là công bằng và đáng tin cậy trước khi họ áp dụng AI.  
  •  Các lo ngại về quyền tự do dân chủ và quyền riêng tư. Các nhóm nhân quyền trên toàn cầu đã bày tỏ mối quan ngại của họ về tiềm năng AI rằng nó làm xói mòn quyền tự do dân chủ và quyền riêng tư của công dân, đặc biệt là về an toàn công cộng. Các tổ chức từ lực lượng cảnh sát đến các hãng hàng không hiện có thể thu thập và sử dụng tất cả các loại dữ liệu cá nhân mà không có sự nhận biết hoặc cho phép của công dân. Mỗi ngày, các cá nhân thường để hồ sơ dữ liệu của họ mất dần quyền kiểm soát mà thường không nhận ra điều đó, thông qua các hoạt động như xét nghiệm DNA thương mại, nộp hồ sơ thuế và sàng lọc an ninh ưu tiên tại các sân bay. Các chính phủ sau đó có thể sử dụng dữ liệu này để, ví dụ, đánh giá khả năng một người nào đó nộp tiền bảo lãnh trong khi chờ xét xử. Họ thậm chí có thể “xếp hạng” các công dân, như trong chương trình điểm tín dụng xã hội gây tranh cãi ở Trung Quốc. 

Trong một báo cáo được phát hành gần đây, Liên minh Tự do Dân sự Mỹ đưa ra một số kịch bản đáng lo ngại có thể xảy ra. Ví dụ, một cảnh sát trưởng có thể nhận được một danh sách hàng ngày về các công dân thường hay xuất hiện ở nơi công cộng. Chỉ báo này có thể là một cái gì đó như thay đổi về dáng đi, lời nói hoặc các hành động khác được ghi lại trên camera giám sát. 

Như vậy, trong khi AI có thể mang lại lợi ích lớn cho xã hội, nó cũng có thể làm xói mòn các tiêu chuẩn được chấp nhận về quyền riêng tư và quyền tự do dân chủ hiện tại. 

Các yếu tố chính phủ cần xem xét 

Để chống lại sự bào mòn trong quyền  tự do dân chủ và quyền riêng tư của công dân, chính phủ sẽ cần áp dụng một bộ các nguyên tắc cơ bản để sử dụng AI trong việc đảm bảo an toàn xã hội, bao gồm: 

  •  Xây dựng các biện pháp để bảo vệ sự riêng tư và ngăn ngừa sự thiên vị 
  •  Đảm bảo các nỗ lực AI phù hợp với các nguyên tắc pháp lý hiện hành 
  • Tạo sự tin cậy bằng cách giao tiếp với cộng đồng một cách chủ động và minh bạch 
  • Bao gồm những góc nhìn chuyên sâu và đánh giá của con người trong phân tích cuối cùng về các hoạt động AI 

Nếu các chính phủ tuân thủ các nguyên tắc này, họ có thể quản lý hiệu quả hơn tác động mang tính chuyển đổi của AI và tác động tích cực đến cuộc sống của công dân trong khi bảo vệ quyền riêng tư của họ. 

Tóm lược

AI có thể đóng một vai trò quan trọng trong các lĩnh vực an toàn xã hội ở phạm vi rộng như ma túy, răn đe tội phạm, ứng phó thảm họa thiên nhiên và kiểm soát đám đông. Nhưng khi các chính phủ khám phá những triển vọng mà AI mang đến, họ cũng phải xem xét các rủi ro của nó đối với quyền tự do dân chủ và quyền riêng tư, cũng như hồ sơ hỗn hợp về độ chính xác và thành kiến. 

Về bài viết này

Tác giả George Atalla

EY Global Government & Public Sector Leader

Working with governments to address complex issues and build a better working world.