Chính phủ liên bang có kế hoạch triển khai một công cụ trí tuệ nhân tạo tại tất cả các biên giới trên bộ của mình để giúp xác định những du khách nào có thể cần kiểm tra thứ cấp trước khi nhập cảnh, CTV News đã xác nhận.
Theo Cơ quan Dịch vụ Biên giới Canada (CBSA), chỉ số tuân thủ của du khách (TCI) được phát triển nội bộ để “xử lý du khách hiệu quả hơn.”
Công cụ này tổng hợp dữ liệu dự đoán “đã có sẵn trong nhiều hệ thống” trong thời gian thực và gắn cờ những du khách có rủi ro vi phạm các yêu cầu biên giới cao hơn. Nó nhằm mục đích giúp các nhân viên biên phòng quyết định liệu những du khách nhất định có nên được chuyển đến kiểm tra thứ cấp hay không.
“Mục tiêu của Chỉ số Tuân thủ của Du khách là cung cấp cho các nhân viên một bản tóm tắt dữ liệu có sẵn trong thời gian thực để giúp họ xác định và xử lý những du khách tuân thủ nhanh hơn và tập trung vào những du khách không xác định và có rủi ro cao hơn,” phát ngôn viên của CBSA, Luke Reimer, viết trong một email gửi cho CTV News.
TCI là một phần của kế hoạch hiện đại hóa rộng lớn hơn của cơ quan, đã được tiến hành từ tháng 8 năm ngoái.
“Chỉ số Tuân thủ của Du khách chỉ là một chỉ số, và không thay thế phán đoán của nhân viên hoặc tự động xác định kết quả,” Reimer viết.
Reimer nói thêm: “Quyết định thực tế về việc có chuyển một du khách đến kiểm tra thứ cấp hay không tùy thuộc vào nhân viên dịch vụ biên giới, người có đào tạo chuyên môn, kinh nghiệm và kiến thức cho phép họ luôn cảnh giác với các mối đe dọa tiềm tàng.”
Việc CBSA mở rộng việc sử dụng TCI lần đầu tiên được báo cáo bởi Toronto Star.
TCI đã được áp dụng như một dự án thí điểm tại sáu cửa khẩu trên bộ kể từ năm 2023, với kế hoạch triển khai đầy đủ vào cuối năm 2027. Reimer không đưa ra mốc thời gian cho việc công nghệ này được triển khai tại các cửa khẩu hàng không hoặc hàng hải.
Reimer viết: “Chúng tôi hy vọng rằng Chỉ số Tuân thủ của Du khách sẽ giúp giảm việc chuyển đến kiểm tra thứ cấp mà không dẫn đến việc phát hiện ra sự không tuân thủ của du khách.”
Các số liệu thống kê do Reimer cung cấp về số lượng du khách được kiểm tra thứ cấp phần lớn là ổn định hoặc đang giảm trong năm qua.
Tuy nhiên, theo giáo sư Ebrahim Bagheri của Đại học Toronto, bất kỳ việc sử dụng AI nào tác động đến hành vi và quyết định của con người đều có khả năng dẫn đến những thành kiến vốn có.
Bagheri – người chuyên về phát triển AI có trách nhiệm – đã chỉ ra các trường hợp trí tuệ nhân tạo được thiết kế để đánh giá rủi ro dẫn đến việc các nhóm thiểu số bị lập hồ sơ tiêu cực.
“Rủi ro ở đây là các loại thành kiến tương tự sẽ được chọn lọc,” Bagheri nói về công cụ TCI, trong một cuộc phỏng vấn với CTV News.
Ông nói rằng AI, vì cách nó được phát triển và đào tạo, có tiềm năng “chọn lọc các thành kiến trong dữ liệu lịch sử, làm trầm trọng thêm chúng, và đưa chúng vào hành động.”
Bagheri nói, một nguyên nhân tiềm ẩn khác đáng lo ngại là thành kiến tự động hóa – hiện tượng dẫn đến việc hầu hết mọi người ưu tiên các đề xuất của các hệ thống tự động, thay vì dựa vào kiến thức của chính họ.
Bagheri nói rằng trong trường hợp của TCI, mặc dù ý định của CBSA dường như là để bất kỳ quyết định cuối cùng nào về việc du khách nào cần kiểm tra thứ cấp cho các nhân viên biên giới con người, thành kiến tự động hóa có nghĩa là những nhân viên đó có khả năng sẽ giao phó việc ra quyết định cho thuật toán.
Vị giáo sư của Đại học Toronto nói rằng bất kỳ ai sử dụng loại hệ thống này sẽ cần đào tạo chuyên sâu để hiểu độ tin cậy của nó, nhưng cũng nói rằng những thành kiến vốn có và thành kiến tự động hóa là “buộc phải xảy ra.”
Ông nói rằng công nghệ trí tuệ nhân tạo có thể được triển khai để giúp các nhân viên biên giới theo những cách khác, thay vì được thiết kế cụ thể để xây dựng điểm rủi ro cho du khách.
Reimer nói rằng CBSA đang “tích cực” làm việc để giảm thiểu tác động của các thành kiến tiềm tàng của TCI, nói thêm rằng cơ quan này “đã thực hiện một số bước quan trọng” để đạt được mục tiêu đó.
Những bước đó bao gồm các kế hoạch giám sát hiệu suất của công cụ trên các nhóm bình đẳng khác nhau và “liên tục” làm việc để giảm thiểu thành kiến.
“Vấn đề chính với điều này là thông thường những người hoặc nhóm xây dựng một hệ thống, họ đã làm hết sức mình để tránh bất kỳ thành kiến nào,” Bagheri nói. “Cách duy nhất bạn có thể làm cho một hệ thống tốt hơn là nếu bạn cho phép sự giám sát độc lập của hệ thống.”
“Thật khó để thấy CBSA có thể đảm bảo một cách hiệu quả rằng hệ thống của họ đang dần xem xét và giám sát các thành kiến và làm cho nó tốt hơn như thế nào,” ông nói thêm.
Reimer cho biết TCI đã chi tiêu thấp hơn một chút so với ngân sách, tiêu tốn của chính phủ khoảng 15.3 triệu đô la, ông nói thêm rằng một khi công nghệ này được triển khai đầy đủ, chi phí hoạt động cho việc phát triển và bảo trì liên tục dự kiến sẽ là khoảng 700.000 đô la hàng năm.
CTV News
