AI được dùng ở nhiều khâu nhập cư và tị nạn tại Anh

TL;DR: Open Rights Group cho rằng AI đang được dùng ở nhiều khâu nhập cư và tị nạn tại Anh nhưng thiếu minh bạch, trong khi Bộ Nội vụ Anh nói công nghệ chỉ hỗ trợ chứ không thay thế người ra quyết định.

Một báo cáo của Open Rights Group, tổ chức vận động cho quyền kỹ thuật số tại Anh, đặt câu hỏi về phạm vi và cách giám sát các công cụ AI trong hoạt động của Bộ Nội vụ Anh. Theo báo cáo, AI đã xuất hiện từ sàng lọc hồ sơ nhập cư, hỗ trợ xử lý đơn xin tị nạn đến theo dõi biên giới.

Trọng tâm tranh cãi không đơn thuần là việc cơ quan nhà nước dùng AI. ORG cho rằng công chúng và những người chịu ảnh hưởng khó biết hệ thống nào đang hoạt động, dùng dữ liệu gì, tác động ra sao đến quy trình và ai chịu trách nhiệm khi công cụ tạo ra kết quả bất lợi.

Báo cáo được tổng hợp từ thông tin công khai hạn chế của Bộ Nội vụ Anh, các yêu cầu theo luật tự do thông tin và câu hỏi của nghị sĩ. Báo cáo nhận được sự ủng hộ của Bell Ribeiro-Addy thuộc Công đảng, Pete Wishart của Đảng Quốc gia Scotland và Siân Berry của Đảng Xanh.

AI được nói là hiện diện ở nhiều khâu

Theo ORG, các ứng dụng được ghi nhận hoặc đề cập gồm phát hiện những cuộc hôn nhân bị nghi là giả, xác định độ tuổi của người xin tị nạn và rà soát nội dung điện thoại của người mới đến Anh. Báo cáo cũng nói AI được dùng để tóm tắt nội dung phỏng vấn xin tị nạn và thông tin chính sách theo từng quốc gia, các tài liệu có thể phục vụ quá trình xem xét hồ sơ.

Ở biên giới, tổ chức này cho biết các hình thức giám sát có thể gồm nhận diện khuôn mặt trực tiếp, drone và vệ tinh có hỗ trợ AI. Đây là những ứng dụng nhạy cảm vì có thể liên quan đến việc nhận diện, theo dõi và đánh giá người dân hoặc người di cư trong không gian công cộng.

Báo cáo còn nêu Identify and Prioritise Immigration Cases, viết tắt là Ipic, một công cụ được mô tả là phục vụ sàng lọc và xếp mức ưu tiên hồ sơ. ORG cho rằng cách hệ thống này vận hành chưa được giải thích đầy đủ, khiến việc đánh giá tác động thực tế đối với từng hồ sơ trở nên khó khăn.

Lo ngại về thiên lệch và quyền được giải thích

ORG cảnh báo AI không tự động trung lập hay chính xác. Theo tổ chức này, hệ thống có thể lặp lại những thiên lệch có sẵn trong dữ liệu hoặc trong cách con người thiết kế quy trình, từ đó làm trầm trọng thêm phân biệt đối xử trong lĩnh vực nhập cư và tị nạn.

Tổ chức này đặc biệt phản đối việc coi các hoàn cảnh phức tạp của người di cư là bài toán kỹ thuật có thể giải quyết chỉ bằng tự động hóa. Với người xin tị nạn, một bản tóm tắt thiếu ngữ cảnh, một cơ chế ưu tiên không rõ tiêu chí hoặc một đánh giá sai có thể ảnh hưởng đến quá trình xử lý hồ sơ, dù quyết định cuối cùng trên danh nghĩa vẫn do con người đưa ra.

Bell Ribeiro-Addy cho rằng Bộ Nội vụ Anh chưa công bố đủ tài liệu để làm rõ AI được sử dụng thế nào trong quy trình tị nạn, những vấn đề nào đã phát sinh và cơ chế khắc phục ra sao. ORG đề nghị chính phủ tăng quản lý, cấm những cách dùng bị cho là phi dân chủ hoặc có nguy cơ xâm phạm nhân quyền, củng cố quyền tiếp cận thông tin và lập sổ đăng ký công khai về công cụ AI của nhà nước.

Bộ Nội vụ Anh nói AI không quyết định đơn tị nạn

Phản hồi các lo ngại, Bộ Nội vụ Anh cho biết AI chỉ là một trong các công cụ hỗ trợ bảo vệ biên giới và không thay thế hoặc tự động hóa vai trò của người ra quyết định. Cơ quan này nói các quyết định về tị nạn vẫn do nhân viên hồ sơ đã được đào tạo thực hiện.

Theo Bộ Nội vụ Anh, trong xử lý tị nạn, công cụ AI hỗ trợ nhân viên tra cứu bản ghi phỏng vấn và thông tin chính sách. Đây là dạng hỗ trợ xử lý thông tin mà công cụ tóm tắt tài liệu có thể thực hiện, nhưng các công cụ này không được sử dụng độc lập và không tự đưa ra quyết định đối với đơn xin tị nạn.

Cơ quan này cũng cho biết đang theo dõi hiệu quả của các công cụ cùng với quy trình đảm bảo chất lượng hiện có, đồng thời cam kết công bố các đánh giá cập nhật về việc triển khai.

Vì sao đáng chú ý?

Vấn đề đặt ra là ranh giới giữa “hỗ trợ” và “tác động” trong quyết định công. Một hệ thống không ký quyết định cuối cùng vẫn có thể ảnh hưởng đáng kể nếu nó quyết định thông tin nào được hiển thị trước, hồ sơ nào được ưu tiên hoặc cách lời khai được tóm tắt cho nhân viên xem xét.

Với các lĩnh vực liên quan đến tư cách cư trú, quyền tị nạn và an toàn cá nhân, yêu cầu về khả năng giải thích, kiểm tra độc lập và cơ chế khiếu nại thường cao hơn các ứng dụng AI thông thường. Tranh luận tại Anh vì vậy phản ánh câu hỏi rộng hơn về trách nhiệm giải trình khi AI được đưa vào hoạt động của khu vực công.

Skills Bridge tổng hợp