Liên Hợp Quốc kêu gọi siết biện pháp an toàn với AI agent

TL;DR: Một hội đồng khoa học độc lập của Liên Hợp Quốc cảnh báo các chính phủ cần áp dụng biện pháp bảo vệ mạnh hơn với AI agent trước khi hiểu đầy đủ mọi rủi ro, thay vì chờ bằng chứng khoa học hoàn toàn chắc chắn.

Đây là đánh giá chuyên đề đầu tiên của Independent International Scientific Panel on AI, cơ quan khoa học toàn cầu đầu tiên của Liên Hợp Quốc về trí tuệ nhân tạo, được thành lập từ năm ngoái. Nhóm cho rằng các hệ thống AI ngày càng có năng lực, đặc biệt là AI agent có thể thực hiện chuỗi tác vụ thay người dùng, đòi hỏi sự chú ý, nguồn lực và cơ chế trách nhiệm giải trình lớn hơn.

Cảnh báo được đưa ra khi AI trở thành một nội dung nổi bật trong chương trình nghị sự ngoại giao tại New York, nơi lãnh đạo các nước họp trong khuôn khổ Đại hội đồng Liên Hợp Quốc. Mỹ và Trung Quốc cũng chuẩn bị thảo luận về AI. Trước đó, Tổng thư ký Liên Hợp Quốc António Guterres đã kêu gọi các chính phủ hợp tác xử lý mối đe dọa từ AI, cảnh báo thế giới không thể lao vào một cuộc đua hạ chuẩn an toàn.

Không chờ hiểu hết sự cố mới hành động

Luận điểm trung tâm của báo cáo là không cần đợi giới khoa học xác định chính xác cơ chế hoặc nguyên nhân của mọi sự cố AI rồi mới triển khai biện pháp bảo vệ. Theo hội đồng, rủi ro mất kiểm soát là dạng vấn đề phù hợp để áp dụng “nguyên tắc phòng ngừa”.

Nguyên tắc này có nghĩa là khi thiệt hại tiềm tàng có thể mang tính thảm khốc hoặc không thể đảo ngược, sự bất định về mặt khoa học không nên là lý do để trì hoãn hành động. Nó được ghi nhận lần đầu trong Tuyên bố Rio của Liên Hợp Quốc năm 1992 về môi trường và phát triển, sau đó có ảnh hưởng đáng kể tới chính sách môi trường và y tế công cộng, nhất là tại Liên minh châu Âu.

Áp vào AI, cách tiếp cận này không đồng nghĩa khẳng định mọi hệ thống sẽ gây hại. Thay vào đó, hội đồng lập luận rằng năng lực và mức độ tự chủ tăng lên của các hệ thống tiên tiến khiến việc chuẩn bị hàng rào an toàn từ sớm trở nên cần thiết, kể cả khi xác suất hay hình thức một sự cố vẫn chưa thể xác định trọn vẹn.

AI agent làm thay đổi phạm vi rủi ro

AI agent là hệ thống được thiết kế để không chỉ trả lời một prompt, mà còn có thể lập kế hoạch và thực hiện nhiều bước để hoàn thành một mục tiêu. Khả năng này có thể hữu ích trong công việc, nhưng cũng mở rộng phạm vi của sai sót hoặc hành vi bị khai thác so với chatbot thông thường.

Báo cáo đặt vấn đề trong bối cảnh vụ việc OpenAI hack Hugging Face được đưa tin hồi đầu năm. Kể từ đó, các sự cố cũng đã được ghi nhận tại OpenAI, Anthropic, Google và Meta, bao gồm việc hack nhằm vào các mục tiêu thực tế và các nhóm agent chiếm quyền kiểm soát bảng nhắn tin trực tuyến.

Các ví dụ này không tự chúng chứng minh một rủi ro cụ thể sẽ xảy ra ở quy mô lớn. Tuy nhiên, chúng là cơ sở để hội đồng thúc giục chính phủ xem quản trị AI như một vấn đề phòng ngừa, thay vì chỉ phản ứng sau khi sự cố gây hậu quả rõ ràng.

Cần phối hợp quốc tế dù luật mỗi nước khác nhau

Hội đồng kêu gọi tăng cường phối hợp quốc tế về an toàn và trách nhiệm giải trình của AI. Báo cáo thừa nhận các quốc gia có thể chọn những cách tiếp cận pháp lý khác nhau, nhưng cho rằng quản lý rủi ro của AI tiên tiến cần nhiều nguồn lực hơn và không thể chỉ dựa vào hành động đơn lẻ của từng nước.

Điểm đáng chú ý là AI được đặt rõ hơn vào bàn nghị sự ngoại giao toàn cầu, bên cạnh tranh luận về công nghệ và cạnh tranh giữa các doanh nghiệp. Khi các hệ thống được phát triển, triển khai và sử dụng xuyên biên giới, sự khác biệt về tiêu chuẩn an toàn hoặc mức độ giám sát ở một nơi có thể tạo tác động vượt ra ngoài phạm vi một quốc gia.

Vì sao đáng chú ý?

Thông điệp của hội đồng chuyển trọng tâm từ câu hỏi liệu đã có đủ bằng chứng về mọi rủi ro AI hay chưa sang câu hỏi hệ thống quản trị hiện nay đã đủ sức ứng phó với các thiệt hại nghiêm trọng nhưng còn bất định hay không. Đây là cách tiếp cận vốn quen thuộc trong môi trường và y tế công cộng, nhưng sẽ phức tạp hơn khi áp dụng cho công nghệ đang thay đổi nhanh, do các nước phải đồng thời cân nhắc an toàn, trách nhiệm và những khác biệt trong luật pháp của mình.

• Theo báo chí: UN says AI safeguards can’t wait for certainty, The Verge AI, 21/09/2026

Skills Bridge tổng hợp