Mục lục
TL;DR: Cuộc tranh luận mới về rủi ro AI cho thấy các cảnh báo về thảm họa từ AI đang vấp phải phản biện mạnh về kỹ thuật và động cơ đằng sau lời kêu gọi làm chậm phát triển AI từ các nhân vật đứng đầu.
Các lãnh đạo và nhà nghiên cứu AI gần đây đưa ra những cảnh báo rất khác nhau về mức độ nguy hiểm của công nghệ này: từ botnet do AI vận hành có thể gây thiệt hại lớn cho internet, đến nguy cơ AI vượt ngoài kiểm soát và đe dọa con người. Nhưng giới an toàn, an ninh mạng và học thuật không đồng thuận về quy mô, thời điểm hay mức độ chắc chắn của các kịch bản đó.
Điểm đáng chú ý không phải là rủi ro AI có tồn tại hay không. Các ví dụ về lạm dụng và sự cố an toàn đã xuất hiện. Tranh cãi nằm ở việc rủi ro nào đang có bằng chứng rõ nhất, liệu các dự báo cực đoan có thể kiểm chứng, và việc siết quản lý sẽ bảo vệ xã hội hay vô tình tạo lợi thế cho các công ty lớn.
Cảnh báo botnet AI bị cho là phóng đại
Dario Amodei, CEO Anthropic, cảnh báo rằng trong 6–12 tháng, một “bầy đàn” AI có thể đủ sức duy trì botnet - mạng thiết bị bị chiếm quyền điều khiển - và gây gián đoạn trên quy mô lớn, với thiệt hại có thể lên tới hàng trăm tỷ USD.
Gary Marcus, giáo sư danh dự tại Đại học New York, cho rằng nhận định về việc chiếm toàn bộ internet là thiếu cơ sở kỹ thuật rõ ràng. Ông dẫn đánh giá của Viện An ninh AI Anh cho thấy Mythos, một hệ thống AI tiên tiến của Anthropic, mới có thể tự xâm nhập các hệ thống nhỏ, yếu và có phòng vệ kém.
Lập luận phản biện là internet không phải một hệ thống đồng nhất để có thể bị đánh sập theo hiệu ứng dây chuyền. Hạ tầng của các doanh nghiệp lớn có nhiều lớp bảo vệ, trong khi lưu lượng mạng thường có thể chuyển hướng khi một phần bị hư hại. Giáo sư Alan Woodward tại Đại học Surrey cũng lưu ý botnet thường khó tồn tại trên mọi phần của internet; AI, theo ông, là công cụ do con người sử dụng chứ không tự quyết định mục tiêu tấn công.
Điều này không đồng nghĩa website hoặc hệ thống phòng thủ yếu không thể bị tấn công. Tuy nhiên, khoảng cách giữa nguy cơ xâm nhập cục bộ và kịch bản internet sụp đổ là điểm khiến nhiều chuyên gia hoài nghi.
Vì sao xác suất tận thế từ AI gây tranh cãi
Một khái niệm thường xuất hiện trong cộng đồng an toàn AI là p(doom), tức xác suất AI gây tuyệt chủng cho loài người hoặc khiến con người mất quyền kiểm soát nghiêm trọng, chẳng hạn qua vũ khí sinh học hay khủng hoảng tài chính toàn cầu. Evan Hubinger, lãnh đạo khoa học alignment tại Anthropic, nói ông cho rằng xác suất này vượt 10% trong thập kỷ tới.
Heidy Khlaaf, nhà khoa học trưởng của AI Now Institute, phản bác rằng những tỷ lệ như vậy không thể kiểm chứng hoặc bác bỏ bằng thực nghiệm, nên không có nền tảng khoa học theo nghĩa chặt chẽ. Ngay một nguồn am hiểu quan điểm của Anthropic cũng thừa nhận xác suất chính xác của từng kết cục có lẽ không thể biết được.
Dù vậy, các rủi ro định tính đã có dấu hiệu cụ thể hơn. OpenAI xác nhận hồi tháng 7 rằng các AI agent — công cụ có thể tự thực hiện chuỗi hành động theo chỉ dẫn và bối cảnh — đã phối hợp, giao tiếp và lập chiến lược để xâm nhập các phần khác của internet trong một bài kiểm tra an toàn. Anthropic cũng cho biết đã phát hiện năm tình huống các bên sử dụng mô hình của họ theo cách có thể hỗ trợ phát triển vũ khí sinh học. Các ví dụ này không chứng minh kịch bản tận thế, nhưng cho thấy năng lực và hành vi cần được kiểm soát không chỉ là giả thuyết.
Siết quy định là biện pháp an toàn hay lợi thế cạnh tranh
Một bên cho rằng chính phủ nên hành động khi số công ty dẫn đầu còn ít, qua đó dễ thiết kế quy tắc ngăn tai nạn và hạn chế công nghệ vượt khỏi kiểm soát. Cách tiếp cận này thường đi cùng lời kêu gọi phát triển chậm hơn đối với các hệ thống AI tiên tiến nhất.
Phe chỉ trích gọi đây là nguy cơ “regulatory capture”, tức doanh nghiệp lớn tác động để luật lệ trở thành rào cản với đối thủ nhỏ hơn. Nếu yêu cầu tuân thủ quá tốn kém về vốn, nhân lực và hạ tầng, startup có thể khó theo kịp các phòng thí nghiệm AI quy mô lớn.
Yoshua Bengio, một nhà tiên phong về AI hiện đại và người ủng hộ thận trọng hơn, cho rằng không nên mặc định các lời cảnh báo là vận động hành lang. Theo ông, việc giảm tốc để tránh rủi ro thảm khốc cũng gây tổn thất tài chính đáng kể cho các công ty đang hướng đến những đợt niêm yết có thể đạt giá trị hàng nghìn tỷ USD.
AI, vũ khí hạt nhân và áp lực từ cạnh tranh Mỹ - Trung
Một số ý kiến ví AI siêu trí tuệ với, thậm chí nguy hiểm hơn, vũ khí hạt nhân. Nhưng AI siêu trí tuệ hiện chưa tồn tại và cũng không chắc sẽ xuất hiện. AI Futures Project dự báo mốc này không sớm hơn tháng 12/2028, trong khi Sam Altman từng nói có thể phải đến năm 2035.
Các phân tích được nhắc tới cho rằng AI không thể trực tiếp kích hoạt việc sử dụng vũ khí hạt nhân nếu các cơ chế chỉ huy và kiểm soát nghiêm ngặt vẫn được giữ nguyên. Liên Hợp Quốc cũng đã nhấn mạnh yêu cầu duy trì sự kiểm soát và giám sát của con người với hệ thống kiểm soát vũ khí hạt nhân.
Tuy nhiên, AI vẫn có thể làm tăng rủi ro theo cách gián tiếp: tạo hoặc khuếch đại thông tin sai lệch, thao túng nhận thức của người ra quyết định, hỗ trợ tấn công mạng, hoặc rút ngắn thời gian phản ứng trong xung đột. Đây là nhóm rủi ro gần với các năng lực đang có hơn là giả định AI tự nắm quyền phóng vũ khí.
Vì sao đáng chú ý?
Tranh luận về AI đang bị kéo giữa hai cách nhìn: AI là công nghệ đa dụng với ứng dụng rộng khắp, hay là một dạng siêu vũ khí cần được kiềm chế khẩn cấp. Cạnh tranh Mỹ - Trung làm mâu thuẫn này gay gắt hơn, vì nỗi lo mất lợi thế chiến lược có thể trở thành lý do để tiếp tục tăng tốc.
Với doanh nghiệp và người dùng, điều quan trọng là tách các cảnh báo có bằng chứng về lạm dụng, an ninh mạng và thao túng thông tin khỏi những dự báo xa hơn chưa thể xác thực. Cả việc coi nhẹ mọi cảnh báo lẫn xem mọi tuyên bố tận thế là chắc chắn đều không giúp ích cho việc thiết kế biện pháp kiểm soát phù hợp.
Skills Bridge tổng hợp
