Google DeepMind ra mắt DeepMind Institute, mở rộng tranh luận về trí tuệ nhân tạo tổng quát (AGI)

TL;DR: Google và Google DeepMind đã ra mắt DeepMind Institute, mở đầu bằng bốn bài luận về AGI với các đề xuất cụ thể hơn cho minh bạch, đánh giá độc lập và khả năng giảm tốc phát triển AI tiên tiến khi cần.

DeepMind Institute được Google và các nhà nghiên cứu Google DeepMind công bố vào thứ Tư nhằm thúc đẩy thảo luận về trí tuệ nhân tạo tổng quát, hay AGI. Đây là khái niệm chỉ các hệ thống AI có thể xử lý nhiều loại nhiệm vụ ở mức độ rộng và linh hoạt hơn các mô hình hiện nay.

Viện do đồng sáng lập DeepMind Shane Legg, lãnh đạo Google James Manyika và Chủ tịch Google DeepMind Demis Hassabis làm giám đốc; Legg giữ vai trò tổng biên tập. Theo thông báo, mục tiêu của viện là làm nổi bật những quan điểm khác nhau từ Google, Google DeepMind và cộng đồng nghiên cứu toàn cầu, thay vì cho rằng các bên luôn có cùng lập trường về AGI.

Bốn bài luận mở đầu tập trung vào hệ quả của AGI

Bộ sưu tập đầu tiên của viện gồm bốn bài luận, bàn về chính sách kinh tế trước nguy cơ AGI gây gián đoạn, cách duy trì khả năng đọc hiểu được trong suy luận của mô hình, các nguyên tắc hướng đến sự thịnh vượng của con người và một khung đánh giá mô hình AI frontier.

Frontier AI là cách gọi các mô hình thuộc nhóm tiên tiến nhất, thường có năng lực tổng quát và tiềm năng tác động lớn hơn so với các hệ thống AI phổ biến. Việc đưa các chủ đề kinh tế, khả năng giám sát và tiêu chuẩn đánh giá vào cùng một bộ bài luận cho thấy viện không chỉ tập trung vào năng lực kỹ thuật của AI, mà còn vào cách triển khai và quản lý chúng; ở cấp độ ứng dụng, các cập nhật NotebookLM cũng minh họa cách công cụ AI được định hình để hỗ trợ nghiên cứu và xử lý thông tin theo những đầu ra cụ thể hơn.

Tranh luận về minh bạch trong suy luận của AI

Trong một bài luận, hai nhà nghiên cứu an toàn AI Rohin Shah và Anca Dragan lập luận rằng việc con người ngày càng khó quan sát và kiểm tra suy luận từng bước của mô hình không phải là điều tất yếu. Theo họ, khi các kiến trúc mới khiến mô hình mạnh hơn nhưng khó giám sát hơn, nhà phát triển và cơ quan quản lý cần đối diện trực tiếp với các đánh đổi về an toàn.

Hai tác giả đề xuất có thể giới hạn “độ sâu tuần tự mờ đục”, tức lượng tính toán liên tiếp mà hệ thống được thực hiện mà không tạo ra dấu vết suy luận có thể đọc hiểu. Một phương án khác là yêu cầu nhà phát triển chứng minh rằng các hệ thống ít minh bạch vẫn có thể được giám sát hiệu quả tương đương.

Đây chưa phải là chính sách được ban hành. Đó là một đề xuất về cách đặt yêu cầu kỹ thuật và giám sát trong bối cảnh mô hình AI có thể ngày càng khó diễn giải.

Đề xuất cơ quan đánh giá AI frontier do Mỹ dẫn dắt

Một bài luận khác do Demis Hassabis viết đề xuất thành lập một cơ quan tiêu chuẩn AI frontier do Mỹ dẫn dắt để đánh giá các mô hình tiên tiến nhất. Theo khung này, ở giai đoạn đầu, các nhà phát triển sẽ tự nguyện gửi mô hình để xem xét tối đa 30 ngày trước khi phát hành.

Nếu hệ thống đánh giá chứng minh được hiệu quả, việc vượt qua các bài kiểm tra có thể trở thành điều kiện để triển khai mô hình frontier tại Mỹ. Ban đầu, các bài đánh giá sẽ được thiết kế với sự tham vấn của các công ty AI. Về dài hạn, Hassabis đề xuất dùng các bài kiểm tra độc lập, không công khai trước, còn gọi là held-out tests, để giảm khả năng phòng thí nghiệm tối ưu mô hình chỉ theo những bài kiểm tra đã biết.

Hassabis cũng cho rằng cơ chế này có thể được siết chặt dần nếu tình hình nghiêm trọng hơn, bao gồm khả năng các nhà phát triển AI frontier phối hợp làm chậm nhịp phát triển. Đề xuất này không đồng nghĩa một cơ chế như vậy đã được hình thành hay sẽ được áp dụng.

Vì sao đáng chú ý?

Sự xuất hiện của DeepMind Institute diễn ra khi tranh luận về an toàn AI chuyển dần từ các cảnh báo khái quát sang những phương án có thể thực thi, như nghĩa vụ công bố thông tin, giám sát từ bên ngoài và tiêu chuẩn trước khi phát hành. Các đề xuất trong bộ bài luận cũng cho thấy một hướng tranh luận quan trọng: liệu năng lực AI tăng nhanh có cần đi kèm các điều kiện minh bạch và đánh giá chặt chẽ hơn hay không.

Với doanh nghiệp và người dùng, các thảo luận này có thể ảnh hưởng về lâu dài đến cách những mô hình AI mạnh nhất được phát hành, kiểm thử và đưa vào sản phẩm. Tuy nhiên, các bài luận hiện phản ánh quan điểm của tác giả và sáng kiến của viện, không phải quy định chính thức.

Skills Bridge tổng hợp