Mô hình AI Manus đạt được những tiến bộ đột phá trong bài kiểm tra điểm chuẩn GAIA

Gần đây, mô hình AI Manus đã đạt được thành tích tiên tiến nhất trong bài kiểm tra điểm chuẩn GAIA, với hiệu suất vượt qua các mô hình ngôn ngữ lớn cùng cấp. Điều này có nghĩa là Manus có thể độc lập xử lý các nhiệm vụ phức tạp, như đàm phán thương mại xuyên quốc gia, bao gồm phân tích điều khoản hợp đồng, xây dựng chiến lược và tạo ra các giải pháp.

Ưu điểm của Manus chủ yếu được thể hiện ở ba khía cạnh: phân tách mục tiêu động, suy luận đa mô hình và học tập tăng cường trí nhớ. Nó có thể phân tách các nhiệm vụ phức tạp thành hàng trăm nhiệm vụ con có thể thực thi, đồng thời xử lý nhiều loại dữ liệu khác nhau và liên tục nâng cao hiệu quả ra quyết định, giảm tỷ lệ lỗi thông qua học tập củng cố.

Sự xuất hiện của Manus một lần nữa đã làm dấy lên cuộc thảo luận trong ngành về con đường phát triển AI: phát triển theo hướng trí tuệ nhân tạo tổng quát (AGI) hay là hệ thống đa tác nhân (MAS) phối hợp thống trị? Cả hai con đường này đều có những lợi ích và bất lợi riêng:

1. Đường đi của AGI: Bằng cách không ngừng nâng cao khả năng của một tác nhân đơn lẻ, đưa nó gần đến trình độ ra quyết định tổng hợp của con người.

2. Đường dẫn MAS: Là một siêu điều phối viên, chỉ huy sự hợp tác của nhiều tác nhân trong các lĩnh vực chuyên môn.

Cuộc thảo luận này thực sự phản ánh một vấn đề cốt lõi trong sự phát triển của AI: làm thế nào để đạt được sự cân bằng giữa hiệu quả và an toàn. Khi trí thông minh đơn thể ngày càng gần gũi với AGI, rủi ro về tính không minh bạch trong quy trình ra quyết định cũng tăng theo. Mặc dù hợp tác giữa nhiều tác nhân thông minh có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.

Sự tiến bộ của Manus cũng làm nổi bật những rủi ro tiềm ẩn trong sự phát triển của AI:

1. Vấn đề quyền riêng tư dữ liệu: Trong các lĩnh vực như y tế, tài chính, AI có thể cần truy cập thông tin nhạy cảm của cá nhân hoặc doanh nghiệp.

2. Thiên kiến thuật toán: Trong các tình huống như tuyển dụng, AI có thể đưa ra những phán quyết không công bằng đối với các nhóm cụ thể.

3. Lỗ hổng bảo mật: Hacker có thể can thiệp vào phán đoán của AI bằng các phương pháp đặc biệt, chẳng hạn như gây hiểu lầm về sự hiểu biết của nó về báo giá trong quá trình đàm phán.

Những vấn đề này rõ ràng chỉ ra rằng, hệ thống thông minh càng tiên tiến thì bề mặt tấn công tiềm năng của nó càng rộng.

Để đối phó với những thách thức này, công nghệ an ninh trong lĩnh vực Web3 có thể cung cấp giải pháp:

1. Mô hình an ninh không tin cậy: Nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho mỗi yêu cầu truy cập.

2. Danh tính phi tập trung (DID): Cung cấp một phương thức nhận dạng có thể xác minh mà không cần đăng ký tập trung.

3. Mã hóa đồng nhất (FHE): Cho phép thực hiện tính toán trên dữ liệu trong trạng thái mã hóa, bảo vệ quyền riêng tư của dữ liệu.

Trong đó, công nghệ FHE thể hiện tiềm năng lớn trong việc giải quyết các vấn đề an ninh của thời đại AI. Nó có thể cung cấp sự bảo vệ ở một số cấp độ sau:

• Về mặt dữ liệu: Tất cả thông tin do người dùng nhập vào được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

• Cấp độ thuật toán: Thông qua việc đào tạo mô hình mã hóa, đảm bảo rằng ngay cả các nhà phát triển cũng không thể quan sát trực tiếp quá trình ra quyết định của AI.

• Khía cạnh hợp tác: Giao tiếp giữa nhiều tác nhân sử dụng mã hóa ngưỡng, ngăn chặn sự cố điểm đơn lẻ dẫn đến rò rỉ dữ liệu toàn cầu.

Khi công nghệ AI ngày càng tiến gần đến mức độ thông minh của con người, việc xây dựng một hệ thống phòng thủ an toàn mạnh mẽ trở nên ngày càng quan trọng. Các công nghệ mã hóa tiên tiến như FHE không chỉ giải quyết các vấn đề hiện tại mà còn đặt nền tảng an toàn cho một thời đại AI mạnh mẽ hơn trong tương lai. Trên con đường đến với AGI, những công nghệ an toàn này sẽ trở thành những đảm bảo không thể thiếu.