Nhà tiên phong AI người Canada Yoshua Bengio đang ra mắt một tổ chức phi lợi nhuận mới tập trung vào việc phát triển các hệ thống trí tuệ nhân tạo an toàn hơn.

Tổ chức này có tên là LawZero, cam kết thúc đẩy nghiên cứu và phát triển các giải pháp kỹ thuật cho các hệ thống AI an toàn theo thiết kế.

LawZero nhằm mục đích xây dựng AI không có tác nhân (non-agentic AI) có thể được sử dụng để đẩy nhanh khám phá khoa học, cung cấp sự giám sát cho các hệ thống AI có tác nhân (agentic AI) và nâng cao hiểu biết về rủi ro AI và cách tránh chúng.

Bengio, chủ tịch và giám đốc khoa học của LawZero, từ lâu đã bày tỏ lo ngại về AI.

Ông nói rằng nhóm mới này ra đời sau khi nhận thấy sự tiến bộ nhanh chóng của các phòng thí nghiệm tư nhân hướng tới trí tuệ nhân tạo tổng quát và hơn thế nữa, cũng như những ý nghĩa sâu sắc của nó đối với nhân loại.

Bengio cho biết các hệ thống tiên tiến hiện tại đã cho thấy dấu hiệu tự bảo toàn và hành vi lừa dối, và điều này sẽ chỉ tăng tốc khi khả năng và mức độ tác nhân của chúng tăng lên.

© 2025 The Canadian Press

Bản tiếng Việt của The Canada Life