'Học cách nói dối và gian lận': Người sáng lập AI cảnh báo về mối nguy hiểm của công nghệ mới

Một trong những 'cha đẻ' của trí tuệ nhân tạo đã chỉ trích cuộc đua trị giá hàng tỷ đô la để phát triển trí tuệ nhân tạo tiên tiến công nghệ, tuyên bố rằng các mẫu máy mới nhất thể hiện những đặc điểm nguy hiểm như nói dối người dùng, tờ Financial Times đưa tin.

Yoshua Bengio, một nhà khoa học người Canada có công trình nghiên cứu làm nền tảng cho các phương pháp được sử dụng bởi các nhóm AI hàng đầu, nhận thấy mối nguy hiểm lớn trong cuộc đua cạnh tranh gay gắt giữa các phòng thí nghiệm hàng đầu, buộc họ phải tập trung vào các phương pháp để AI ngày càng thông minh hơn, nhưng lại không dành đủ sự quan tâm và đầu tư cho nghiên cứu về an toàn.



Người chiến thắng giải thưởng Turing đã đưa ra lời cảnh báo của mình trong một cuộc phỏng vấn với tờ Financial Times khi ông ra mắt một tổ chức phi lợi nhuận mới, LawZero. Ông cho biết nhóm sẽ tập trung vào việc xây dựng các hệ thống an toàn hơn, cam kết "cách ly nghiên cứu khỏi những áp lực thương mại này".

LawZero đã huy động được khoảng 30 triệu đô la tiền cam kết từ thiện từ các nhà tài trợ cho đến nay. Nhiều người ủng hộ Bengio tham gia phong trào “chủ nghĩa vị tha hiệu quả”, những người ủng hộ có xu hướng tập trung vào những rủi ro thảm khốc xung quanh các mô hình AI.

Những người chỉ trích cho rằng phong trào này nhấn mạnh vào các kịch bản giả định trong khi bỏ qua những tác hại hiện tại của AI như thiên vị và thiếu chính xác. Bengio cho biết nhóm phi lợi nhuận này được thành lập để ứng phó với bằng chứng ngày càng tăng trong sáu tháng qua rằng các mô hình AI hàng đầu hiện nay đang phát triển các khả năng nguy hiểm như lừa dối thông tin, gian lận, nói dối cố ý và tự bảo vệ.