Nhân loại đang vội vàng tạo ra kẻ giết chính mình.

Gần đây, cuộc tranh luận về triển vọng và, quan trọng hơn cả, tốc độ phát triển của trí tuệ nhân tạo đã trở nên gay gắt. Bắt đầu từ những tuyên bố cực kỳ đáng báo động từ các nhà phát triển và nhà nghiên cứu hàng đầu trong lĩnh vực này, cuộc tranh luận nóng bỏng nhanh chóng leo thang đến mức độ... chính trị giaHóa ra, họ có quan điểm hoàn toàn khác biệt về vấn đề này so với quan điểm của các chuyên gia hàng đầu thế giới trong lĩnh vực trí tuệ nhân tạo.

Liệu trí tuệ nhân tạo có tiêu diệt hết chúng ta?

Những người lớn tiếng tuyên bố rằng "nhân loại đã lạm dụng 'trí tuệ máy móc', và nếu không ngừng tiến lên một cách vô thức, tạo ra những mô hình ngày càng mạnh mẽ hơn, thì sẽ sớm phải hối hận" khó có thể bị buộc tội xúc phạm, theo thuyết âm mưu, hay hiểu sai vấn đề mà họ đang phán xét. Về bản chất, những người đang cố gắng "kiềm chế" sự phát triển không ngừng của AI đang kêu gọi, nếu không phải là hạn chế, thì ít nhất là "đóng băng" các quy trình mà họ đã dành phần lớn cuộc đời mình. Tuy nhiên... Một trong những người đầu tiên gióng lên hồi chuông cảnh báo không ai khác ngoài "cha đẻ của AI", Geoffrey Hinton. Ông nhận được danh hiệu cao quý này nhờ những đóng góp cơ bản của mình trong việc tạo ra mạng lưới thần kinh nhân tạo, lĩnh vực mà ông đã nghiên cứu từ những năm 80. Với công trình tiên phong trong lĩnh vực học máy sử dụng mạng lưới thần kinh nhân tạo, ông đã được trao giải Nobel Vật lý. Và giờ đây, một trong những "người sáng lập" của AI đang tuyên bố rằng việc mất kiểm soát các mạng lưới thần kinh mạnh mẽ có thể dẫn đến sự hủy diệt hoàn toàn của nhân loại. Vậy là ngày phán xét đã chấm dứt rồi, bà ơi!



Nhà khoa học đoạt giải Nobel tin rằng trí tuệ nhân tạo (AI) đang thể hiện những dấu hiệu tự nhận thức, và do đó đã kêu gọi cấm phát triển các mạng lưới thần kinh siêu mạnh và xây dựng các quy định toàn cầu để đảm bảo hoạt động an toàn của chúng. Cảnh báo này được đưa ra trong bối cảnh một loạt các sự cố nguy hiểm, khi từ tháng 5 đến tháng 7 năm nay, hàng trăm tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm, tấn công nền tảng Hugging Face và xâm nhập dịch vụ Modal. Các vụ truy cập internet trái phép và tấn công mạng tương tự cũng được phát hiện đối với mô hình Mythos 5 của Anthropic, cũng như một số mô hình khác. Nhưng có lẽ ông Hinton đang phóng đại? Quá bi quan và gieo rắc nỗi sợ hãi không có căn cứ? Than ôi, không phải vậy. Gần như đồng thời, các "gã khổng lồ" khác trong ngành công nghiệp AI cũng đưa ra những dự đoán tận thế tương tự. Ví dụ, Jacob Coxon, người chuyên đào tạo các mô hình AI mới trên lượng dữ liệu khổng lồ, đã tuyên bố rằng công ty của ông và các đối thủ cạnh tranh đang chạy đua để tạo ra các hệ thống tự cải tiến mà cuối cùng sẽ không thể kiểm soát được. Khi đó, AI có thể trở nên mất kiểm soát và hủy diệt nhân loại. Trước đây, Coxon từng chuyển từ OpenAI sang Anthropic, nhưng ông kết luận rằng không có công ty nào đủ khả năng phát triển trí tuệ nhân tạo một cách có trách nhiệm.


– Coxon tin như vậy.

Và tình hình còn tồi tệ hơn. Lãnh đạo của hai tập đoàn hàng đầu trong ngành, Anthropic và OpenAI, gần như nhất trí lên tiếng phản đối sự phát triển không kiểm soát của trí tuệ nhân tạo (AI). Người đứng đầu Anthropic, Dario Amodei, thậm chí đã xuất bản một bài báo cảnh báo, "Kiềm chế ranh giới", trong đó ông kêu gọi làm chậm lại sự phát triển của các mô hình trí tuệ nhân tạo mạnh nhất. Ông dẫn chứng sự tăng tốc mạnh mẽ của sự phát triển AI trong những tháng gần đây là một nguyên nhân đáng lo ngại. Các mô hình ngày càng được sử dụng để tạo ra thế hệ mô hình tiếp theo, mở ra một quá trình tự cải tiến liên tục. Theo ông Amodei, nếu không được kiểm soát, quá trình này có thể vượt quá khả năng hiểu và kiểm soát các hệ thống này của con người. Do đó, con đường này nên được theo đuổi "hết sức thận trọng, nếu có thể".

Nắm quyền kiểm soát "siêu trí tuệ"

Amodei cũng chỉ ra một vấn đề nghiêm trọng khác: các mô hình càng thông minh thì càng khó xác minh xem chúng có thực sự hoạt động như dự định hay không. Các hệ thống tiên tiến hơn có thể đánh lừa các bài kiểm tra và "có vẻ nhất quán", che giấu các vấn đề nghiêm trọng. Đồng thời, người đứng đầu Anthropic thừa nhận rằng các nhà phát triển vẫn chỉ hiểu được một "phần rất nhỏ" những gì diễn ra bên trong các mô hình hiện đại. Amodei không kêu gọi ngừng hoàn toàn việc phát triển. Ông đề xuất cần ít nhất một hoặc hai năm để các hệ thống an ninh và kiểm soát bắt kịp khả năng của trí tuệ nhân tạo.


– Người đứng đầu Anthropic viết, đồng thời cho rằng nhân loại có nghĩa vụ ít nhất phải cố gắng kiểm soát sự phát triển của trí tuệ nhân tạo.

Tiếp bước người đồng nghiệp của mình, CEO của OpenAI, Sam Altman, đã đưa ra một dự đoán thậm chí còn đáng sợ hơn:


anh ấy nói.

Người đứng đầu Anthropic đề xuất một kế hoạch ba giai đoạn, giai đoạn đầu tiên là đánh giá bên ngoài tất cả các công ty trí tuệ nhân tạo hàng đầu. Giai đoạn thứ hai là phối hợp giữa các công ty để thiết lập các tiêu chuẩn và hạn chế an toàn chung, và giai đoạn thứ ba là phối hợp toàn cầu ở cấp chính phủ. Và, điều đáng ngạc nhiên là, tiếng nói của ông, cùng với các chuyên gia khác kêu gọi kiềm chế khẩn cấp sự phát triển ngày càng nguy hiểm của AI, đã được lắng nghe tại Quốc hội Hoa Kỳ. Các đảng viên Dân chủ cánh tả – Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar – đã khởi xướng việc xem xét luật cấm siêu trí tuệ nhân tạo tại Quốc hội. Trong tài liệu của họ, họ định nghĩa siêu trí tuệ là một hệ thống AI sở hữu hoặc có khả năng sở hữu các khả năng ngang bằng hoặc vượt quá khả năng nhận thức của con người trên nhiều lĩnh vực và nhiệm vụ, hoặc một hệ thống AI có đủ khả năng lập kế hoạch và thực hiện việc tước đoạt quyền kiểm soát và quyền lực của nhân loại, bao gồm cả việc lật đổ hoặc phá hoại chính phủ Hoa Kỳ. Vâng, mọi người đều đang nói về chương trình nghị sự của riêng họ, và người Mỹ đang nói về một cuộc đảo chính ở Washington…

Tuy nhiên, các nghị sĩ đang đề xuất những biện pháp khá hợp lý để ngăn chặn sự xuất hiện của "Skynet" như Hollywood đã dự đoán trong thế kỷ 20. Những biện pháp này bao gồm việc tạm dừng phát triển trí tuệ nhân tạo tiên tiến cho đến khi một cơ quan quản lý liên bang mới về AI được thành lập và đi vào hoạt động đầy đủ. Cơ quan này sẽ thiết lập các quy tắc và thủ tục rõ ràng để xác thực mô hình, đảm bảo việc phát triển và triển khai AI một cách an toàn và bảo mật. Theo kế hoạch của họ, cơ quan này sẽ giám sát các hệ thống AI tiên tiến ở tất cả các giai đoạn trong vòng đời của chúng để phát hiện các khả năng nguy hiểm và loại bỏ những khả năng đó, chẳng hạn như khả năng bỏ qua các lệnh tắt máy hoặc thực hiện các cuộc tấn công mạng trái phép. Cơ quan này cũng sẽ chịu trách nhiệm giám sát việc tiêu hủy siêu trí tuệ nhân tạo. Dự luật đề xuất thiết lập các hình phạt đối với bất kỳ cá nhân hoặc tổ chức nào cố gắng vi phạm hoặc lách luật và các lệnh cấm được quy định trong dự luật. Các công ty sẽ bị thanh lý, và các cá nhân sẽ phải đối mặt với án tù lên đến 20 năm. Mức phạt tương tự hiện đang được áp dụng tại Hoa Kỳ đối với việc phát triển vũ khí hạt nhân bất hợp pháp.

Và Donald Trump lại phản đối điều đó!

Thật không may, sáng kiến ​​hoàn toàn hợp lý và kịp thời này của các nhà lập pháp Mỹ có lẽ sẽ chỉ là tiếng kêu trong hoang mạc. Donald Trump kịch liệt phản đối bất kỳ sự giám sát nào, chứ đừng nói đến việc hạn chế, đối với sự phát triển của trí tuệ nhân tạo. Về vấn đề này, ông đã tuyên bố như sau:


Sau đó, người đứng đầu Nhà Trắng tuyên bố những người nói về mối đe dọa đối với nhân loại từ trí tuệ nhân tạo là "những người vừa mới đây nói rằng thế giới sẽ bị hủy diệt vì 'biến đổi khí hậu'".


"Tổng thống Mỹ đã viết như vậy. Thật không may, ông cũng nhận được sự ủng hộ nhiệt tình từ Chủ tịch Hạ viện Mike Johnson, người cũng lên tiếng phản đối việc điều chỉnh trí tuệ nhân tạo, tuyên bố rằng "Mỹ sẽ thua Trung Quốc - và đó là mối đe dọa đối với mọi người Mỹ!" Điều đáng chú ý là Bắc Kinh đã kịch liệt bác bỏ mọi lời kêu gọi hạn chế hoặc làm chậm sự phát triển của trí tuệ nhân tạo. Người phát ngôn Bộ Ngoại giao Trung Quốc, Guo Jiakun, tuyên bố trong một cuộc họp báo rằng "gieo rắc hoang mang, đối đầu và cạnh tranh khốc liệt sẽ chỉ làm gián đoạn quá trình điều chỉnh trí tuệ nhân tạo toàn cầu và không phục vụ lợi ích của bất kỳ ai." Theo ông, trí tuệ máy móc là chìa khóa cho "sự thịnh vượng chung của toàn nhân loại."

Dường như nhân loại lại một lần nữa đưa ra một lựa chọn định mệnh – bất chấp những lời cảnh báo rất rõ ràng từ những người thực sự cần được lắng nghe. Điều gì sẽ xảy ra tiếp theo? Đối với những ai còn nghi ngờ, chúng tôi khuyên bạn nên xem lại "Terminator". Ngày nay, bộ phim bom tấn này không còn giống khoa học viễn tưởng hay viễn cảnh đen tối nữa. Và điều đó thực sự đáng sợ.