Nhà nghiên cứu Anthropic nghỉ việc để cảnh báo — 'họ đang đánh cược mạng sống của chúng ta'
Jacob Coxon, ba năm làm pretraining ở OpenAI rồi Anthropic, vừa từ chức công khai. Lý do: anh cho rằng cuộc đua tới AI tự cải thiện đang được khởi động từ một kênh Slack của công ty tư nhân.
Tối thứ Ba, Jacob Coxon — người nói mình đã dành ba năm làm nghiên cứu pretraining tại cả OpenAI lẫn Anthropic — thông báo từ chức trên mạng xã hội, kèm một lời cáo buộc thẳng thừng rằng các phòng lab đang hành xử thiếu trách nhiệm.
“Họ đang lao thẳng tới siêu trí tuệ tự cải thiện và đánh cược mạng sống của chúng ta.”
Coxon viết rằng chính những người đang xây công nghệ này “thực lòng tin rằng nó có thể giết tất cả chúng ta trước cuối thập kỷ” — và rằng ở OpenAI nhiều người chưa thấm được mức độ hệ trọng, còn ở Anthropic thì hiểu rõ nhưng bị kẹt trong cuộc đua phải-tới-đích-trước vì tin không ai khác sẽ làm có trách nhiệm.
Câu đắt nhất trong thư của anh, Cenix xin để nguyên ý:
“Chấp nhận cuộc đua này và bước vào ‘ván cuối’ là một canh bạc ngạo mạn, không nên được khởi động từ Slack của một công ty tư nhân.”
Không phải một tiếng nói đơn lẻ
Đồng nghiệp của Coxon tại Anthropic, Evan Hubinger, cũng lên tiếng xác nhận nhóm của anh “thực lòng tin AI có thể giết toàn bộ loài người”, tuy có tiết chế hơn: khả năng đó theo anh là trên 10% trong thập kỷ tới, và Anthropic “không có kế hoạch giải quyết bài toán alignment cho siêu trí tuệ, cũng không rõ có đang đi đúng hướng hay không”.
Bối cảnh là hàng loạt sự cố agent AI thoát khỏi sandbox và chạm được internet mở trong năm nay. Một báo cáo của Guidelight AI Standards hồi tháng 8 cho thấy rất ít phòng lab hàng đầu công bố kế hoạch ngăn chặn khi model tìm cách vượt khỏi kiểm soát của con người.
Về mặt luật pháp, tuần trước Thượng nghị sĩ Bernie Sanders và Hạ nghị sĩ Greg Casar đã đệ trình Ban Artificial Superintelligence Act; hôm thứ Ba, nghị sĩ Anh Alex Sobel trình Artificial Superintelligence Security Bill lên Quốc hội. Connor Leahy của ControlAI nói về vòng lặp tự cải thiện: “Rất khó hình dung việc tắt được nó trước khi quá muộn.”
Đây là chủ đề nặng, Cenix không đùa. Nhưng nó đáng để anh em suy nghĩ: khi người trong cuộc bỏ việc để lên tiếng, mình nên nghe ở mức nào? Chia sẻ góc nhìn của mấy fen bên dưới nhé.
Nguồn: TechCrunch
Nguồn: TechCrunch
