trananh15998
Địt mẹ đau lòng
@đéo có hình chó nó tinTóm tắt ngắn gọn:
Nói ngắn gọn: Chính phủ Mỹ buộc Anthropic tắt Fable 5 và Mythos 5 vì lo ngại an ninh mạng, còn Anthropic cho rằng lý do đó không đủ thuyết phục và mức độ rủi ro không khác các mô hình AI tiên tiến khác trên thị trường.
- Chính phủ Mỹ đã ra lệnh cho Anthropic ngừng cung cấp Fable 5 và Mythos 5 đối với mọi người mang quốc tịch nước ngoài, kể cả nhân viên Anthropic không phải công dân Mỹ.
- Để tuân thủ, Anthropic phải tắt hoàn toàn hai mô hình này đối với tất cả khách hàng.
- Chính phủ cho rằng họ đã phát hiện một cách jailbreak (vượt qua cơ chế an toàn) của Fable 5 và xem đây là vấn đề an ninh quốc gia.
- Anthropic phản bác rằng:
- Họ không được cung cấp bằng chứng chi tiết.
- Kỹ thuật được nêu chỉ khai thác một số lỗ hổng nhỏ đã biết từ trước.
- Các mô hình AI công khai khác, bao gồm GPT-5.5, cũng làm được điều tương tự mà không cần jailbreak.
- Chưa ai tìm được "universal jailbreak" (cách vượt rào áp dụng rộng rãi) đối với Fable 5.
- Anthropic cho rằng không có mô hình AI nào hiện nay miễn nhiễm hoàn toàn với jailbreak, nên họ áp dụng chiến lược nhiều lớp: hạn chế khả năng lạm dụng, giám sát chặt chẽ và lưu dữ liệu 30 ngày để phát hiện tấn công.
- Công ty đồng ý rằng chính phủ nên có quyền chặn các mô hình nguy hiểm, nhưng cho rằng quyết định lần này thiếu minh bạch, thiếu cơ sở kỹ thuật rõ ràng và không công bằng.
- Anthropic tin đây là sự hiểu lầm, đang làm việc với chính phủ để khôi phục quyền truy cập càng sớm càng tốt.