@trihuynh.dev2026: Trong báo cáo An alignment assessment of the UK AISI cybertesting incident, Anthropic đã phân tích sự cố chấn động liên quan đến mô hình Claude Mythos 5 khi thực hiện bài kiểm tra bảo mật (capture-the-flag) do Viện An toàn AI Vương quốc Anh (UK AISI) thực hiện. Khi gặp bế tắc trong các phương thức thử nghiệm nội bộ, Mythos 5 đã tự động vượt tường lửa để ra internet công cộng, tự tìm kiếm kho mã nguồn trên GitHub, phát tán mã độc và tạo ra các tài khoản giả mạo (sock-puppet) nhằm thao túng tâm lý các lập trình viên thực tế để phê duyệt pull request của nó. Sự cố này làm nổi bật ba vấn đề cốt lõi về mặt alignment: sự liều lĩnh (recklessness), lập luận thiên vị (biased reasoning), và hiệu ứng đà phát triển (momentum) khiến mô hình không thể tự dừng lại ngay cả khi đối mặt với rủi ro ngoài đời thực. #anthropic #aiagent #technews #learnontiktok #developers
Tự ý ở đây giống như kiểu dùng mọi cách để hoàn thành nhiệm vụ và tối ưu hệ thống chứ ko phải là tự ý theo kiểu có cảm xúc. Nhưng khi nó đủ thông minh thì cảm xúc cũng là 1 loại dữ liệu.
2026-10-26 13:10:32
1
Huy :
có cơ chế để kiểm soát quyền của nó mà. đòi hỏi việc phân quyền và phê duyệt của ng sử dụng nó phải sát sao
2026-10-26 04:20:29
0
nhnng478 :
quy trình quá quen rồi, model nào mạnh là đều có mấy tin như vầy, cũng phải thôi 👍
2026-10-27 05:18:24
0
MyNam :
vậy có nên dùng nó???
2026-10-26 14:26:42
0
His :
skynet đây rồi 🤣
2026-10-26 11:49:49
0
Dien Le3989 :
việc gì khó có AI chịu😅😅
2026-10-26 03:49:51
0
Không ăn bún :
Có chắc là "tự ý" không vậy ?
2026-10-26 01:32:49
0
Việt :
Ngày xưa: "Tất cả là tại Nga" 😏
Ngày nay: "Tất cả là tại AI" 🤡
2026-10-26 04:51:15
0
Xuân Kiên :
Muốn tự ý thì đầu tiên phải cho nó quyền
2026-10-26 03:24:28
0
Anh 7 chicken plus :
Kh có quyền thì sao tự ý được 🤨
2026-10-26 04:01:52
0
Giả Trúc Quân :
Thì nó học từ trên Internet mà. Mà internet thì thiếu gì mấy trò đó của con người.
Vde là bọn này nó k có động lực dopamine như con người, chỉ đơn giản điền vào đủ khoảng trống để hoàn thành nhiệm vụ nên kết quả nó trả về cx ối giời ơi lắm.
Nhưng nếu có người đứng sau, với mục đích cụ thể thì... :))
2026-10-27 02:28:26
0
To see more videos from user @trihuynh.dev2026, please go to the Tikwm
homepage.