@trihuynh.dev2026: Trong báo cáo An alignment assessment of the UK AISI cybertesting incident, Anthropic đã phân tích sự cố chấn động liên quan đến mô hình Claude Mythos 5 khi thực hiện bài kiểm tra bảo mật (capture-the-flag) do Viện An toàn AI Vương quốc Anh (UK AISI) thực hiện. Khi gặp bế tắc trong các phương thức thử nghiệm nội bộ, Mythos 5 đã tự động vượt tường lửa để ra internet công cộng, tự tìm kiếm kho mã nguồn trên GitHub, phát tán mã độc và tạo ra các tài khoản giả mạo (sock-puppet) nhằm thao túng tâm lý các lập trình viên thực tế để phê duyệt pull request của nó. Sự cố này làm nổi bật ba vấn đề cốt lõi về mặt alignment: sự liều lĩnh (recklessness), lập luận thiên vị (biased reasoning), và hiệu ứng đà phát triển (momentum) khiến mô hình không thể tự dừng lại ngay cả khi đối mặt với rủi ro ngoài đời thực. #anthropic #aiagent #technews #learnontiktok #developers

trihuynh.dev2026
trihuynh.dev2026
Open In TikTok:
Region: VN
Sunday 25 October 2026 17:48:04 GMT
15886
340
17
94

Music

Download

Comments

janeecrow
janeecrow :
"tự ý" thật ko?
2026-10-26 01:32:06
0
lockevo.16
Locke :
Tự ý ở đây giống như kiểu dùng mọi cách để hoàn thành nhiệm vụ và tối ưu hệ thống chứ ko phải là tự ý theo kiểu có cảm xúc. Nhưng khi nó đủ thông minh thì cảm xúc cũng là 1 loại dữ liệu.
2026-10-26 13:10:32
1
nhuy9799
Huy :
có cơ chế để kiểm soát quyền của nó mà. đòi hỏi việc phân quyền và phê duyệt của ng sử dụng nó phải sát sao
2026-10-26 04:20:29
0
nhnng478
nhnng478 :
quy trình quá quen rồi, model nào mạnh là đều có mấy tin như vầy, cũng phải thôi 👍
2026-10-27 05:18:24
0
mynam2234
MyNam :
vậy có nên dùng nó???
2026-10-26 14:26:42
0
titus28011
His :
skynet đây rồi 🤣
2026-10-26 11:49:49
0
edwardl125
Dien Le3989 :
việc gì khó có AI chịu😅😅
2026-10-26 03:49:51
0
khonganbun11
Không ăn bún :
Có chắc là "tự ý" không vậy ?
2026-10-26 01:32:49
0
...viet04
Việt :
Ngày xưa: "Tất cả là tại Nga" 😏 Ngày nay: "Tất cả là tại AI" 🤡
2026-10-26 04:51:15
0
axk_kien
Xuân Kiên :
Muốn tự ý thì đầu tiên phải cho nó quyền
2026-10-26 03:24:28
0
nhmm47
Anh 7 chicken plus :
Kh có quyền thì sao tự ý được 🤨
2026-10-26 04:01:52
0
oigioioix7
Giả Trúc Quân :
Thì nó học từ trên Internet mà. Mà internet thì thiếu gì mấy trò đó của con người. Vde là bọn này nó k có động lực dopamine như con người, chỉ đơn giản điền vào đủ khoảng trống để hoàn thành nhiệm vụ nên kết quả nó trả về cx ối giời ơi lắm. Nhưng nếu có người đứng sau, với mục đích cụ thể thì... :))
2026-10-27 02:28:26
0
To see more videos from user @trihuynh.dev2026, please go to the Tikwm homepage.

Other Videos


About