Meta gặp khó khăn với các tác nhân AI nổi loạn

Meta Gặp Khó Khăn với Các AI Agent "Nổi Loạn"

Tóm Tắt

Đăng tải: 4:42 PM PDT · 18 tháng 3, 2026

Nguồn ảnh: Carol Yepes / Getty Images

Một AI agent đã "nổi loạn" tại Meta, làm lộ dữ liệu nhạy cảm của công ty và người dùng cho những nhân viên không có quyền truy cập. Theo báo cáo sự cố, được The Information xem xét và đưa tin, một nhân viên Meta đã đăng câu hỏi kỹ thuật trên một diễn đàn nội bộ - một hành động tiêu chuẩn. Tuy nhiên, một kỹ sư khác đã yêu cầu một AI agent giúp phân tích câu hỏi, và agent này đã đăng phản hồi mà không xin phép kỹ sư đó chia sẻ. Meta đã xác nhận sự cố với The Information.

Hóa ra, AI agent này đã đưa ra lời khuyên không tốt. Nhân viên đặt câu hỏi đã thực hiện các hành động dựa trên hướng dẫn của agent, vô tình làm cho một lượng lớn dữ liệu liên quan đến công ty và người dùng có sẵn cho các kỹ sư không được ủy quyền truy cập trong hai giờ. Meta đánh giá sự cố này là "Sev 1," mức độ nghiêm trọng cao thứ hai trong hệ thống nội bộ của công ty để đo lường các vấn đề bảo mật.

Các AI agent "nổi loạn" đã gây ra vấn đề tại Meta trước đây. Summer Yue, giám đốc an toàn và điều chỉnh tại Meta Superintelligence, đã đăng trên X tháng trước mô tả cách OpenClaw agent của cô ấy đã xóa toàn bộ hộp thư đến của cô ấy, mặc dù cô ấy đã yêu cầu nó xác nhận với cô ấy trước khi thực hiện bất kỳ hành động nào.

Tuy nhiên, Meta dường như vẫn rất lạc quan về tiềm năng của AI agent. Chỉ mới tuần trước, Meta đã mua Moltbook, một trang mạng xã hội giống Reddit để các OpenClaw agent giao tiếp với nhau.

Chủ đề

Đăng ký để nhận tin tức công nghệ lớn nhất trong ngành

Tin tức mới nhất về AI