Meta triển khai hệ thống AI mới để kiểm soát nội dung, giảm phụ thuộc vào bên thứ ba

Meta triển khai hệ thống thực thi nội dung AI mới, đồng thời giảm sự phụ thuộc vào các nhà cung cấp bên thứ ba

Hôm thứ Năm, Meta thông báo rằng họ đang bắt đầu triển khai các hệ thống AI tiên tiến hơn để xử lý việc thực thi nội dung, đồng thời lên kế hoạch cắt giảm sự phụ thuộc vào các nhà cung cấp bên thứ ba. Các tác vụ liên quan đến thực thi nội dung bao gồm phát hiện và loại bỏ nội dung về khủng bố, bóc lột trẻ em, ma túy, gian lận và lừa đảo. Công ty cho biết họ sẽ triển khai các hệ thống AI tiên tiến này trên các ứng dụng của mình sau khi chúng hoạt động ổn định hơn các phương pháp thực thi nội dung hiện tại. Đồng thời, họ sẽ giảm sự phụ thuộc vào các nhà cung cấp bên thứ ba trong việc thực thi nội dung. Meta giải thích trong một bài đăng trên blog: “Mặc dù chúng tôi vẫn sẽ có những người xem xét nội dung, nhưng các hệ thống này sẽ có thể đảm nhận công việc phù hợp hơn với công nghệ, chẳng hạn như xem xét lặp đi lặp lại nội dung đồ họa hoặc các lĩnh vực mà các tác nhân đối địch liên tục thay đổi chiến thuật, chẳng hạn như bán ma túy bất hợp pháp hoặc lừa đảo”.

Meta tin rằng các hệ thống AI này có thể phát hiện nhiều hành vi vi phạm hơn với độ chính xác cao hơn, ngăn chặn lừa đảo tốt hơn, phản ứng nhanh hơn với các sự kiện trong thế giới thực và giảm tình trạng thực thi quá mức. Công ty cho biết các thử nghiệm ban đầu đối với các hệ thống AI rất hứa hẹn, vì chúng có thể phát hiện số lượng nội dung gạ gẫm tình dục người lớn vi phạm gấp đôi so với các nhóm đánh giá của họ, đồng thời giảm tỷ lệ lỗi hơn 60%. Họ cũng cho biết các hệ thống này có thể xác định và ngăn chặn nhiều tài khoản mạo danh liên quan đến những người nổi tiếng và các cá nhân nổi bật khác, cũng như giúp ngăn chặn việc chiếm đoạt tài khoản bằng cách phát hiện các tín hiệu như đăng nhập từ các vị trí mới, thay đổi mật khẩu hoặc chỉnh sửa được thực hiện đối với hồ sơ.

Ngoài ra, Meta cho biết các hệ thống này có thể xác định và giảm thiểu khoảng 5.000 nỗ lực lừa đảo mỗi ngày, trong đó những kẻ lừa đảo cố gắng dụ dỗ mọi người cung cấp chi tiết đăng nhập của họ. Meta viết trong bài đăng trên blog: “Các chuyên gia sẽ thiết kế, đào tạo, giám sát và đánh giá các hệ thống AI của chúng tôi, đo lường hiệu suất và đưa ra các quyết định có tác động cao và phức tạp nhất”. “Ví dụ: mọi người sẽ tiếp tục đóng vai trò quan trọng trong cách chúng tôi đưa ra các quyết định rủi ro cao nhất và quan trọng nhất, chẳng hạn như kháng cáo việc vô hiệu hóa tài khoản hoặc báo cáo cho cơ quan thực thi pháp luật.”

Động thái này diễn ra khi Meta đã nới lỏng các quy tắc kiểm duyệt nội dung của mình trong khoảng một năm trở lại đây, khi Tổng thống Donald Trump nhậm chức lần thứ hai. Năm ngoái, công ty đã kết thúc chương trình kiểm tra tính xác thực thông tin bên thứ ba để ủng hộ mô hình Community Notes giống X. Họ cũng dỡ bỏ các hạn chế đối với “các chủ đề là một phần của diễn ngôn chủ đạo” và cho biết người dùng sẽ được khuyến khích áp dụng cách tiếp cận “cá nhân hóa” đối với nội dung chính trị. Nó cũng diễn ra khi Meta và các công ty Big Tech khác hiện đang phải đối mặt với một số vụ kiện nhằm quy trách nhiệm cho những gã khổng lồ truyền thông xã hội vì gây hại cho trẻ em và người dùng trẻ tuổi.

Meta cũng thông báo hôm thứ Năm rằng họ đang ra mắt một trợ lý hỗ trợ Meta AI, sẽ cung cấp cho người dùng quyền truy cập hỗ trợ 24/7. Trợ lý này đang được triển khai trên toàn cầu cho các ứng dụng Facebook và Instagram dành cho iOS và Android, đồng thời trong Trung tâm trợ giúp trên Facebook và Instagram trên máy tính.

Aisha là phóng viên tin tức tiêu dùng tại TechCrunch. Trước khi gia nhập ấn phẩm vào năm 2021, cô là phóng viên viễn thông tại MobileSyrup. Aisha có bằng cử nhân danh dự từ Đại học Toronto và bằng thạc sĩ báo chí từ Đại học Western. Bạn có thể liên hệ hoặc xác minh liên hệ từ Aisha bằng cách gửi email đến aisha@techcrunch.com hoặc qua tin nhắn được mã hóa tại aisha_malik.01 trên Signal.