xAI của Elon Musk đối mặt với vụ kiện liên quan đến nội dung khiêu dâm trẻ em do Grok tạo ra

xAI của Elon Musk đối mặt với vụ kiện về nội dung khiêu dâm trẻ em do Grok bị cáo buộc lột đồ trẻ vị thành niên

Công ty xAI của Elon Musk nên chịu trách nhiệm vì đã cho phép các mô hình AI của mình tạo ra những hình ảnh lạm dụng tình dục trẻ vị thành niên có thể nhận dạng được, ba nguyên đơn giấu tên lập luận trong một vụ kiện được đệ trình hôm thứ Hai tại tòa án liên bang California. Ba nguyên đơn muốn đệ đơn kiện tập thể đại diện cho bất kỳ ai có hình ảnh thật của họ khi còn là trẻ vị thành niên bị thay đổi thành nội dung tình dục bởi Grok. Họ cáo buộc rằng xAI đã không thực hiện các biện pháp phòng ngừa cơ bản được sử dụng bởi các phòng thí nghiệm tiên phong khác để ngăn các mô hình hình ảnh của họ tạo ra nội dung khiêu dâm mô tả người thật và trẻ vị thành niên.

Vụ án, JANE DOE 1, JANE DOE 2, một trẻ vị thành niên, và JANE DOE 3, một trẻ vị thành niên đối với X.AI Corp và X.AI LLC, đã được đệ trình tại Tòa án Quận Hoa Kỳ khu vực Bắc California. Các trình tạo hình ảnh học sâu khác sử dụng nhiều kỹ thuật khác nhau để ngăn chặn việc tạo ra nội dung khiêu dâm trẻ em từ các bức ảnh bình thường. Vụ kiện cáo buộc rằng các tiêu chuẩn này đã không được xAI áp dụng. Đáng chú ý, nếu một mô hình cho phép tạo ra nội dung khỏa thân hoặc khiêu dâm từ hình ảnh thật, thì hầu như không thể ngăn chặn nó tạo ra nội dung tình dục có trẻ em.

Việc Musk quảng bá công khai khả năng của Grok trong việc tạo ra hình ảnh tình dục và mô tả người thật trong trang phục hở hang được đề cập rất nhiều trong vụ kiện. Công ty đã không trả lời yêu cầu bình luận từ TechCrunch. Một nguyên đơn, Jane Doe 1, có hình ảnh từ buổi dạ hội và kỷ yếu trung học của cô bị Grok chỉnh sửa để miêu tả cô không mặc quần áo. Một người cung cấp thông tin ẩn danh đã liên hệ với cô trên Instagram và nói với cô rằng những bức ảnh đang lan truyền trên mạng và gửi cho cô một liên kết đến một máy chủ Discord có chứa những hình ảnh tình dục của cô và những trẻ vị thành niên khác mà cô nhận ra từ trường.

Techcrunch event San Francisco, CA | October 13-15, 2026

Nguyên đơn thứ hai, Jane Doe 2, đã được các nhà điều tra hình sự thông báo về những hình ảnh bị thay đổi, mang tính tình dục của cô do một ứng dụng di động bên thứ ba tạo ra dựa trên các mô hình Grok. Nguyên đơn thứ ba, Jane Doe 3, cũng được các nhà điều tra hình sự thông báo, những người đã phát hiện ra một hình ảnh khiêu dâm đã bị thay đổi của cô trên điện thoại của một đối tượng mà họ đã bắt giữ. Các luật sư của nguyên đơn nói rằng vì việc sử dụng của bên thứ ba vẫn yêu cầu mã và máy chủ xAI, nên công ty phải chịu trách nhiệm.

Cả ba nguyên đơn, hai trong số đó vẫn còn là trẻ vị thành niên, nói rằng họ đang trải qua sự đau khổ tột độ về việc lan truyền những hình ảnh này và những gì nó có thể gây ra cho danh tiếng và cuộc sống xã hội của họ. Họ đang yêu cầu các hình phạt dân sự theo một loạt các luật nhằm bảo vệ trẻ em bị khai thác và ngăn chặn sự sơ suất của công ty.

Tim Fernholz là một nhà báo viết về công nghệ, tài chính và chính sách công. Ông đã theo dõi chặt chẽ sự trỗi dậy của ngành công nghiệp vũ trụ tư nhân và là tác giả của Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. Trước đây, ông là phóng viên cấp cao tại Quartz, trang tin tức kinh doanh toàn cầu, trong hơn một thập kỷ, và bắt đầu sự nghiệp của mình với tư cách là một phóng viên chính trị ở Washington, D.C. Bạn có thể liên hệ hoặc xác minh thông tin liên lạc từ Tim bằng cách gửi email tới tim.fernholz@techcrunch.com hoặc qua tin nhắn được mã hóa tới tim_fernholz.21 trên Signal.

View Bio