Mọi người đang điều hướng bảo mật AI trong thời gian thực - ngay cả Google

Ai Cũng Đang Tìm Tòi Về Bảo Mật AI Trong Thời Gian Thực – Ngay Cả Google

Gần đây, tôi đã có cơ hội ngồi lại với Francis de Souza, COO của Google Cloud, sau cánh gà một sự kiện ở Los Angeles. Giữa tiếng ồn ào xung quanh, de Souza, người nói chuyện điềm tĩnh và thận trọng như một giáo sư đại học, đã đưa ra những lời khuyên hữu ích cho các công ty đang tìm tòi về thời điểm bảo mật AI mà tất cả chúng ta đang trải qua, lưu ý rằng “sẽ có một giai đoạn chuyển tiếp, và sau đó tôi nghĩ chúng ta sẽ đến được một nơi tốt đẹp hơn này.” Ông ấy không nói về Google vào thời điểm đó, nhưng rõ ràng là ngay cả Google vẫn đang tìm hiểu mọi thứ. Thông điệp cốt lõi của De Souza là thông điệp mà các chuyên gia bảo mật đã cố gắng khiến các nhà điều hành thấu hiểu trong nhiều năm, giờ đây trở nên cấp thiết hơn bởi AI: bảo mật không thể là một suy nghĩ muộn màng. "Khi các công ty bắt đầu hành trình AI này, họ cần thực hiện một cách tiếp cận nền tảng," ông nói. "Bảo mật không phải là thứ bạn có thể bổ sung sau này và không phải là thứ bạn có thể để nhân viên tự làm." Ông đặc biệt cảnh báo về "AI bóng tối" — nhân viên sử dụng các công cụ tiêu dùng mà không có sự giám sát của tổ chức — và lập luận rằng các công ty cần yêu cầu bảo mật, quản trị và khả năng kiểm toán từ các nền tảng của họ ngay từ đầu. "Không có cái gọi là chiến lược AI mà không có chiến lược dữ liệu và chiến lược bảo mật. Chúng cần phải song hành cùng nhau."

Đáng chú ý: ông ấy không chỉ quảng cáo Google Cloud. Khi tôi nhận xét rằng lời khuyên của ông ấy nghe giống như một quảng cáo của Google, ông ấy đã phản bác. Google, ông nói, cam kết một cách tiếp cận đa đám mây và ông lập luận rằng các công ty nghĩ rằng họ đang hoạt động trên một đám mây duy nhất gần như chắc chắn là không. "Ngay cả khi họ chọn một đám mây duy nhất, họ đang dựa vào các ứng dụng SaaS, có các đối tác kinh doanh có thể đang sử dụng các đám mây khác nhau," ông nói. "Điều quan trọng là các công ty phải có một tư thế bảo mật nhất quán trên các đám mây, trên các mô hình."

Ông cũng lập luận rằng bối cảnh mối đe dọa đã thay đổi một cách cơ bản đến mức các mô hình phòng thủ cũ quá chậm. Ông lưu ý rằng thời gian trung bình giữa một cuộc xâm phạm ban đầu và việc bàn giao cho giai đoạn tiếp theo của một cuộc tấn công đã giảm từ tám giờ xuống còn 22 giây và bề mặt tấn công đã mở rộng vượt ra ngoài vành đai mạng truyền thống. "Ngoài tài sản thông thường của bạn, bạn có các mô hình ngay bây giờ. Bạn có các đường ống dữ liệu được sử dụng để đào tạo các mô hình. Bạn có các tác nhân, bạn có các lời nhắc. Tất cả những điều này cần được bảo vệ."

Một mối đe dọa mà de Souza gắn cờ mà không nhận được đủ sự chú ý: các tác nhân di chuyển qua các hệ thống nội bộ của công ty có thể làm nổi lên các kho lưu trữ dữ liệu bị lãng quên mà không ai nghĩ đến trong nhiều năm. "Rất nhiều tổ chức có các máy chủ SharePoint cũ [và các biện pháp kiểm soát truy cập] mà họ chưa thực sự cập nhật, nhưng điều đó không thành vấn đề vì thực sự không ai biết chúng ở đâu. Nhưng các tác nhân đi lang thang trong doanh nghiệp của bạn sẽ tìm thấy những tài sản dữ liệu đó và sẽ phơi bày dữ liệu trên chúng."

Câu trả lời, theo quan điểm của ông, là đáp ứng tốc độ máy móc bằng tốc độ máy móc. "Chúng ta hiện đang chứng kiến sự xuất hiện của một hệ thống phòng thủ hoàn toàn dựa trên AI, hoàn toàn theo kiểu tác nhân, nơi các tổ chức có thể chạy các tác nhân thúc đẩy hệ thống phòng thủ của họ," ông nói. "Thay vì có một hệ thống phòng thủ do con người dẫn dắt hoặc thậm chí có một người trong vòng lặp, giờ đây bạn có thể có những người giám sát một hệ thống phòng thủ hoàn toàn theo kiểu tác nhân."

Ông nói thêm rằng điều này đã trở thành một vấn đề lãnh đạo, không chỉ là một vấn đề công nghệ. "Đây là một vấn đề ở cấp hội đồng quản trị và một vấn đề của nhóm điều hành. Nó không chỉ là vấn đề của đội bảo mật."

Nhưng ngay cả khi AI đảm nhận nhiều hơn khối lượng công việc phòng thủ, thì những người có đủ trình độ để giám sát nó đang thiếu hụt — và những lỗ hổng mà chính AI đang gây ra đang nhân lên nhanh hơn so với khả năng giải quyết của các đội bảo mật. "Chúng ta sẽ cần những người để đối phó với ngày tận thế lỗi," Giám đốc an ninh thông tin của LinkedIn, Lea Kissner, nói với tờ New York Times tuần này, đồng thời nói thêm rằng bà không mong đợi ngành công nghiệp sẽ hiểu bảo mật AI theo bất kỳ cách bền vững, lâu dài nào trong ít nhất vài năm tới.

Điều đó đưa chúng ta trở lại với chính các nhà cung cấp nền tảng. The Register đã xuất bản một loạt báo cáo trong vài tuần qua ghi lại một làn sóng các nhà phát triển Google Cloud bị tính các hóa đơn năm con số sau các lệnh gọi API trái phép tới các mô hình Gemini — các dịch vụ mà nhiều người trong số họ chưa bao giờ sử dụng hoặc cố ý bật. Các trường hợp theo một mô hình quen thuộc: các khóa API ban đầu được triển khai cho Google Maps, được đặt công khai theo hướng dẫn của chính Google, đã âm thầm có khả năng truy cập Gemini sau khi Google mở rộng phạm vi của chúng mà không tiết lộ rõ ràng sự thay đổi. Rod Danan, CEO của nền tảng luyện phỏng vấn Prentus, cho biết hóa đơn của ông đã lên tới $10.138 trong khoảng 30 phút. Isuru Fonseka, một nhà phát triển có trụ sở tại Sydney, thức dậy với các khoản phí khoảng AUD $17.000 mặc dù tin rằng anh ta có giới hạn chi tiêu là $250. Điều mà cả hai đều không biết là các hệ thống tự động của Google đã nâng cấp các bậc thanh toán của họ dựa trên lịch sử tài khoản, nâng giới hạn hiệu quả của họ lên cao tới $100.000 mà không có sự đồng ý rõ ràng. Google đã hoàn trả cả hai sau khi The Register công bố báo cáo ban đầu. Tuy nhiên, Google nói với The Register rằng họ không có kế hoạch thay đổi việc nâng cấp bậc tự động của mình.