Những gì công cụ SOC của bạn bỏ lỡ lúc 2:13 sáng: Chuỗi tấn công AI tạo sinh khai thác độ trễ đo từ xa - Phần 1

Tham gia bản tin hàng ngày và hàng tuần của chúng tôi để cập nhật những thông tin mới nhất và nội dung độc quyền về các tin tức AI hàng đầu trong ngành.

---

Đồng hồ điểm 2:13 sáng Chủ nhật và cơn ác mộng tồi tệ nhất của các đội SOC sắp trở thành sự thật.

Những kẻ tấn công ở phía bên kia hành tinh đang phát động một cuộc tấn công toàn diện vào cơ sở hạ tầng của công ty. Nhờ nhiều điểm cuối chưa được vá lỗi kể từ năm 2022, chúng đã thổi bay hàng rào bảo vệ của công ty chỉ trong vòng chưa đầy một phút.

Những kẻ tấn công với kỹ năng của một đội ngũ cấp quốc gia đang nhắm vào Active Directory để khóa toàn bộ mạng, đồng thời tạo ra các đặc quyền cấp quản trị mới nhằm ngăn chặn mọi nỗ lực đóng cửa chúng. Trong khi đó, các thành viên khác của nhóm tấn công đang giải phóng một đội quân bot được thiết kế để thu thập hàng gigabyte dữ liệu khách hàng, nhân viên và tài chính thông qua một API chưa bao giờ bị vô hiệu hóa sau bản phát hành sản phẩm lớn gần đây nhất.

Trong SOC, các cảnh báo bắt đầu sáng lên trên bảng điều khiển giống như Grand Theft Auto mới nhất trên Nintendo Switch. Các nhà phân tích SOC đang nhận được thông báo trên điện thoại di động của họ, cố gắng ngủ bù cho một tuần sáu ngày khác, trong đó nhiều người làm việc gần 70 giờ.

CISO nhận được cuộc gọi vào khoảng 2:35 sáng từ nhà cung cấp MDR của công ty, thông báo rằng một cuộc xâm nhập quy mô lớn đang diễn ra. “Không phải đội kế toán bất mãn của chúng ta chứ? Gã đã thử ‘Office Space’ không tái diễn chứ?” CISO hỏi nửa tỉnh nửa mê. Trưởng nhóm MDR nói không, cuộc tấn công này đến từ châu Á và nó rất lớn.

Cơn bão sắp tới của an ninh mạng: AI tạo sinh, các mối đe dọa từ bên trong và tình trạng kiệt sức ngày càng tăng của CISO

AI tạo sinh đang tạo ra một cuộc di cư kỹ thuật số của các kỹ thuật, công nghệ và bí quyết mà mọi người, từ những kẻ tấn công lừa đảo đến quân đội mạng của các quốc gia được đào tạo về nghệ thuật chiến tranh mạng, đang áp dụng. Các mối đe dọa từ bên trong cũng đang gia tăng, do tình trạng bất ổn việc làm và lạm phát ngày càng tăng. Tất cả những thách thức này và hơn thế nữa đều đè nặng lên vai CISO, và không có gì lạ khi ngày càng có nhiều người phải đối mặt với tình trạng kiệt sức.

Sự trỗi dậy nhanh chóng của AI cho cả mục đích đối nghịch và hợp pháp đang là tâm điểm của tất cả. Các giám đốc điều hành đang thúc đẩy các CISO đạt được lợi ích lớn nhất từ AI để cải thiện an ninh mạng đồng thời giảm thiểu rủi ro.

Đó không phải là một nhiệm vụ dễ dàng, vì an ninh AI đang phát triển rất nhanh. Trong báo cáo mới nhất của Gartner về quản lý rủi ro và bảo mật, công ty phân tích đã đề cập đến cách các nhà lãnh đạo đang ứng phó với AI tạo sinh. Họ phát hiện ra rằng 56% tổ chức đã triển khai các giải pháp AI tạo sinh, nhưng 40% các nhà lãnh đạo bảo mật thừa nhận những khoảng trống đáng kể trong khả năng quản lý hiệu quả các rủi ro AI của họ.

AI tạo sinh đang được triển khai nhiều nhất trong bảo mật cơ sở hạ tầng, nơi 18% doanh nghiệp đã hoạt động đầy đủ và 27% đang tích cực triển khai các hệ thống dựa trên AI tạo sinh ngày nay. Thứ hai là các hoạt động bảo mật, nơi 17% doanh nghiệp có các hệ thống dựa trên AI tạo sinh đang được sử dụng đầy đủ. Bảo mật dữ liệu là trường hợp sử dụng phổ biến thứ ba, với 15% doanh nghiệp sử dụng các hệ thống dựa trên AI tạo sinh để bảo vệ các hệ thống lưu trữ dữ liệu trên đám mây, kết hợp và tại chỗ, cũng như các hồ dữ liệu.

Khảo sát mới nhất của Gartner cho thấy các CISO ưu tiên việc áp dụng AI tạo sinh trong bảo mật cơ sở hạ tầng, hoạt động bảo mật và bảo mật dữ liệu, trong khi bảo mật ứng dụng và GRC bị tụt lại phía sau. Nguồn: Gartner, Bảo mật dữ liệu trong kỷ nguyên tiến bộ của AI

Các mối đe dọa từ bên trong đòi hỏi phản ứng ưu tiên AI tạo sinh

AI tạo sinh đã hoàn toàn sắp xếp lại bối cảnh các mối đe dọa nội bộ của mọi doanh nghiệp ngày nay, khiến các mối đe dọa từ bên trong trở nên tự chủ, ngấm ngầm và khó xác định hơn. AI bóng tối là vectơ đe dọa mà không CISO nào tưởng tượng sẽ tồn tại cách đây 5 năm, và giờ đây nó là một trong những bề mặt đe dọa xốp nhất.

Vineet Arora, CTO tại WinWire, gần đây đã nói với VentureBeat: “Tôi thấy điều này mỗi tuần. Các phòng ban sử dụng các giải pháp AI không được phép vì những lợi ích trước mắt quá hấp dẫn để bỏ qua.” Arora nhanh chóng chỉ ra rằng nhân viên không cố ý gây hại. Arora giải thích: “Điều quan trọng là các tổ chức phải xác định các chiến lược với bảo mật mạnh mẽ, đồng thời cho phép nhân viên sử dụng các công nghệ AI một cách hiệu quả. Việc cấm hoàn toàn thường đẩy việc sử dụng AI xuống lòng đất, điều này chỉ làm tăng thêm rủi ro.”

Itamar Golan, Giám đốc điều hành và đồng sáng lập của Prompt Security, cho biết trong một cuộc phỏng vấn gần đây với VentureBeat: “Chúng tôi thấy 50 ứng dụng AI mới mỗi ngày và chúng tôi đã lập danh mục hơn 12.000 ứng dụng. Khoảng 40% trong số này mặc định đào tạo trên mọi dữ liệu bạn cung cấp cho chúng, có nghĩa là tài sản trí tuệ của bạn có thể trở thành một phần trong mô hình của họ.”

Các mô hình phát hiện dựa trên quy tắc truyền thống không còn đủ. Các nhóm bảo mật hàng đầu đang chuyển sang phân tích hành vi do AI tạo sinh điều khiển, thiết lập các đường cơ sở động về các hoạt động của nhân viên, có thể xác định các điểm bất thường trong thời gian thực và ngăn chặn các rủi ro và mối đe dọa tiềm ẩn.

Các nhà cung cấp, bao gồm Prompt Security, Proofpoint Insider Threat Management và Varonis, đang nhanh chóng đổi mới với các công cụ phát hiện do AI cung cấp thế hệ tiếp theo, tương quan các dữ liệu đo từ xa về tệp, đám mây, điểm cuối và danh tính trong thời gian thực. Microsoft Purview Insider Risk Management cũng đang nhúng các mô hình AI thế hệ tiếp theo để tự động xác định các hành vi rủi ro cao trên lực lượng lao động kết hợp.

Kết luận - Phần 1

Các đội SOC đang chạy đua với thời gian, đặc biệt nếu hệ thống của họ không được tích hợp với nhau và hơn 10.000 cảnh báo mỗi ngày mà chúng tạo ra không được đồng bộ hóa. Một cuộc tấn công từ phía bên kia hành tinh lúc 2:13 sáng sẽ là một thách thức để ngăn chặn bằng các hệ thống kế thừa. Với việc các đối thủ không ngừng tinh chỉnh bí quyết thương mại của họ bằng AI tạo sinh, nhiều doanh nghiệp cần phải tăng cường và thông minh hơn về việc khai thác nhiều giá trị hơn từ các hệ thống hiện có của họ.

Thúc đẩy các nhà cung cấp an ninh mạng cung cấp giá trị tối đa của các hệ thống đã được cài đặt trong SOC. Tích hợp đúng cách và tránh phải xoay ghế trên sàn SOC để kiểm tra tính toàn vẹn của cảnh báo từ hệ thống này sang hệ thống khác. Biết rằng một cuộc xâm nhập không phải là một báo động giả. Những kẻ tấn công đang thể hiện một khả năng đáng chú ý để tự làm mới mình một cách nhanh chóng. Đã đến lúc nhiều SOC và các công ty dựa vào chúng làm điều tương tự.

Link bài viết gốc

• Tags:
• Ai
• 10 May 2025
• Venturebeat.com