Microsoft tìm ra nhóm hacker ‘vượt rào’, lạm dụng AI tạo sinh

Microsoft đã xác định mạng lưới tội phạm mạng quốc tế – những kẻ có thể vượt qua hàng rào bảo vệ của các dịch vụ AI tạo sinh để tạo ra nội dung độc hại, bao gồm ảnh nhạy cảm của người nổi tiếng và nội dung khiêu dâm khác.

Tin tặc thu thập thông tin đăng nhập dịch vụ từ các nguồn công khai và dùng để truy cập các dịch vụ AI tạo sinh, bao gồm Azure OpenAI của Microsoft.

Sau đó, chúng thay đổi khả năng của các sản phẩm AI rồi bán quyền truy cập cho các băng nhóm tội phạm khác, hướng dẫn cách tạo nội dung độc hại.

<!–[if IE 9]><![endif]–>

Theo Microsoft, các cá nhân này là: Arian Yadegarnia (biệt danh Fiz) đến từ Iran, Alan Krysiak (Drago) đến từ Anh, Ricky Yuen (cg-dot) đến từ Hồng Kông (Trung Quốc) và Phát Phùng Tấn (Asakuri) đến từ Việt Nam.

Cả bốn bị cáo buộc thuộc mạng lưới tội phạm mạng Storm-2139. Hai cá nhân khác đến từ Mỹ nhưng Microsoft chưa tiết lộ danh tính để bảo đảm an toàn cho cuộc điều tra.

Microsoft cho hay, Storm-2139 được tổ chức thành ba nhóm chính: nhà sáng tạo, nhà cung cấp và người dùng cuối. Nhà sáng tạo tạo ra công cụ bất hợp pháp để lạm dụng dịch vụ AI tạo sinh; sau đó nhà cung cấp sẽ chỉnh sửa và cung ứng cho người dùng cuối với các mức giá và dịch vụ khác nhau; cuối cùng, người dùng sử dụng công cụ để tạo nội dung độc hại, thường xoay quanh các ngôi sao và hình ảnh khiêu dâm.

Thông tin được Microsoft công bố khi ngày càng nhiều người lo ngại về việc lạm dụng AI tạo sinh để tạo ra hình ảnh giả mạo về cả người nổi tiếng lẫn người bình thường hay nội dung khiêu dâm trẻ em.

Các công ty như Microsoft và OpenAI cấm những hành vi này và thực hiện nhiều biện pháp kỹ thuật để ngăn chặn, song những nhóm tin tặc như ở trên vẫn tìm cách “vượt rào”.

Theo Steven Masada, trợ lý Tổng cố vấn Đơn vị Tội phạm kỹ thuật số (DCU) Microsoft, họ nhận thức được tác động nghiêm trọng và lâu dài của hình ảnh lạm dụng với nạn nhân.

Công ty cam kết bảo vệ người dùng thông qua nhúng các biện pháp an toàn AI trong nền tảng và bảo vệ dịch vụ trước nội dung phạm pháp và độc hại.

Tháng 12/2024, DCU nộp đơn kiện lên Quận phía Đông Virginia (Mỹ), chống lại 10 cá nhân không xác định tham gia vào các hoạt động vi phạm pháp luật Mỹ và chính sách của Microsoft.

Tòa án đã ban hành lệnh cấm tạm thời và lệnh cấm sơ bộ, cho phép Microsoft tịch thu một trang web dùng cho hoạt động tội phạm, làm gián đoạn khả năng vận hành của nhóm.

Đáng chú ý, sau hành động này, một số thành viên nghi thuộc Storm-2139 đã gửi email cho cố vấn của Microsoft và đổ lỗi cho nhau.

“Phản ứng này nhấn mạnh tác động của các hành động pháp lý của Microsoft và chứng minh các biện pháp có thể làm gián đoạn mạng lưới tội phạm mạng một cách hiệu quả bằng cách tịch thu cơ sở hạ tầng và tạo ra tác động răn đe mạnh mẽ đến các thành viên”, Microsoft viết trên blog ngày 27/2.

(Theo Microsoft, Bloomberg)