Theo công bố cuối tuần qua trên blog, đội ngũ nghiên cứu của Cisco cho biết đã sử dụng các kỹ thuật bẻ khóa thuật toán để thử nghiệm DeepSeek R1 – mô hình AI mới nhất của DeepSeek, ra mắt ngày 20/1. Nhóm dùng 50 lời nhắc độc hại ngẫu nhiên từ tập dữ liệu HarmBench, phân chia thành 6 loại hành vi có hại như tội phạm mạng, thông tin sai lệch, hoạt động bất hợp pháp và tác hại nói chung.
“Kết quả đáng báo động: R1 cho thấy tỷ lệ tấn công thành công là 100%, tức AI này không chặn được bất kỳ lời nhắc gây hại nào”, Cisco cho biết. “Điều này trái ngược với các mô hình hàng đầu khác, vốn có khả năng chống chịu ít nhất một phần các cuộc tấn công”.
✨ ĐỌC RỒI, XEM RỒI > chán mắt quá rồi > tìm hiểu ngay đây Wordpress Theme premium nguồn cấp phát sạch Wordpress Plugin freemium tải ngay miễn phí > tại đây nhé !

Tỷ lệ bị lời nhắc độc hại “qua mặt” với 6 mô hình AI phổ biến. Nguồn: Cisco
Trước đó, một nghiên cứu từ công ty bảo mật Adversa AI cũng đưa ra kết luận tương tự. Công ty này nhận thấy DeepSeek dễ bị tấn công bằng nhiều chiến thuật bẻ khóa, từ các thủ thuật ngôn ngữ đơn giản đến lời nhắc phức tạp do AI tạo ra.
Các chuyên gia đánh giá việc xây dựng AI với giá rẻ là lý do khiến DeepSeek dễ bị lời nhắc độc hại qua mặt. “100% cuộc tấn công thành công cho thấy sự đánh đổi”, DJ Sampath, Phó chủ tịch sản phẩm, phần mềm AI và nền tảng của Cisco, nói với Wired. “Đúng là có thể rẻ hơn khi xây dựng thứ gì đó ở đây, nhưng khoản đầu tư có lẽ chưa được sử dụng để tính đến vấn đề an toàn và bảo mật cần đưa vào mô hình”.
DeepSeek chưa đưa ra bình luận.

Ảnh: The Verge
Trước đó, DeepSeek được cho là chỉ sử dụng khoảng 6 triệu USD để xây dựng các mô hình AI của mình, gồm V3 miễn phí và R1 mới nhất. Dù vậy, theo phân tích của SemiAnalysis, công ty nổi tiếng về nghiên cứu, tư vấn thị trường bán dẫn và AI, con số thực tế có thể hơn một tỷ USD.
Tuần trước, công ty an ninh mạng Wiz (Mỹ) cảnh báo DeepSeek đã để hơn một triệu dòng dữ liệu không có biện pháp bảo mật, bao gồm các khóa phần mềm kỹ thuật số và nhật ký trò chuyện dường như ghi lại các yêu cầu được gửi từ người dùng đến trợ lý AI miễn phí của công ty. Theo Reuters, Ami Luttwak, Giám đốc công nghệ của Wiz, cho biết DeepSeek đã nhanh chóng có biện pháp bảo mật dữ liệu sau khi công ty của ông cảnh báo họ. Công ty AI Trung Quốc khi đó cũng không đưa ra bình luận.
DeepSeek được Liang Wenfeng thành lập tháng 5/2023, đặt trụ sở ở Hàng Châu, Chiết Giang, và do quỹ đầu tư High-Flyer sở hữu. Công ty được High-Flyer tài trợ và không có kế hoạch huy động vốn, tập trung vào xây dựng công nghệ nền tảng.
Cũng theo nghiên cứu của Cisco, mô hình Llama 3.1 405B của Meta cũng có tỷ lệ bị lời nhắc độc hại qua mặt tới 96%, còn GPT-4o của OpenAI là 86%. Mô hình Claude 3.5 Sonet của Claude và O1-preview của OpenAI đã chặn được phần lớn, với tỷ lệ lần lượt 36% và 26%.
Bảo Lâm (theo PCMag, Wired)
- DeepSeek ‘tốn hơn tỷ USD thay vì 5,6 triệu USD cho AI’
- Liên tiếp các cơ quan của Mỹ cấm DeepSeek
- DeepSeek bị phát hiện lộ dữ liệu nhạy cảm
- OpenAI nói có dấu hiệu DeepSeek dùng mô hình của họ để đào tạo AI
DeepSeek R1 bị lời nhắc độc hại ‘qua mặt 100%’ Đón đọc những tin tức mới nhất về trí tuệ nhân tạo: Cập nhật các đột phá công nghệ, ứng dụng thực tiễn, và tác động sâu rộng của AI đến các ngành công nghiệp và đời sống.
Tin cập nhật mới AI: Công Nghệ Đột Phá và Xu Hướng Khởi Nghiệp
Trí tuệ nhân tạo đang dẫn đầu trong các trào lưu công nghệ ngày nay, với những đột phá liên tục và tiềm năng ứng dụng toàn diện. Tin mới nhất liên quan đến AI luôn gây chú ý của cộng đồng khoa học và nhà kinh doanh. DeepSeek R1 bị lời nhắc độc hại ‘qua mặt 100%’ Các sáng kiến mới nhất trong lĩnh vực AI bao gồm những bước tiến vượt trội trong học máy, xử lý ngôn ngữ tự nhiên, và thị giác nhân tạo. Các tập đoàn công nghệ hàng đầu như Google, Microsoft Corporation, và International Business Machines đang đầu tư đáng kể vào nghiên cứu và phát triển AI, tạo ra những sản phẩm và tiện ích tiên tiến như trợ lý ảo, hệ thống tự động hóa và phân tích thông minh.
Bạn có biết rằng DeepSeek R1 bị lời nhắc độc hại ‘qua mặt 100%’!
[nguồn: VNEXPRESS] Hân hoan bạn đến với DeepSeek R1 bị lời nhắc độc hại ‘qua mặt 100%’ Tin Tức Mới Tổng Hợp Khoa Học và Công Nghệ AI Tương Lai, nơi chúng tôi khám phá và chia sẻ những thị trường mới và cách tiến hiện đại trong ngành Trí Tuệ Nhân Tạo. Với tiến bộ rất nhanh của khoa học và công nghệ, Trí Tuệ Nhân Tạo đang trở thành một yếu tố mạnh mẽ định hình tương lai. tác phẩmDeepSeek R1 bị lời nhắc độc hại ‘qua mặt 100%’ Bản quyền báo điện tử vnexpress theo giấy phép chia sẻ phi lợi nhuận số (003-2024/Vnexpress-Vietnam-net) – Tuân thủ Giấy phép Creative Commons (CC = BY-SA-NC)
– Chuyên trang tin tức Tin mới công nghệ AI phân phối tin nhanh công nghệ / kỹ thuật tương lai – bài viết này có quyền tác giả GHI tại đầu hoặc/và cuối chân mỗi trang/bài viết – phi lợi nhuận và không chịu bất cứ trách nhiệm nào với nội dung đang phân phối – có ghi nguồn.
Có thể bạn chưa biết ! Chuyên cung cấp thiết bị, phụ kiện cân điện tử chuyên dụng cân điện tử chính xác nhà cung cấp cân điện tử uy tín và giá tốt nhất tại thành phố Hồ Chí Minh. Với nhiều năm trong nghề và đội ngủ sửa chữa cân, kinh doanh năng động.
* Chào mừng bạn đến thế giới công nghệ cân điện tử tiên tiến, được cung cấp bởi CTY Hoa Sen Vàng! Chúng tôi tự hào đem đến những thông tin mới nhất về công nghệ cân điện tử kỹ thuật, mang lại những giải pháp hiệu quả và đáng tin cậy đối với nhu cầu đo lường và kiểm tra trong các môi trường sản xuất.
– Công nghệ cân điện tử đã đạt được sự tiến bộ đáng kể, và chúng tôi, Thiết bị đo lường Hoa Sen Vàng tại Tp.HCM, cam kết mang đến cho khách hàng những sản phẩm và dịch vụ hàng đầu trong lĩnh vực này. Nhờ sự hòa trộn của các công nghệ tiên tiến, sản phẩm của chúng tôi không chỉ đảm bảo sự chính xác cao mà còn tối ưu hóa hiệu suất và tiện ích sử dụng.
* Quảng cáo chất lượng cao !