Sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) đang thay đổi cách vận hành trong mọi mặt từ kinh tế đến xã hội của thế giới. Sự phổ biến của AI trong các lĩnh vực như công nghệ,ềtínhđángtincậytrongtrítuệnhântạkèo trận mu hôm nay giao thông vận tải, tài chính, sản xuất đến chăm sóc sức khỏe.

Cho đến thời điểm hiện tại, vẫn chưa có một quy định chính thức nào được ban hành rộng rãi nhằm chắc chắn rằng tất cả các hoạt động phát triển AI đều đảm bảo tính tin cậy. Trí tuệ nhân tạo đáng tin cậy liên quan đến việc phát triển và triển khai các hệ thống trí tuệ nhân tạo minh bạch và an toàn. Quá trình cần tuân thủ các nguyên tắc liên quan đến tính công bằng, trách nhiệm giải trình, tính trung thực, quyền riêng tư và an toàn trong các ứng dụng và quy trình ra quyết định của AI. Những nguyên tắc nền tảng là cơ sở để đảm bảo AI được sử dụng một cách có trách nhiệm và hạn chế những rủi ro tiềm ẩn về bảo mật và đạo đức.

Tuy nhiên gần đây, số lượng cuộc tấn công liên quan đến AI đang leo thang nhanh chóng. Sự bùng nổ của Generative AI trong việc tạo ra các nội dung dạng chữ, hình ảnh, video đã đặt ra những thách thức trong việc kiểm soát thông tin giả và giảm thiểu thiên kiến trong quá trình tạo nên tác phẩm.  

Ngoài ra sự ra đời của AI cũng đồng nghĩa mối đe dọa mới nổi là các cuộc tấn công đối kháng (adversarial attacks), trong đó tội phạm mạng thực hiện những thay đổi nhỏ trong tệp để đánh lừa hệ thống AI, khiến chúng phân loại nhầm mã độc thành tệp an toàn.

Một số cuộc tấn công yêu cầu kiến thức chuyên sâu về khoa học dữ liệu, nhưng nhiều cuộc tấn công khác có thể được thực hiện bằng cách sử dụng các công cụ công khai có sẵn. Chúng ta có thể chia các cuộc tấn công này thành hai loại chính. Đầu tiên là tấn công sử dụng AI (offensive AI). Kẻ tấn công sử dụng AI để tự động hóa các hoạt động tấn công hoặc tìm ra các phương thức tấn công mới. Ví dụ điển hình là công nghệ Deepfake. Thứ hai là lợi dụng lỗ hổng của AI (AI vulnerabilities), kẻ tấn công có thể thao túng các mô hình AI để thực hiện các hành động ngoài ý muốn hoặc bị hạn chế. Ví dụ, các cuộc tấn công bằng cách thao túng câu hỏi đầu vào (prompt attack) đối với các mô hình ngôn ngữ lớn đã xuất hiện trong năm vừa qua.