IWF cho biết: “Những kẻ ấu dâm đang lợi dụng tiến bộ của AI để tạo ra các video về CSAM. Tình trạng này có thể sẽ ngày càng nhiều khi công nghệ này liên tục được cải thiện”. Trong tài liệu IWF thu thập được gần đây,ónguycơbịlợidụngđểtạovàlantruyềnvideolạmdụngtrẻkq giai ngoai hang anh đã có những video ngắn do AI tạo nên có liên quan đến CSAM hoặc video khiêu dâm người lớn nhưng được ghép với khuôn mặt của trẻ em. Dan Sexton - Giám đốc công nghệ tại IWF cho biết: “Những video như thế này chắc chắn sẽ xuất hiện nhiều hơn trong tương lai với chất lượng cao hơn và chân thực hơn”.

Các nhà phân tích của IWF cho biết họ đã tìm được 9 video trên diễn đàn từ một “web đen”, tất cả đều làm giả bằng cách sử dụng công cụ AI trực tuyến. Điều đáng lo ngại là hình ảnh CSAM do AI tạo ra hiện đã trở nên chân thực hơn so với năm 2023, thời điểm IWF lần đầu tiên phát hiện những nội dung CSAM.

Nghiên cứu ảnh chụp nhanh của IWF trong năm 2024 từ một diễn đàn “đen” đã thu thập được 12.000 hình ảnh mới do AI tạo ra, được đăng trong khoảng thời gian chỉ 1 tháng. 9/10 hình ảnh đó chân thực đến mức đáng lo ngại. Susie Hargreaves - Tổng giám đốc điều hành của IWF cho biết: “Nếu không có sự kiểm soát thích hợp, các công cụ AI sẽ bị kẻ săn mồi trực tuyến lợi dụng để thực hiện những tưởng tượng bệnh hoạn và đồi trụy nhất của chúng. Hiện IWF đã ghi nhận nhiều loại dữ liệu kiểu này được chia sẻ, bán trên các trang web “đen” về CSAM”.

IWF đang thúc đẩy những thay đổi về luật pháp của các quốc gia nhằm hình sự hóa hành vi tạo ra hướng dẫn sử dụng AI để tạo ra CSAM.