VHO- Một trong những hiểm họa lớn nhất của trí tuệ nhân tạo là bị tội phạm mạng lợi dụng. Những kẻ lừa đảo đang sử dụng công nghệ trí tuệ nhân tạo (AI) với các ứng dụng đầy rẫy trên mạng nhằm tạo ra những hình ảnh,ảnhgiácvớinhữngKẻmạodanhnhântạkết quả bóng đá georgia giọng nói của một ai đó để lừa đảo, gây ra những hậu quả khôn lường.

 Hình ảnh giả mạo do AI thực hiện được Tom Hanks cảnh báo trên Instagram cá nhân

Theo The Guardian, nam tài tử Tom Hanks vừa cảnh báo người hâm mộ rằng hình ảnh của mình trong một quảng cáo nha khoa gần đây là giả mạo và được tạo ra bằng trí tuệ nhân tạo (AI). Ngôi sao của phim Forrest Gump đã đăng tải trên Instagram có 9,5 triệu người theo dõi rằng: “Hãy cẩn thận! Hiện có một video quảng cáo nha khoa có hình ảnh AI của tôi. Tôi không liên quan gì đến dự án này”.

Trong một email trả lời The New York Times, người phát ngôn của Meta, công ty mẹ của Instagram, không bình luận trực tiếp về quảng cáo này, nhưng nói rằng việc chạy quảng cáo có sử dụng hình ảnh của người nổi tiếng với mục đích lừa đảo là vi phạm chính sách cộng đồng. Người này cũng cho biết thêm: “Chúng tôi đã dành nguồn lực đáng kể để giải quyết các loại quảng cáo lừa đảo này, và đã cải thiện đáng kể việc thực thi của mình, bao gồm cả việc tạm dừng và xóa các tài khoản, trang và quảng cáo vi phạm chính sách”.

Trước đó, chính Mark Zuckerberg - CEO của mạng xã hội Facebook nổi tiếng cũng từng là nạn nhân của công nghệ này. Từ một bài phát biểu đơn thuần của ông, công nghệ AI đã tạo ra một video có nội dung thừa nhận Facebook đánh cắp dữ liệu người dùng và đang kiểm soát tương lai. Mặc dù ở đoạn video này, AI giả giọng ông Mark Zuckerberg không quá giống nhưng cũng rất khó để nhận ra.

Trước đó ở Mỹ, giọng nói giả qua điện thoại nghe như thật đã khiến một bà mẹ tưởng rằng con gái mình bị một người đàn ông bắt cóc. “Mẹ ơi, làm ơn cứu con”, bà Jennifer DeStefano, tại bang Arizona, mới đây nghe qua điện thoại tiếng con gái nức nở, trước khi một người đàn ông xen ngang và đòi tiền chuộc. Bà mẹ bị thuyết phục 100% rằng con gái mình vốn đang đi trượt tuyết đã bị bắt cóc. “Tôi không hề thắc mắc xem đó là ai. Hoàn toàn là giọng con bé. Đó là cách con bé hay khóc nên tôi không nghi ngờ chút nào”, bà kể. Kẻ lừa đảo dùng một số điện thoại lạ và yêu cầu bà nộp số tiền chuộc lên đến 1 triệu USD. Màn lừa đảo công nghệ AI bị lộ chỉ vài phút sau khi bà DeStefano liên lạc được với con gái mình. Vụ việc đang được cảnh sát điều tra và phản ánh nguy cơ tội phạm mạng lợi dụng khả năng tạo giọng nói của AI.

Gần đây, một kẻ lừa đảo có tên là Gilbert Chikli đã phải ra hầu tòa về hành vi mạo danh Bộ trưởng Ngoại giao Jean-Yves le Drian (Pháp) để yêu cầu các cá nhân giàu có và giám đốc điều hành công ty đưa tiền chuộc nhằm giải thoát các con tin người Pháp ở Syria. Hay nữ phóng viên Rana Ayyub (Ấn Độ) đã bị ghép mặt vào các video khiêu dâm, sau đó cô bị tội phạm sử dụng các video giả này để tống tiền.

Công ty an ninh mạng McAfee (Mỹ) mới đây công bố khảo sát mang tên “Kẻ mạo danh nhân tạo”, cho thấy nhiều người không phân biệt được giọng thật và giọng giả. Khảo sát có sự tham gia của 7.054 người từ 9 quốc gia, trong đó có Mỹ và Ấn Độ, cho thấy nhiều người từng là nạn nhân hoặc biết về trường hợp bị lừa bởi công nghệ AI tạo giọng nói. Khoảng 70% thừa nhận họ không tự tin phân biệt giữa giọng thật và giọng do AI tạo ra.

Theo Reuters, Tổng thư ký LHQ Antonio Guterres đã ủng hộ đề xuất của một số lãnh đạo các công ty về AI về việc thành lập một cơ quan quốc tế giám sát AI. “Những hồi chuông báo động về hình thức mới nhất của AI là AI tạo sinh đang được gióng lên lớn nhất từ những nhà phát triển đã thiết kế nó. Chúng ta phải nghiêm túc xem xét những lời cảnh báo đó”, ông kêu gọi. Ngoài ra, ông công bố kế hoạch bắt đầu hoạt động của một cơ quan cố vấn cấp cao về AI trong năm nay.

Theo tạp chí Organizer dẫn lời ông Wasim Khaled, CEO của Công ty Blackbird.AI (Mỹ), công nghệ sử dụng AI bắt chước giọng nói giờ đây hầu như khiến mọi người không thể phân biệt với giọng thật. “Điều đó giúp những kẻ lừa đảo lấy tiền, thông tin từ các nạn nhân một cách hiệu quả hơn”, ông cho biết.

“Giờ đây rất dễ tạo giọng nói bắt chước nghe như thật, nên hầu như bất cứ ai hiện diện trên mạng cũng dễ trở thành nạn nhân”, Giáo sư Hany Farid tại Đại học California (Mỹ) cho biết và cảnh báo rằng những trò lừa đảo này đang ngày càng phổ biến.

Chuyên gia công nghệ Gal Tal-Hochberg tại Team8, công ty về an ninh mạng tại Israel cho rằng, chúng ta đang tiến nhanh đến thời điểm không thể tin tưởng những gì thấy trên mạng. “Chúng ta sẽ cần công nghệ mới để biết rằng người mà bạn đang nói chuyện có thực sự là người đó hay không”, ông cho biết. 

 THÁI AN