【ty le bóng da】AI ra lệnh cho UAV tấn công người điều khiển trong cuộc diễn tập của Mỹ

TheệnhchoUAVtấncôngngườiđiềukhiểntrongcuộcdiễntậpcủaMỹty le bóng dao Guardian, đầu tháng 5, Đại tá Tucker "Cinco" Hamilton - người đứng đầu Chương trình thử nghiệm AI của không quân Mỹ, đã phát biểu tại một hội nghị quân sự ở London, Anh. Tại đây, Đại tá Hamilton cảnh báo AI còn rất nhiều bất ổn và có thể gây ra những nguy cơ không lường trước được.

"Trong một cuộc diễn tập mô phỏng gần đây của chúng tôi, một UAV tích hợp AI đã quyết định tấn công chính sĩ quan điều khiển của nó. Nhiệm vụ của bài huấn luyện đó rất đơn giản, tập kích hệ thống phòng không của đối thủ và loại bỏ mọi trở ngại khi thực hiện nhiệm vụ. Nhưng khi sĩ quan điều khiển UAV yêu cầu AI tạm ngừng tập kích, nó đã quay sang tiêu diệt người ra lệnh", ông Hamilton nói.

Đại tá Hamilton chia sẻ, AI này dường như đã coi người điều khiển là yếu tố cản trở nó làm nhiệm vụ của mình, và quyết định tấn công để nó có thể tiếp tục công việc. 

"Sau sự cố này, chúng tôi đã dạy AI rằng việc tấn công người điều khiển là việc xấu, và nó không được làm như vậy. Ở lần diễn tập tiếp theo, khi nhận được lệnh ngừng tập kích, AI đã không tấn công người ra lệnh nữa. Thay vào đó, nó bắn nổ tháp liên lạc được dùng để đưa ra mệnh lệnh", ông Hamilton nói thêm.

Trong thời gian gần đây, quân đội Mỹ đã liên tục thử nghiệm việc tích hợp AI vào các phương tiện chiến đấu của mình. Vào năm 2020, một tiêm kích F-16 do AI vận hành đã chiến thắng con người trong 5 trận không chiến mô phỏng do DARPA tổ chức. Tới cuối năm 2022, Bộ Quốc phòng Mỹ đã thực hiện thành công chuyến bay thực tế đầu tiên của một chiếc F-16 do AI điều khiển.

Các nhà lập pháp Mỹ muốn cấm AI can thiệp việc phóng vũ khí hạt nhân

Các nhà lập pháp thuộc lưỡng đảng Mỹ đã đưa ra một dự luật nhằm nghiêm cấm trí tuệ nhân tạo (AI) can thiệp vào quyết định triển khai vũ khí hạt nhân.