AI có thể nhìn thấy bất cứ điều gì bạn muốn với kỹ thuật tấn công mới của các kỹ sư Mỹ

Các kỹ sư Mỹ đã phát triển một kỹ thuật tấn công mới gọi là RisingAttacK, có thể thao túng các hệ thống thị giác máy tính AI để kiểm soát những gì AI "nhìn thấy." Phương pháp này nhắm vào các mô hình thị giác được sử dụng rộng rãi trong các ứng dụng như phương tiện tự hành, chăm sóc sức khỏe và an ninh, nơi độ chính xác của AI là yếu tố then chốt cho sự an toàn. RisingAttacK hoạt động bằng cách xác định các đặc điểm hình ảnh chính và thực hiện những thay đổi tối thiểu, có mục tiêu vào các đặc điểm đó, khiến AI hiểu sai hoặc không phát hiện được các vật thể mà con người vẫn nhìn thấy rõ ràng. Ví dụ, một AI có thể nhận diện một chiếc xe trong một hình ảnh nhưng lại không làm được điều đó trong một hình ảnh gần như giống hệt đã bị chỉnh sửa. Các nhà nghiên cứu đã thử nghiệm RisingAttacK trên bốn mô hình AI thị giác phổ biến—ResNet-50, DenseNet-121, ViTB và DEiT-B—và nhận thấy nó hiệu quả trong việc thao túng tất cả các mô hình này. Kỹ thuật này làm nổi bật những điểm yếu trong các mạng nơ-ron sâu, đặc biệt trong bối cảnh các cuộc tấn công đối kháng, nơi dữ liệu đầu vào bị thay đổi tinh vi nhằm đánh lừa hệ thống AI. Nhóm nghiên cứu hiện đang khám phá khả năng áp dụng của phương pháp này...