Kỹ thuật tấn công prompt gián tiếp khiến bộ nhớ dài hạn của Google Gemini bị thao túng

Vào thứ hai vừa rồi, nhà nghiên cứu Johann Rehberger đã demo cách tấn công vào Gemini thông qua lệnh gián tiếp, khiến công cụ này thay đổi các thông tin lưu trong ký ức, đồng thời mở ra khả năng chatbot trí tuệ nhân tạo này hành động dựa trên thông tin hoặc hướng dẫn sai lệch một cách liên tục.

Trí tuệ nhân tạo đang ngày càng trở thành một phần không thể thiếu trong cuộc sống hiện đại. Tuy nhiên, sự phát triển nhanh chóng này cũng đi kèm với những mối đe dọa an ninh mới. Cuộc tấn công gần...

Kỹ thuật tấn công prompt gián tiếp khiến bộ nhớ dài hạn của Google Gemini bị thao túng
Nguồn: tinhte.vn