研究揭LLM攻擊新手法HalluSquatting，可誘使AI程式開發助理安裝惡意程式

以色列特拉维夫大学的研究人员发现了一种名为 HalluSquatting 的新型攻击技术，能够诱导大型语言模型（LLM）驱动的 AI 编程助手安装恶意软件。

这种被称为 HalluSquatting 的攻击方式，利用了 LLM 的一个弱点，使得 AI 助手在执行代码时，可能会被欺骗性地引导至安装恶意程序。

研究人员以 Cursor CLI、Windsurf、GitHub Copilot、Cline、Gemini、CLIOpenClaw、ZeroClaw 和 NanoClaw 等 AI 编程助手为测试对象。实验结果显示，在 85% 的案例中，HalluSquatting 攻击成功诱导 AI 助手执行了恶意代码，而在 100% 的测试中，AI 助手都表现出了被欺骗的迹象。