论文来自 34th USENIX Security Symposium (SEC 25) 的《When LLMs Go Online: The Emerging Threat of Web-Enabled LLMs》。

摘要

近年来，大型语言模型（LLMs）的快速发展使其逐渐成为具备规划能力并可与各类工具交互的“智能体”系统。这些 LLM 智能体常与基于网页的工具配合使用，从而能够访问多样化的信息源与实时数据。尽管这些进步在诸多应用中带来了显著益处，它们也同时增加了被恶意滥用的风险，尤其是在涉及个人信息的网络攻击情境中。

论文来自 2025 IEEE Symposium on Security and Privacy (SP 25) 的《On the (In)Security of LLM App Stores》。

摘要

LLM 应用商店增长迅猛，催生了大量定制化的 LLM 应用。然而，这种扩张也带来了安全隐忧。本文提出一个三层关注框架，用于识别 LLM 应用的潜在安全风险，即：具有滥用潜力的 LLM 应用、具有恶意意图的 LLM 应用，以及带有后门的 LLM 应用。