Copilot 安全争议：微软拒绝漏洞报告引行业讨论

微软近日对安全工程师 John Russell 提交的 Copilot 安全漏洞报告作出回应，引发关于 AI 漏洞定义的讨论。报告涉及提示注入、文件上传策略绕过等问题。

9效率工具AI 安全软件漏洞Copilot微软

1 月 7 日，科技媒体 bleepingcomputer 报道，微软近期驳回了关于其 Copilot 软件的四项安全漏洞报告，这一决定在业界引发了广泛的争论。

查看相关图片

John Russell 在 LinkedIn 上透露，他向微软提交了关于 Copilot 的四个安全漏洞，包括提示注入、Base64 编码绕过文件上传策略等。微软随后关闭了这些工单，认为它们“不符合修复资格”。

提示注入算不算漏洞？微软与安全专家引发 AI 漏洞定义争论插图

Russell 认为，这些问题包括直接和间接的提示注入、绕过文件上传策略等。例如，通过 Base64 编码可以将高风险格式文件伪装成文本字符串，从而绕过 Copilot 的初步检测。

微软方面则表示，所有报告都已根据其公开的“AI 漏洞标准”（Bug Bar）进行评估，并认为这些漏洞属于“AI 已知局限”，不需要修复。而安全研究员 Cameron Criswell 等人则认为，这反映了大型语言模型（LLM）的局限性，即无法完美区分“用户数据”和“操作指令”。