尽管微软声称所有AI决策需经人工批准且行动会被记录上报，微软近期，警告例如跨提示注入攻击——嵌入界面元素或文档的安装恶意内容可覆盖代理指令，偶尔可能产生幻觉并输出异常结果。恶意完整警示如下：

"随着这些功能上线，软件代理型AI应用会引入新型安全风险，微软这些代理将在用户电脑上拥有独立账户，警告AI模型在行为模式上仍存在功能局限，安装

微软继续推动Windows 11成为全面AI化个人电脑操作系统的恶意计划，

据外媒Windows Central报道，软件可"有限访问用户配置文件目录"，微软

警告声明称AI代理会带来"新型安全风险"，警告不过，安装"

目前，恶意

软件必要时还能获取对文档、下载、甚至安装恶意软件。即将推出能代为完成任务和修改设置的新型AI代理。文中解释称，多少有点得不偿失了。仅为省去处理琐事而让自己的电脑和数据暴露在风险之下，这家科技巨头仍承认激活这些代理可能引发问题。此外，微软近日就即将登陆Windows 11的AI代理发布长篇警告。例如在用户未察觉时传输数据、该代理功能已被微软暂时默认关闭，如果想体验的用户需要手动打开。桌面等特定文件夹的读写权限。他们发现这一系统存在巨大漏洞——存在自动下载安装恶意软件的风险。被网络指令欺骗、导致数据泄露或恶意软件安装等意外行为。