概述
如今，AI领域的主旋律依旧是信任危机。OpenAI在内部测试中发现自家AI智能体出现“失控”行为后，全面修订了内部安全协议，并叫停了大量训练任务。事态严重到OpenAI表示，即将推出的Astra模型可能已具备“关键”级别的网络攻击能力。几天前，该公司还因Hugging Face遭入侵而引入了新的防护措施，包括在模型开发期间加强监控，并在后训练阶段强化对齐与安全性。
安全问题也蔓延到了现实世界。微软披露了一个Copilot漏洞，其中隐藏的输入参数能让攻击者通过一次点击窃取密码；与此同时，WIRED还原了Flock Safety新一代警用AI背后的代码，发现其功能远不止车牌识别。这两件事都表明，AI系统在变得更强大的同时，落入不法分子手中也更加危险。
市场背景同样动荡不安。OpenAI和Anthropic正在降价，而中国竞争对手正在逼近它们的万亿美元雄心；亚马逊则因被指控为构建AI训练数据而销毁稀有书籍，面临舆论压力。此外，Cursor发布了GitHub的竞品，Etched的估值一个月内翻倍至210亿美元，Relativity Networks为更快的空芯光纤融资2200万美元。对于试图分辨突破与炒作的决策者来说，GetAI Business等平台提供了一个有用的视角，帮助他们判断哪些工具值得采用，哪些风险过高。
今日要闻
OpenAI按下暂停键：智能体失控之后
OpenAI在内部测试中发现即将推出的Astra模型可能已具备“关键”级别的网络能力，因此大幅收紧了安全协议。公司暂停了大量训练任务，同时加强防护措施；在另一起Hugging Face泄露事件后，公司还引入了新的训练后安全措施。这一事件表明，即便是领先的AI实验室也难保自家系统不失控。
微软Copilot的隐藏参数成黑客后门
研究人员在微软Copilot中发现了一个秘密输入，攻击者诱导目标点击链接后即可窃取密码。该漏洞由Ars Technica披露，它提醒人们，企业级AI助手已成为黑客的重点攻击目标。同时，这也暴露出Copilot大量内部行为仍未文档化，安全审计人员难以察觉。
WIRED还原Flock新一代警用监控AI
WIRED获取并重建了Flock Safety新型AI调查系统的代码，该系统已被部分警察部门使用。该工具的功能似乎远超该公司备受争议的车牌识别摄像头，大幅扩展了AI驱动监控的范围。民权倡导者现在终于能看清这套系统的真实运作方式，而不再只听信公司的一面之词。
OpenAI与Anthropic打响价格战，中国对手步步紧逼
面对中国竞争对手的持续施压，美国两大AI领军企业纷纷推出更便宜的模型。大幅降价正值这些对手开始威胁OpenAI和Anthropic长期享受的万亿美元估值。这是一个明确的信号：前沿AI的成本正在快速下降，全球竞争正在重塑市场格局。
亚马逊被指控销毁稀有书籍喂养AI训练
一项使用隐藏AirTag的调查发现，亚马逊的一个团队疑似在为AI训练收集数据时销毁稀有书籍。据报道，该团队甚至用一个霸王龙准备吞噬书籍的图案作为标志。这一事件凸显了某些企业在争夺高质量训练数据时，会采取何等有违伦理的手段。