2026年06月11日

投资多智能体 AI 安全研究

投资多智能体 AI 安全研究 | Jim Cramer谈ServiceNow:“它太贵了,这就是问题所在” - Yahoo Finance | 网络安全研究人员对 Anthropic 的 Fable 安全护栏不满
分类筛选:

01 投资多智能体 AI 安全研究

标题:
Google DeepMind发布1000万美元资助计划推进多智能体AI安全研究

摘要:
Google DeepMind联合Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agency,并获Google.org支持,宣布面向全球研究人员推出最高1000万美元的技术研究资助计划,重点支持多智能体AI安全研究。原文信息有限。

该资助计划聚焦大规模多智能体系统的群体行为研究,目标是建立理解和缓解潜在风险的框架。Google DeepMind指出,未来将有数百万个由不同机构构建的AI agents在数字环境中交互,包括通信、协商和交易。现有安全评估多针对单一模型,难以预测自主智能体交互后产生的涌现行为与系统级风险。

此举反映出AI安全研究正从单模型能力与对齐,扩展到多主体协作、博弈与治理层面。相关研究可能影响经济活动稳定性、网络安全和跨平台系统治理,为多智能体生态建立早期安全基础。

资助规模最高1000万美元 聚焦多智能体系统级风险 安全评估从单模型转向群体行为
来源

查看原文 →

02 Jim Cramer谈ServiceNow:“它太贵了,这就是问题所在” - Yahoo Finance

标题:ServiceNow遭Jim Cramer点评高估值问题聚焦企业软件定价

摘要:信息有限。Yahoo Finance报道称,Jim Cramer在节目中谈及ServiceNow,核心观点是其“估值偏高”,并指出“昂贵是问题所在”。现有内容未披露具体财务数据、产品版本或新增功能信息。

从已知信息看,讨论焦点集中在ServiceNow作为企业软件公司所面临的估值压力,而非产品发布、模型升级或技术路线调整。ServiceNow主要提供数字化工作流与IT服务管理平台,其股价表现通常与企业IT支出预期、增长速度和利润率指标相关。

该信息更接近资本市场评论,而非典型AI产品新闻。对IT行业的参考价值在于,企业软件公司在高增长阶段,估值水平仍是市场定价的重要变量。

估值水平成为讨论核心 内容未涉及产品更新 更偏向资本市场评论
来源

查看原文 →

03 网络安全研究人员对 Anthropic 的 Fable 安全护栏不满

标题:Anthropic发布Fable模型受限开放回退Claude Opus 4.8触发网络安全护栏

摘要:

Anthropic于周二发布模型Fable,将其定位为网络安全模型Mythos的公开且受限版本。该模型在触发安全规则后会中止当前对话,并回退至Claude Opus 4.8处理相关请求。

Fable的护栏主要针对网络安全和生物学主题,目的是降低其被用于开发恶意软件、攻击软件系统或辅助生物武器研发的风险。多名安全研究人员表示,该机制限制范围过宽,部分与网络安全仅间接相关的任务也会被拒绝,包括阅读博客文章和编写安全代码等请求。业内人士认为,其触发逻辑可能主要基于关键词匹配。

Anthropic此前于4月发布Mythos,并通过Project Glasswing向少数企业和机构开放,用于保护关键软件和基础设施。上周,该公司已将Mythos访问范围扩大至15个国家的数百家机构。信息有限,当前争议主要集中在Fable公开版本的可用性与安全限制平衡。

Fable面向公众有限开放 触发护栏后回退Opus 4.8 安全研究人员质疑误拦截 Mythos已扩展至15国机构
来源

查看原文 →