news 2026/6/12 0:18:51

网络安全研究人员不满Anthropic的Fable模型限制,随意限制引争议

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
网络安全研究人员不满Anthropic的Fable模型限制,随意限制引争议

TechCrunch导航信息

有TechCrunch桌面版标志和移动版标志,还有最新资讯、创业公司、风险投资等多个导航分类,包括活动、播客、时事通讯等内容,以及搜索、提交等功能。

主题分类

涵盖最新资讯、人工智能、亚马逊等众多主题分类,提供相关内容的链接。

更多内容

包含团队成员、活动、创业战场等更多来自TechCrunch的内容。

图片展示

展示智能手机屏幕上显示Claude Fable标志的图片,图片来源为Samuel Boivin/NurPhoto / Getty Images。

网络安全研究人员对Fable模型限制不满

周二,Anthropic发布其最新模型Fable,称其为强大且备受瞩目的网络安全模型Mythos的公开有限版本。然而,许多网络安全研究人员、专业人士在网上表达了不满。知名安全研究员Valentina “Chompie” Palmiotti表示,“[Fable]会拒绝任何与网络相关的请求,哪怕是阅读博客文章这样无害的任务”。当提示触发其限制机制时,Fable会暂停聊天,并表示其“安全措施因网络安全或生物主题标记了此消息”。

限制设置原因

设置这些限制是为了降低Fable被用于开发恶意软件或破坏软件的风险,这也是Anthropic长期以来的担忧。对生物领域的限制则源于对开发生物武器的类似担忧。

Mythos模型使用情况

今年4月,人工智能巨头Anthropic发布Mythos时,将该模型限制在少数公司和组织使用,这一举措被称为Project Glasswing,旨在将该模型应用于保护关键软件和基础设施。上周,Anthropic将Mythos的使用范围扩大到15个国家的数百家组织。

专家看法

许多网络安全专家对这些随意的限制感到不满。资深网络安全专家Matt Suiche表示,“如果你要求它编写安全代码,它会认为这是与网络安全相关的工作,而不是软件工程的最佳实践,然后就会降级处理”。如果Fable触发了限制机制,它会退回到Claude Opus 4.8,且似乎是基于关键词的,任何与“网络安全”相关的词汇都会触发限制机制。另一位研究人员在X上抱怨称,“即使只是要求进行代码审查”也会触发Fable的限制机制。

应对措施

Anthropic未立即回应置评请求。除了在模型中设置限制机制外,Anthropic还要求网络安全专业人员申请Cyber Verification Program。如果申请获批,申请人在使用Claude进行网络安全工作时将受到较少限制。OpenAI也有类似的项目,名为Trusted Access for Cyber。

主题相关

涉及人工智能、人工智能安全、Anthropic、网络安全、Fable、Mythos、安全等主题。

作者信息

Lorenzo Franceschi - Bicchierai是TechCrunch的高级撰稿人,主要报道黑客攻击、网络安全、监控和隐私等领域。可通过发邮件、Signal、Keybase/Telegram联系他。

活动信息

6月18日在洛杉矶有活动,可深入了解Mach Industries、Founders Fund和Shinkei Systems等公司的领导者如何实现业务扩展和取得成功,通过坦诚的炉边谈话和高效的人脉拓展活动,可获得宝贵的见解并建立新的人脉关系。

最热门文章

包括谷歌在人工智能订阅价格战中打响警告一枪、全球开发者大会2026相关发布内容、Anthropic的Claude Fable 5是公众现在可使用的Mythos版本等多篇热门文章。

社交与其他链接

有X、领英、脸书等多个社交平台链接,以及TechCrunch、团队成员、联系我们等相关链接,还包含使用条款、隐私政策等内容。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/12 0:17:24

2026年免费视频文字提取工具教程:哪个好用推荐

会议录音三小时,得手工敲笔记两小时?短视频里的台词想要快速提取,却要一句句暂停复制?课程视频跟不上节奏,怕漏掉重点知识?如果你也被视频转文字的低效困扰过,这篇教程就是为你准备的。现在已经…

作者头像 李华
网站建设 2026/6/12 0:17:21

数控机床异常检测数据集VOC+YOLO格式2824张15类别

数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)图片数量(jpg文件个数):2824标注数量(xml文件个数):2824标注数量(txt文件个数):2824标注类别…

作者头像 李华
网站建设 2026/6/12 0:15:27

【实战指南】EWM RF框架深度解析:从ITS扫描枪集成到后台精细化配置

1. EWM RF框架与ITS扫描枪集成实战 第一次接触EWM RF框架时,我被它强大的设备兼容性惊艳到了。这套系统不仅能对接各种品牌的扫描枪,还能适配不同操作系统的移动终端。在实际项目中,我经常遇到客户问:"为什么我们的仓库一定要…

作者头像 李华
网站建设 2026/6/12 0:08:00

MCU电气特性实战解析:从数据手册到稳定电路设计

1. 项目概述:从数据手册到设计实战每次拿到一颗新的微控制器(MCU),翻到数据手册里那几十页密密麻麻的电气特性表格时,你是不是也感到一阵头大?电压、电流、时序、温度系数……这些冷冰冰的数字,…

作者头像 李华
网站建设 2026/6/12 0:03:10

OptiScaler完整使用指南:跨GPU超分辨率与帧生成终极方案

OptiScaler完整使用指南:跨GPU超分辨率与帧生成终极方案 【免费下载链接】OptiScaler OptiScaler bridges upscaling/frame gen across GPUs. Supports DLSS2/XeSS/FSR2 inputs, replaces native upscalers, enables FSR-FG/XeFG on non-FG titles. Supports Nukem …

作者头像 李华