TechCrunch导航信息
有TechCrunch桌面版标志和移动版标志,还有最新资讯、创业公司、风险投资等多个导航分类,包括活动、播客、时事通讯等内容,以及搜索、提交等功能。
主题分类
涵盖最新资讯、人工智能、亚马逊等众多主题分类,提供相关内容的链接。
更多内容
包含团队成员、活动、创业战场等更多来自TechCrunch的内容。
图片展示
展示智能手机屏幕上显示Claude Fable标志的图片,图片来源为Samuel Boivin/NurPhoto / Getty Images。
网络安全研究人员对Fable模型限制不满
周二,Anthropic发布其最新模型Fable,称其为强大且备受瞩目的网络安全模型Mythos的公开有限版本。然而,许多网络安全研究人员、专业人士在网上表达了不满。知名安全研究员Valentina “Chompie” Palmiotti表示,“[Fable]会拒绝任何与网络相关的请求,哪怕是阅读博客文章这样无害的任务”。当提示触发其限制机制时,Fable会暂停聊天,并表示其“安全措施因网络安全或生物主题标记了此消息”。
限制设置原因
设置这些限制是为了降低Fable被用于开发恶意软件或破坏软件的风险,这也是Anthropic长期以来的担忧。对生物领域的限制则源于对开发生物武器的类似担忧。
Mythos模型使用情况
今年4月,人工智能巨头Anthropic发布Mythos时,将该模型限制在少数公司和组织使用,这一举措被称为Project Glasswing,旨在将该模型应用于保护关键软件和基础设施。上周,Anthropic将Mythos的使用范围扩大到15个国家的数百家组织。
专家看法
许多网络安全专家对这些随意的限制感到不满。资深网络安全专家Matt Suiche表示,“如果你要求它编写安全代码,它会认为这是与网络安全相关的工作,而不是软件工程的最佳实践,然后就会降级处理”。如果Fable触发了限制机制,它会退回到Claude Opus 4.8,且似乎是基于关键词的,任何与“网络安全”相关的词汇都会触发限制机制。另一位研究人员在X上抱怨称,“即使只是要求进行代码审查”也会触发Fable的限制机制。
应对措施
Anthropic未立即回应置评请求。除了在模型中设置限制机制外,Anthropic还要求网络安全专业人员申请Cyber Verification Program。如果申请获批,申请人在使用Claude进行网络安全工作时将受到较少限制。OpenAI也有类似的项目,名为Trusted Access for Cyber。
主题相关
涉及人工智能、人工智能安全、Anthropic、网络安全、Fable、Mythos、安全等主题。
作者信息
Lorenzo Franceschi - Bicchierai是TechCrunch的高级撰稿人,主要报道黑客攻击、网络安全、监控和隐私等领域。可通过发邮件、Signal、Keybase/Telegram联系他。
活动信息
6月18日在洛杉矶有活动,可深入了解Mach Industries、Founders Fund和Shinkei Systems等公司的领导者如何实现业务扩展和取得成功,通过坦诚的炉边谈话和高效的人脉拓展活动,可获得宝贵的见解并建立新的人脉关系。
最热门文章
包括谷歌在人工智能订阅价格战中打响警告一枪、全球开发者大会2026相关发布内容、Anthropic的Claude Fable 5是公众现在可使用的Mythos版本等多篇热门文章。
社交与其他链接
有X、领英、脸书等多个社交平台链接,以及TechCrunch、团队成员、联系我们等相关链接,还包含使用条款、隐私政策等内容。