Anthropic主动呼吁AI监管,华盛顿的管控力度却远超其预期

  核心要点

Anthropic主动呼吁AI监管,华盛顿的管控力度却远超其预期-第1张图片

  Anthropic多年来一直奔走呼吁行业监管,如今这份诉求却反噬自身。

  这家当前估值接近 1 万亿美元的人工智能企业 ,长期标榜自身坚守 AI 安全底线 。但今年以来,Anthropic第二次被纳入特朗普政府的重点监管范围,此次监管行动源于官方对其新一代大模型安全风险的担忧。

  上周五晚间 ,就在太空探索技术公司(SpaceX)完成史上规模 IPO、首日挂牌交易结束数小时后,Anthropic对外公告,公司收到一份出口管制指令:要求立刻禁止所有外籍人员使用旗下最新克劳德系列模型 —— 寓言 5 与神话 5 ,管控对象覆盖美国境内外所有外籍人士,其中也包含Anthropic自身的外籍员工。

  Anthropic表示,美国政府仅援引国家安全部门相关考量 ,并未具体说明风险点究竟在哪 。而就在这份管制指令下达的几天前,公司首席执行官达里奥・阿莫代伊刚刚发表专栏文章,呼吁美国出台更严肃、具备法律约束力的 AI 监管法规 ,赋予监管机构权限 ,一旦判定大模型存在安全隐患,即可叫停相关模型上线部署。

  阿莫代伊在文中写道:“前沿人工智能模型和民航飞机一样,必须经过技术检测与独立审计;如果无法达到严苛的安全标准 、对公共安全构成威胁 ,就应当暂停上线、甚至强制下线召回。”

  这并非Anthropic首次公开呼吁政府加强对飞速迭代的 AI 行业监管 。2021 年从 OpenAI 拆分独立创办公司以来,阿莫代伊与公司核心高管始终坚定推动 AI 立法监管,在美国各州与联邦层面都积极支持相关法案落地。本月早些时候特朗普签署的人工智能行政令 ,也曾被Anthropic评价为行业监管的 “重要一步”。

  但上周五的监管强制措施,显然并非Anthropic当初期待的监管模式 。公司回应称,不认同特朗普政府基于现有理由下达模型召回指令 ,认为本次管控本质上源于一场误解。

  Anthropic在官方博客中表示:“我们始终主张,政府应当拥有叫停不安全 AI 落地部署的权力,但必须依托透明、公平 、规则清晰、以技术事实为依据的法定流程。本次管制措施并未遵循上述原则 。 ”

  Anthropic多名高管已于本周一飞往华盛顿 ,与特朗普政府相关部门展开会晤 。公司向美国消费者新闻与商业频道透露,双方正加紧沟通,争取尽快妥善化解此次监管纠纷。近来 Anthropic尚未公布两款受限模型恢复对外开放的具体时间。

  这场监管已然带有强制属性

  距离针对Anthropic的管制指令下发仅 10 天前 ,特朗普签署的 AI 行政令内容本身细则较为笼统:仅鼓励企业自愿向联邦政府开放大模型 ,方便监管部门在产品正式商用前完成能力安全评估;同时授权相关部门用 60 天时间,搭建完善面向 AI 企业的监管审查框架 。

  近来 没有证据表明本次强制限制Anthropic最新模型对外开放,和这份行政令直接相关。据《华尔街曰报》援引知情人士消息 ,此次监管行动的导火索,来自亚马逊首席执行官安迪・贾西与美国财政部长斯科特・贝森特等政府官员的沟通。贾西向美方监管部门反馈,亚马逊技术人员通过一系列提示词测试发现 ,寓言 5 模型能够生成可被用于网络攻击的相关技术信息 。

  美国新安全中心高级研究员丹尼尔・雷姆勒表示,总统行政令倡导自愿合规,但周五落地的管制指令已经完全变了性质。

  “如果不遵从政府要求就要面临严厉处罚 ,那这项规则本质上就是强制性监管。” 雷姆勒在采访中表示 。

Anthropic主动呼吁AI监管,华盛顿的管控力度却远超其预期

  寓言 〖伍〗、 神话 5 两款大模型基于今年 4 月上线的克劳德神话预览版迭代而来,该版本模型擅长挖掘软件内部安全漏洞。Anthropic最初仅面向少量合作企业推出该模型 ,隶属于名为 “玻璃之翼计划” 的网络安全专项项目。

  神话 5 依旧仅限受邀用户小范围测试,但寓言 5 已经面向企业客户与付费订阅用户全面开放 。Anthropic表示,之所以能够扩大寓言 5 的使用范围 ,是因为企业新增安全防护机制 ,可拦截模型在网络安全 、生物等高危领域生成敏感违规内容。

  多位知情人士透露,Anthropic在两款模型上线前已配合多家政府机构完成安全测试,并拿到商用部署许可 ,监管部门此前从未向企业提示存在国家安全层面的风险隐患。

  雷姆勒评价道:“从最初大模型访问完全不受限,到短短数小时内政府就通过管制手段勒令一家科技企业下线核心模型,监管政策的转向速度令人震惊 。 ” 他还补充 ,当前行业监管环境波动剧烈,这类事后补救式的被动监管,其实本就在企业可预判的风险范围内 。“人工智能技术迭代速度极快 ,想要精准管控行业风险本身就极具难度。”

  主动权现已交到Anthropic手中

  本次监管风波发生在Anthropic发展的关键时点:该公司与其头号竞争对手 OpenAI 近期均已秘密递交 IPO 招股书,两家头部 AI 企业即将迎来历史性上市募资,无数华尔街投资者希望布局人工智能赛道。而 SpaceX 上市后股价连续三日大涨 ,也充分印证了资本市场对新兴科技巨头的投资热情 。

  不少行业知名人士公开站出来为Anthropic发声。前脸书首席安全官、现科里多尔公司首席产品官亚历克斯・斯塔莫斯发布一封面向美国商务部长霍华德・卢特尼克、国家网络安全总监肖恩・凯恩克罗斯的公开信,主题为《构建透明的人工智能网络安全监管规则》,超 150 名企业高管 、技术专家共同署名 ,呼吁美方撤销本次出口管制指令。

  斯塔莫斯在采访中强调 ,AI 监管规则必须以科学为依据:“现行监管条款没有成文、缺乏透明度,企业完全无法清晰界定行为边界,没人知道哪些操作合规、哪些属于违规 。” 他还担忧 ,如今所有美国科技企业都笼罩在不确定性之中,一旦触怒政府,随时可能因主观化的行政决策遭遇业务关停。

  其实Anthropic与美国政府的摩擦早已常态化。今年 3 月 ,双方就爆发过一起备受关注的监管纠纷:美国国防部将Anthropic认定为供应链安全风险,要求所有军工合作企业出具承诺书,不得在军方项目中使用克劳德系列大模型 。随后Anthropic一纸诉状将特朗普政府告上法庭 ,近来 相关司法诉讼仍在审理过程中。

  美国国防部长皮特・赫格塞思日前在社交平台 X 上谈及本次管制措施,称事实不断印证,将Anthropic列入风险黑名单是正确决策。斯塔莫斯直言 ,特朗普政府明显对这家少数敢于质疑监管政策的头部 AI 企业抱有偏见,若规则公平落地,OpenAI 、谷歌同样应当接受同等强度监管 。

  特朗普政府前人工智能与加密事务负责人 、风投大佬戴维・萨克斯一直对Anthropic持批评态度。去年 10 月该企业高管发布 AI 风险相关文章后 ,萨克斯就在社交平台指责Anthropic打着安全警示的幌子 ,精心布局监管俘获策略,试图通过舆论游说为自身争取行业特权。

  本次出口管制指令落地后,萨克斯再度发声:Anthropic官方博客中弱化事件严重性的措辞 ,与其 “AI 安全标杆企业 ” 的品牌定位严重不符 。他表示:“政府认可Anthropic的技术实力,虽然本次事件性质严重,但双方大概率可以协商化解 ,眼下解决问题的主动权掌握在Anthropic手中 。”

标签:

相关推荐

  • 【宝鸡累计确诊多少例,宝鸡出现确诊病例】

    【宝鸡累计确诊多少例,宝鸡出现确诊病例】

    宝鸡几例新冠状病毒〖壹〗、0例。通过查询相关资料显示:宝鸡位于陕西省宝鸡市,截至2022年9月16日,宝鸡地区无新增感染者,始终保持0例新冠肺炎疫情确诊病例,路过人员需要出示48小时内核酸检测报告才能通行。〖贰〗、日:武汉市卫健委发布通报,已发现27例病例。2020年1月:20日:钟南山院士确认“武汉新型冠状病毒肯定有人传人现象”。21日:国家卫健委发布1...

  • 五一假日限行不(五一假期车限不限号)

    五一假日限行不(五一假期车限不限号)

    成都五一限行不成都五一期间(5月1日-5月5日)不限行。以下是关于成都五一限行情况的详细介绍:五一期间不限行原因五一劳动节是法定节假日,为了方便市民在假期出行、旅游、探亲等活动,保障交通的顺畅和市民的出行便利,成都市政府通常会在此期间暂停机动车尾号限行措施。026年五一期间成都高速路货车通行有明确的时段和类型限制,同时日常也有常态化限行规则五一假期专...

  • 【20号开封限号吗,2020年12月份开封限号】

    【20号开封限号吗,2020年12月份开封限号】

    开封限号怎么限号〖壹〗、开封的限号政策在每个星期的周内(即周一到周五)实施,周末(星期星期日)以及法定节假日不限号。限号规则限号依据是汽车牌照的最后一位数字。周一到周五,每天对应不同的车牌尾号进行限行。〖贰〗、根据机动车号牌(含临时号牌和外地号牌)最后一位阿拉伯数字进行限行。号牌最后一位为1和6的机动车周一限行,2和7的周二限行,3和8的周三限行,4和9...

  • 日照确诊廊坊轨迹/日照确诊行动轨迹

    日照确诊廊坊轨迹/日照确诊行动轨迹

    从日照到廊坊坐火车有几趟车票是多少从潍坊到日照没有查询到可以直达的车次,可通过中转到达的车次如下:方案一:12点53分从廊坊出发,乘坐G303次列车,到达济南西,全程耗时一小时三十分钟,16点28分再从济南转坐K8287次列车直达日照,全程需五个半小时。从临沂出发,想要到达廊坊,有多种方式可以考虑。如果选取乘坐长途汽车,一种方式是从临沂汽车站出发,乘坐车辆...

  • 确诊再障做基因检测/再障基因检测有哪些项目

    确诊再障做基因检测/再障基因检测有哪些项目

    4毛钱药治好血液病男童?我们可以从中学到什么?〖壹〗、“医生用四毛钱药治好血液病男童”事件中,我们应认识到前期诊疗的必要性,并从中学习到准确诊断、多学习医学知识、完善检查、补充保险、寻求第二诊疗意见等经验。不能否定前期诊疗的必要性纯红细胞再生障碍性贫血(纯红再障)是罕见且病因复杂的血液病,SLC52A2基因突变引起的病例更是极为罕见,确诊难度极大。〖贰〗、...

  • 固安2022车限号/固安限号日期

    固安2022车限号/固安限号日期

    固安验车哪便宜低价验车机构推荐景虹汽车检测机构近来已知最低价为150元,位于新绎固安来康郡附近。用户反馈其服务正规、流程高效,检测后仅需提交行车执照等待即可,全程耗时短。但该费用为2022年数据,建议提前电话确认现行费用。在固安,渠沟镇红绿灯南路东的景虹验车点验车相对更便宜,小汽车验车费用仅需150元。以下为具体信息:渠沟镇红绿灯南路东景虹验车点该验车...

  • 【冬天单双号限行,冬天限号晚上到几点】

    【冬天单双号限行,冬天限号晚上到几点】

    长治限号最新通知时间区域范围限号时间:长治市的轿车限号政策并未明确指出具体的限号时间段(如西安的07:00-20:00),但根据提供的信息,长治市的限号措施是按照整天来执行的,这意味着一旦某天某类车牌号被限行,那么该车牌号的车辆在整个白天(通常理解为从凌晨00:00至晚上24:00)都不能在限行区域内行驶。根据长治本地宝查询了解到,限行区域:潞州区东环路以...

  • 日本奥运确诊多少例(日本奥运感染人数)

    日本奥运确诊多少例(日本奥运感染人数)

    奥运相关人员新增新冠肺炎确诊病例16例,累计病例多少?东京奥组委7月26日公布,奥运相关人员新增确诊16例。自7月1日以来,东京奥组委每天公布奥运会相关人员新增确诊病例,截至近来,已累计达148例。据东京奥组委数据显示,16例新增确诊病例中,3人为从海外抵日参加奥运会的运动员;8人为奥运相关工作人员,其中1人已入住奥运村;1人为东京奥组委职员。东京奥组委2...

  • 【冠状肺炎临床诊断确诊,冠肺炎临床分型包括】

    【冠状肺炎临床诊断确诊,冠肺炎临床分型包括】

    新型肺炎诊断标准〖壹〗、发热和/或呼吸道症状(如咳嗽、咽痛、呼吸困难等)。肺部影像学表现(如胸片或CT显示肺部磨玻璃影、斑片状阴影等)。血液检查异常:发热早期白细胞总数正常或降低,或淋巴细胞计数减少。疑似病例判定:若患者满足上述流行病学史中的任意一条,且临床表现中任意两条,即可判定为疑似病例。〖贰〗、核酸检测:通过咽拭子或鼻拭子检测病毒RNA,是确诊的金标...

  • 【榆次中考限行通知,中考期间榆次限号吗】

    【榆次中考限行通知,中考期间榆次限号吗】

    中考限行到几点不同地区中考期间限行时间不同,太原市为每天7时至18时,山西石楼县小型汽车为上午7:00-12:30,下午13:30-19:00,锡林浩特市6月25日为7:30—11:00,6月26日至28日为7:30—12:00和14:00—17:00。太原市:在2026年中考期间,具体日期为6月20日、21日、22日,限行时间设定为每天7时至18...

返回顶部