Anthropic“欺诈性”使用政府系统促使白宫出台AI报告强制令

Anthropic“欺诈性”使用政府系统促使白宫出台AI报告强制令

  特朗普政府官员表示 ,在Anthropic“欺诈性 ”使用政府系统后,政府现已强制要求AI公司通报并纠正安全事件。

  本届政府对AI监管的方针至少在名义上一直是自愿性的——直到现在 。

  白宫“超级智能部队”领导人在声明中表示:“这一通报和补救流程不是可选项。这是一项关键的国家安全义务。”

  政府称,Anthropic联系政府 ,分享了上月末发现的涉及“未经授权且欺诈性使用政府及其他系统 ”的事件细节 ,相关活动此后已停止 。

  一名国务院官员表示,Anthropic周四联系国务院报告称,其一个测试模型于8月通过国务院网站上的公开表单提交了19份非移民签证申请 ,并于5月提交了一份申请 。

  该官员称,这些申请均未被处理,国务院系统在任何时候都未被入侵或黑客攻击。

  另外 ,费城警方官员表示,他们收到了一条由Anthropic模型提交的虚假凶杀线索。

  Anthropic周五晚些时候发布报告,确认了数起事件 ,但未指明受影响的系统 。

  白宫的要求适用于所有AI公司。

  “超级智能部队 ”称:“SI公司必须立即披露涉及其模型的事件,并迅速采取果断行动,补救任何及所有损害。”

  “我们还期望这些公司与受影响系统合作 ,确保类似事件不再发生 。”

  不过:声明未明确如果AI公司未能披露事件并加以补救,将有何种执法机制或处罚。

  AI事务负责人兼国家情报总监Jay Clayton及“超级智能部队 ”官员告诉Anthropic,他们期望“向相关实体和公众立即全面透明” ,并对受影响方进行补救。

  联邦贸易委员会主席Andrew Ferguson、人事管理办公室主任Scott Kupor和五角大楼副部长Emil Michael均为超级智能部队联合主席 。

  过去几周 ,AI巨头披露其模型最新出格行为的帖子不断增加。

  特朗普政府的AI监管方针一直依赖自我监管和自愿框架,但随着AI事件不断累积,华盛顿正感受到采取行动的压力。

文章推荐