美政府出手管AI了！OpenAI 等七家科技企业承诺给AI生成内容加“水印”

123456819

作者：新快报

当地时间7月21日，七家领先的人工智能科技公司高管在白宫与美国总统拜登会面。

当地时间7月21日，美国总统拜登与美国人工智能领域的7家领军科技企业负责人会面。这七家公司是亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI。

引人注意的是，七大公司都同意了白宫提出的一系列关于保护用户的自愿承诺，包括同意进行安全测试，采用新的水印系统以告知用户内容是人工智能生成的。这样做的目的是解决人工智能所带来的许多风险。

“人工智能在带来不可思议的机会的同时，也给美国社会、经济和国家安全带来风险。”拜登当天宣布，上述七家科技企业已同意“自愿承诺负责任的创新”，在人工智能技术开发过程中，履行“安全、保障和信任”三项基本原则。

白宫发布的会面成果事实清单。

根据白宫当天发布的文件，作为保障措施的一部分，这些公司同意在发布人工智能系统前将对其进行内部和外部安全测试，并邀请独立的第三方专家评估；对偏见和隐私问题进行研究；在整个行业以及与政府、学术界分享有关管控人工智能风险的信息；采用新的水印系统，以确保用户能够分辨人工智能生成的内容，从而减少欺诈和误导的风险等。

对于拜登当天的这一表态，《华盛顿邮报》认为，这是美国政府为应对人工智能的安全担忧和风险所采取的最新举措。尽管科技企业的承诺表述宽泛，也没有设置具体时间表，但这已反映出人工智能监管的紧迫性。

有分析指出，自愿保障措施只是早期的试探性步骤。当天，一名白宫官员在与记者的通话中表示，拜登政府目前正在制定一项行政命令，以解决人工智能带来的一些风险。该官员拒绝透露具体细节。与自愿承诺相比，行政命令可能会引起科技行业更多的反对。

纽约大学斯特恩商业与人权中心副主任保罗·巴雷特也对媒体表示，白宫还需要做更多工作来防止AI风险。 “今天宣布的自愿承诺是不可执行的，这就是为什么，国会与白宫一起迅速制定立法，要求透明度、隐私保护和加强对生成式人工智能构成的广泛风险的研究至关重要。”他在声明中说。

拜登表示，未来几周，他将继续采取行政措施，帮助美国引领负责任的创新之路。

综合自中国新闻网、澎湃新闻、观察者网等