美国参议院呼吁科技巨头加强人工智能安全

关键要点

• 参议院科技特别委员会主席马克·华纳呼吁科技公司加强人工智能的安全与保障。
• 这七家公司包括Google、Microsoft、Amazon、OpenAI、Meta、Inflection AI和Anthropic。
• 虽然这些公司已做出自愿承诺，但需要涵盖更多非自愿场景。
• 华纳强调应减少使用AI生成非同意的亲密图片、实时人脸识别及社会评分。

美国参议院科技特别委员会主席马克·华纳（Mark Warner）敦促包括 Google、Microsoft、Amazon、OpenAI、Meta、Inflection AI 和 Anthropic在内的科技公司，进一步优先考虑人工智能的安全性和保障措施，这些方面在他们对拜登政府所做的中并未得到充分重视。据网络安全公司 Recorded Future 的新闻网站 报道，尽管这些公司在进行安全测试、增强网络安全投资和澄清AI生成内容方面的承诺值得称赞，华纳表示，这些公司不应仅仅确保其产品的行业标准实施，同时还应承诺限制 AI 在生成非自愿亲密影像、实时人脸识别和社会评分等方面的使用。

“这些承诺有潜力影响开发者的规范和与领先 AI 模型相关的最佳实践。与此同时，那些未包含在承诺范围内的能力较弱的模型容易受到误用、安全漏洞和扩散风险。”华纳表示，他还批评了 Apple、Midjourney 和其他 AI 公司未参与此类承诺。

这次议会的呼吁清楚地传达了一个信息：在技术快速发展的今天，保障公众安全的措施不能滞后。科技公司在追求创新的同时，需更加关注潜在的风险。