微软等领军企业创建前沿模型论坛 以确保人工智能安全性
面对为人工智能开发设置护栏的呼吁，包括Alphabet Inc．旗下谷歌和OpenAI Inc．在内的一些科技公司联合建立了一个行业组织，以确保人工智能模型是安全的。
这项努力也得到了人工智能初创企业Anthropic和微软的支持。根据周三的一份声明，该行动的目标是整合会员公司的专业知识，并为行业创立基准。这个名为前沿模型论坛（Frontier Model Forum）的组织称，欢迎其他致力于大型机器学习平台的组织参与进来。
OpenAI的ChatGPT可以根据简单的提示创建文本、照片甚至视频，诸如此类生成式AI工具的迅猛发展给科技巨头带来了必须要谨慎行动的压力。在白宫的敦促下，参与前沿模型论坛的公司已经同意制定一些安全保障措施，而美国国会也可能会通过一些约束性的法规。
“这是一项紧迫的工作，这个论坛具备迅速采取行动来推进人工智能安全状况的有利条件，” OpenAI全球事务副总裁Anna Makanju在声明中说。
该论坛计划在未来几个月内成立一个顾问委员会，以评估优先事项，并希望确立章程、治理体系和资金安排来推进AI安全。该组织还希望与现有的倡议合作，包括Partnership on AI和MLCommons。
虽然许多公司长期以来一直使用机器学习来支持搜索和社交媒体功能，但最新一代的人工智能模型让人们看到了这些系统正在接近类似人类的智能。
全球许多国家的政府都已经誓言将携手合作，共同应对人工智能带来的风险。其中包括七国集团，该组织正计划在英国举行一个国际人工智能峰会。不过目前而言，在美国，对人工智能的掌控都是由公司自行决定。
“这项倡议是让科技行业携手努力，负责任地推进人工智能并应对挑战，从而让全人类受益的重要一步，”微软总裁Brad Smith在声明中表示。
来源：金融界
