ChatGPT拟采取措施确保与人类价值观保持一致
2024-01-17 18:41:46 作者：姚立伟
据外媒报道，OpenAI宣布成立一个名为Collective Alignment的新团队，以落实公众关于如何确保其未来人工智能（AI）模型与人类价值观保持一致的建议。该公司由特斯拉CEO埃隆?马斯克、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨于2015年创立，主攻人工智能技术应用领域。
在2022年11月30日推出ChatGPT后，OpenAI获得了广泛关注。ChatGPT是一种新型AI聊天机器人工具，可根据用户的要求快速生成文章、故事、歌词、散文、笑话，甚至代码，并回答各类疑问。然而，人们对ChatGPT产生了“深度虚假”内容和错误信息的能力表示担忧。批评者认为，像ChatGPT这样的人工智能系统可能会因为用于训练它们的输入数据而表现出固有的偏见。
为了解决人工智能开发过程中的偏见等问题，OpenAI将组建一个名为Collective Alignment的新团队，让公众参与塑造其人工智能模型的行为。这是其解决监管问题并确保与社会价值观保持一致的持续努力的一部分。
该团队由研究人员和工程师组成，旨在开发一个系统，用于收集和编码公众对于OpenAI模型行为的看法，并将这些宝贵看法融入到OpenAI的产品和服务中。此举有望提高OpenAI的人工智能系统的准确性，并使其更好地满足人类的需求。