热点透视丨健全AI企业内外部治理体系 确保AI向善
OpenAI事件启示
编者按2023年11月，人工智能公司OpenAI高层人事“巨震”，震动了全球科技圈。良好的治理结构和治理机制设计，是AI企业良性运作、持续发展的基石。OpenAI董事会冲突的根源是什么？科技公司如何在公共利益与商业成功之间实现平衡？Anthropic又为何设置长期利益信托？本期热点透视深度剖析这些话题。
图片来源/摄图网授权
■中国经济时报记者 刘慧
追踪科技股的纳斯达克100指数，2023年迄今为止上涨约47.5%。受关注的全球人工智能企业除了谷歌、OpenAI、苹果，还有微软、亚马逊、IBM、脸谱、特斯拉、NVIDIA、DeepMind等，中国的人工智能公司包括百度、腾讯、阿里巴巴、京东等。
创投市场金融数据分析公司PitchBook的数据显示，2023年AI相关初创公司的投资金额达到约687亿美元。但在经历了OpenAI人事“巨震”后，业界也在思考，科技公司如何在公共利益与商业成功之间实现平衡？如何完善科技公司的公司治理？
确保AI朝着善意的方向前进
法国达索系统高科技行业全球副总裁StéphaneSIREAU在接受中国经济时报记者采访时表示，过去十多年，技术在不断加速发展，特别是AI技术加速了世界的改变，但我们要非常小心地应对，要让AI技术更可靠、更安全地应用到工业平台等，让AI技术给企业带来价值。
南开大学讲席教授、中国公司治理研究院院长、中国上市公司协会专家顾问委员会副主任委员李维安告诉中国经济时报记者，AI技术是一把双刃剑，在改变生产方式的同时，也带来风险挑战。尤其是，ChatGPT的出现，标志着人工智能技术新的里程碑，为人类提供了智能化和个性化的服务方案，但也引发人们对人工智能技术潜在风险和伦理问题的担忧。决策者的出发点是实现安全和造福全人类的美好愿景还是商业化目标，决定了人工智能是“向善”还是“向利”发展，这一道德选择将深刻地塑造AI演进，不仅影响着技术的用途，还直接关系到人类文明的命运。“我们必须认真引导AI的发展，考虑数据隐私、公平性、安全性等多个因素，以确保朝着善意的方向前进。”
目前，推进AI治理和AI企业治理已成为全球化趋势。2023年11月1日，首届全球人工智能安全峰会在英国布莱切利庄园开幕，由包括中国在内的与会国共同达成的首个全球性人工智能声明《布莱切利宣言》正式发表，同意通过国际合作，建立人工智能监管方法。
2023年10月30日，美国白宫发布拜登签署的最新行政命令——《关于安全、可靠和可信的AI行政命令》，以确保美国在把握AI的前景和管理其风险方面处于领先地位。该行政令包含建立AI安全新标准、保护美国民众的隐私、促进公平和公民权利等8个方面的目标。
李维安认为，应加快推动建立AI企业内外部治理体系。
首先，推动AI企业董事会建设，与企业AI相关的事项要进入董事会决策，成为企业的一个决策方向。在董事会设立专门的伦理委员会，并在公司章程中对AI伦理委员会的构成及其运作进行明确，判断和把握技术应用的方向。设置首席人工智能官或首席伦理官，以牵头制定专门的人工智能发展战略。
其次，建立内部数据合规审查机制和内控机制，确保在研发和数据使用中安全合规。设置合规部门，建立对数据安全问题的风险评估和防范机制。
再次，实施全面的人才培训计划，使管理人才和研发人员了解人工智能技术的伦理和社会责任，增强他们对公司价值观的理解，培育出一个能够在技术和伦理之间取得平衡的企业文化。
最后，全面升级治理体系，强化绿色治理和应急治理。AI企业治理应突破单纯追求经济效益最大化的传统企业治理边界，而应更多地承担企业作为社会资源配置平台的社会责任，树立推动社会可持续发展的社会化目标。
Anthropic为何设计“长期利益信托”治理结构
从OpenAI离开的员工2021年创立了另一家AI独角兽Anthropic，同样在公司章程中承诺“优先考虑帮助人类，同时实现利润最大化”。但Anthropic对外称，公共利益与商业成功或股东回报并不矛盾，两者往往有很强的协同作用。为此，Anthropic设计了一个名为“长期利益信托”的治理结构：公司由董事会监督。董事会选择并监督领导团队（特别是CEO），而领导团队负责雇用和管理员工。股东拥有选举、罢免和起诉董事的权利，而董事会成员并不具有。为了让董事的激励措施与股东利益结合，董事的薪酬通常由股票形式支付。为了监督董事会的决策是否符合全人类利益，Anthropic外设一个信托机构对董事进行监督。信托机构由5名没有经济利害关系的独立受托人组成，有权决定董事会的多数席位。
李维安表示，作为人工智能领域的创业公司，在初始创立的时候，公司结构比较精简，但是随着公司的不断发展壮大，治理结构和机制的弊端就会暴露出来，因此必须要完善公司治理体系。Anthropic同样将人工智能安全作为目标，但与OpenAI不同的是，Anthropic将公共利益与商业化的目标并列而不是对立，期望在组织内实现协同发展，而不是通过单独成立一个子公司实现差异化的治理目标。基于此，Anthropic设计了一系列制衡机制。
李维安表示，在董事会的治理机制上，Anthropic的公司章程规定，公司由董事会监督，董事会选择并监督管理层（尤其是CEO），而CEO则负责雇用和管理员工。但董事会不是拥有至高无上的权力，为了能够使董事会与股东的利益相一致，Anthropic规定，董事由股东选举产生，并可由股东罢免。董事通常以公司股票的形式获得报酬，保障董事和股东的利益相一致。最重要的是，选举、罢免和起诉董事的权利完全属于股东，这样股东会对董事会起到了监督和制衡的作用。
“从公司治理机制来看，董事会代表股东的利益，但是否会对公众等利益相关者负责，成为大家比较关心的问题。”李维安表示。
在他看来，Anthropic通过设立信托机构让董事会平衡公共利益与股东价值最大化的目标。长期利益信托机构由五名在人工智能安全、国家安全、公共政策和社会企业方面具有背景和专长的受托人组成。最初的受托人由董事会选出，未来的受托人将由受托人投票选举产生。以此保障这个机构能有足够的独立性，以平衡公众等利益相关者利益。
此外，Anthropic在C轮融资结束时，创建了一个新的由信托机构独家持有的股票类别（T类）。T类股票授予信托公司选举和罢免一些Anthropic董事会成员的权力。同时，Anthropic还设立了一个新的董事席位，将由C轮融资和随后的投资者选举产生，以确保董事会中能够有投资者的声音，这一点和OpenAI的设计完全不同。Anthropic还对这样的治理机制设计了一个改进流程，在实践中逐渐完善。
李维安表示，可以看出，Anthropic通过信托机构和股东会对董事会的决策行为进行监督和制衡。这样的机制设计试图保障董事会在追求股东利益的同时，兼顾安全和公众利益。在这样的治理结构下，治理主体的议事规则、决策流程等机制的完善就显得格外重要，是能否发挥治理有效性的保障。同时，治理主体的增加，信息沟通链条的延长，所带来的信息不对称问题也会成为治理隐患，需要加强信息沟通机制和渠道建设，确保信托机构、股东等及时了解公司内部实际情况，减少代理问题的发生。
观点
牛津大学商学院副教授胡可嘉：
无论是咨询、医疗还是制造业，AI技术在解决具体问题、提升效率和创新服务上都显示出巨大潜力。AI时代的商业转变需要两个重要的驱动力：一是对AI应用实际价值的深刻理解和实践；二是企业领导层对于这些变革的直接参与和支持。只有这样，才能充分释放AI技术在各行各业中的潜力，推动商业和社会进入一个更加智能、高效的未来。
香港科技大学校董会主席沈向洋：
近年来，企业界和学术界都在不断突破界限，力求让人工智能在不同领域中达到接近人类的能力，这些进步完全超乎了我们十年前的想象。然而，我们在推进前沿科技的同时，必须考虑到人工智能的复杂性、可能对社会产生的影响以及制定规制原则和框架的重要性。
清华大学人工智能国际治理研究院院长薛澜：
人工智能全球治理体系应当致力于推动人工智能治理方案的统一性与多样化相结合，通过各国的参与和共享，共同建立起人工智能全球治理的交流平台与合作网络，帮助更多国家找到真正适合于本国国情的治理方案，进而实现人工智能全球治理的包容性。
联合国副秘书长、联合国大学校长西里达兹·马尔瓦拉：
技术是中性的，人类对技术的使用方式赋予其道德意义，因而伦理和政策框架至关重要。要建立并履行清晰一致的规范和伦理指南；要坚持多样性，通过吸纳不同群体的参与和观点增进包容性；要开发教育工具，通过风险认识和再就业培训等措施，减轻其负面效应，并在多个层面采取行动。
（中国经济时报记者刘慧据公开资料整理）
本公众号版权归中国经济时报所有。如转载或引用本文内容须经许可，并注明转自中国经济时报。
热点链接
●中共中央政治局召开会议 习近平主持会议
●智观天下丨全球气候治理进入关键节点
●焦点丨油价为何迎来五连跌
●热点丨冰雪温泉游迎来“热季”
●关注丨推进新型工业化发展 广东“正青春”
总 监 制丨王辉 王继承
监 制丨李丕光 王彧 刘卫民
主 编丨毛晶慧 编 辑丨曹 阳
【中国经济时报--中国经济新闻网 http://www.cet.com.cn】