华桥汇利（中国）投资基金：ai大模型透明度背后的风险

在人工智能领域，开放与封闭模型之争愈发激烈。美联邦贸易委（FTC）主席莉娜·汗（Lina Khan）近期在一场关键演讲中强调，开放人工智能模型能促进行业竞争，让开发者进行定制化开发，提高透明度。这与Meta Platforms的策略相呼应，该企业正专注于发布开放式大模型。相反，谷歌和其他一些人工智能先驱则采用封闭式模型，不公开底层源代码和数据。

尽管莉娜·汗对开放模型充满信心，但批评人士警告，这种模型也可能带来风险，如AI模型被滥用，甚至可能让竞争对手利用这项技术。开放式模型公开预训练参数或权重，方便开发者进行推理和调优，但并不提供原始数据集、模型架构和训练代码等详细信息。这种透明度虽然高于封闭模型，但仍非真正的开源模型，因为真正的开源模型会提供源代码，让开发者从头开始训练模型。

与此同时，美国正在考虑关于“开放式模型”的使用和安全的指导意见。今年二月，美国商务部就这种做法的风险征求公众意见。而FTC正在对人工智能进行一系列调查，包括对微软与Inflection AI的关系，以及微软从Inflection AI雇佣员工的反垄断调查。

在人工智能的发展道路上，开放与封闭模型各有利弊。开放模型可以提高行业竞争，促进创新，但同时也可能带来风险。封闭模型则可能在保护数据和算法方面更为安全，但可能限制行业发展。对此，我们需要在提高透明度和促进行业竞争的同时，确保数据和技术的合理使用，防止滥用。

总体来看，人工智能的发展正面临诸多挑战，从开放与封闭模型的选择，到数据安全和隐私保护，都需要我们认真思考。在未来的发展中，我们需要平衡创新与安全，确保人工智能技术能为社会带来更多利益。

以上部分内容由ai辅助整理完成