摊牌不装了！谷歌承认“窃取”OpenAI模型关键信息，偷家成本低至150元【附人工智能行业技术分析】
图源：摄图网
3月12日，据报道，谷歌利用开放式人工智能领导者OpenAI的敏感信息处理能力获得重大突破，成功地从API调用中获取gpt-3.5-turbo的“投影矩阵”和相关“隐含维度”等关键数据，全程仅用不足两万次请求达到显著成果。
具体来看，此项攻击策略着重于对模型内嵌投射层尾端的突破，核心要素在于把隐藏信息转换为逻辑回归数字（即logit向量）。因其处在嵌入式投射层的低维子空间，依据相应指令操控模型，得以轻而易举揭露模型内部构造及其最终权重矩阵。在此之前，需经过精细验证，借助奇异值排序技术解析模型更深层次特性。
据报道，谷歌已经成功侵入OpenAI研发的ADAM和BABBLE毫无死角的预测矩阵。这一独步全球的技术可以深入解析模型内核，精准把握参数总数量以及全面收集信息。这种有针对性的攻势不仅降低了模型的神秘感，还为后续攻击提供强大武器。据悉，这一攻击行动不过耗资不足20美元（当前汇率约为150元人民币），无论是其威力还是启发性，都对业界产生深远影响。
不过最后，据谷歌透露，研究团队在提取模型最后一层参数之前，已征得OpenAI同意。攻击完成后，大家还和OpenAI确认了方法的有效性，最终删除了所有与攻击相关的数据。
值得一提的是，本次研究中还包括一位OpenAI研究员。
技术周期：处于成长期
2012-2019年，全球人工智能行业专利申请人数量和专利申请量均呈现逐年上涨的趋势。虽然2020年全球人工智能行业专利申请量有所下降，但是这两大指标数量仍较多。整体来看，全球人工智能技术处于成长期。
注：当前技术领域生命周期所处阶段通过专利申请量与专利申请人数量随时间的推移而变化来分析。
我国企业核心技术分布
根据中国新一代人工智能发展战略研究院数据显示，2020年人工智能企业核心技术分布中，大数据和云计算占比最高，达到41.13%；其次是硬件、机器学习和推荐、服务机器人，占比分别为7.64%，6.81%，5.64%；物联网、工业机器人、语音识别和自然语言处理分别占比5.55%，5.47%，4.76%。
技术方面人才稀缺
根据工信部发布的相关数据，人工智能不同技术方向岗位的人才供需比均低于0.4，说明该技术方向的人才供应严重不足。从细分行业来看，智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。
注：岗位人才供需比=意向进入岗位的人才数量/岗位数量。
上海政法学院校长刘晓红介绍，由于目前人工智能技术的突破式发展和广泛应用，一方面人工智能与法制呈现更加复杂的互动关系，人工智能法制面临的挑战和问题也日益增多，另一方面，无论是立法、执法还是政策落实，各地都百花齐放，人工智能的法律规制日新月异。
中国法学会副会长、中国人民大学教授王利明呼吁，法律界要重视生成式人工智能带来的风险，勇于创新，主动预防，“最大的风险不是人工智能，而是（预防）技术落后”。王利明建议建立相关的合规标准，还需要在未来条件成熟的时候，针对生成式人工智能新技术启动特别立法的规定，从而有效保障民事组织的合法权益，促进人工智能的健康发展。
前瞻经济学人APP资讯组
更多本行业研究分析详见前瞻产业研究院《》
同时前瞻产业研究院还提供、、、、、、、、、咨询等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容，需要获取前瞻产业研究院的正规授权。
更多深度行业分析尽在【前瞻经济学人APP】，还可以与500+经济学家/资深行业研究员交流互动。