当前位置:首页|资讯|人工智能|ChatGPT

大模型规范提上日程 上海将探索创新监管

作者:证券时报发布时间:2023-07-08

原标题:大模型规范提上日程 上海将探索创新监管

证券时报记者 张淑贤

2023年世界人工智能大会第二天,通用人工智能的火爆局面从展馆蔓延至论坛。证券时报记者粗略统计,当天举行的论坛,超过一半主题中都包含“大模型”或“通用人工智能”的字样。大模型时代的AI趋势如何?“百模大战”存在哪些风险?未来应如何规范?这些话题成为业内人士探讨的焦点。

7月7日上午,商汤科技宣布“商汤日日新SenseNova”大模型体系多方位全面升级。商汤科技董事长兼CEO徐立表示,商汤希望通过“大模型+大装置”持续推动AI基础设施能力的跃进提升,降低大模型的下游应用成本和门槛,让大模型的产业价值在千行百业中绽放。

下午,蜜度发布了国内首个专为智能校对领域打造的垂直大语言模型——蜜度文修。据介绍,该模型在中文拼写勘误、语法纠正任务上的表现显著优于通用大模型ChatGPT。

过去的数次人机交互变革,都带来了从终端到连接,到各类应用的颠覆式变革,在业内人士看来,生成式AI也必将带来产业链、价值链和生态的重塑。

“大模型的突破掀起了人工智能的新一轮技术革命,随之而来的是产业需求呈现爆炸式增长,全新的应用场景和应用模式正迅速涌现。”徐立说。

腾讯副总裁、腾讯政企业务总裁李强表示,面向垂直产业的模型会成为大模型价值的引爆点。腾讯发布的大模型时代AI趋势报告指出,金融行业、文化娱乐行业等头部机构预计会在一年内,在相对成熟的场景中尝试引入大模型以及生成式AI能力。

“跟我们接触的公司非常多,交流大模型如何与所在产业结合,我们会认真研究客户实际需求以及对技术的要求。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声接受证券时报记者采访时表示。

我国人工智能产业在迎来发展机遇的同时,其存在的可信性、安全性等诸多挑战也引起业内的关注。

“大模型尚不能对输出进行可信性的验证,需要防范相应风险。”国务院参事、中国工程院院士、中国人工智能学会理事长戴琼海表示。

国内首个类ChatGPT模型——复旦大学MOSS系统的负责人邱锡鹏也表示,“通用大模型目前依然在可信性、安全性、逻辑性等方面存在很多挑战。”

随着通用型人工智能的发展,人类需要重新思考AI的影响。腾讯报告指出,生成式AI带来了更加复杂难控的风险,包括对人类未来生存的潜在风险,这就要求建立合理审慎的AI伦理和治理框架,塑造负责任的AI生态。

“当行业风口来临时,基于资本、客户需求等因素,企业都会战略性选择布局大模型。”蜜度首席技术官刘益东接受证券时报记者采访时表示,“但确实大模型的爆发式增长会带来问题,未来相关部门有望逐步规范。”

将人工智能作为三大先导产业的上海,已在考虑规范发展问题。上海市经信委副主任阮力表示,上海市将人工智能作为三大先导产业之一,不仅积极打造具有国际影响力的世界级产业集群,同时坚持科技向善理念,持续推进人工智能健康规范发展。

阮力透露,上海将完善人工智能行业治理体系,在人工智能关键领域技术、产品与服务、行业应用、安全伦理等领域加快标准制定。

“上海还将加强大模型风险管理,启动高风险人工智能产品和服务清单式管理相关研究,积极推动大模型相关治理研究,探索适应大模型特点的创新监管方式。”阮力说。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1