千亿AI巨头科大讯飞学习机内容不当风波发酵,周二午后逆市跳水跌停,外资、机构纷纷跑路。
刘庆峰可能也没想到,上午还在发布会上介绍重磅产品星火V3.0,下午却要为学习机产品的舆情紧急“灭火”。
发布星火大模型进阶 称综合能力已超ChatGPT
1024程序员节是广大程序员的共同节日,也是一年一度的科大讯飞全球1024开发者节举办的日子。今年的发布会上,科大讯飞董事长刘庆峰宣布讯飞星火V3.0正式发布,称其综合能力已超ChatGPT。据介绍,星火认知大模型V3.0在文本生成(+7%)、语言理解(+6%)、知识问答(+7%)、逻辑推理(8%)、数学能力(3%)、代码能力(+9%)、多模态能力(+7%)七大能力均持续提升。官方称,讯飞星火3.0通用模型将全面对标ChatGPT,中文能力已超越 ChatGPT,英文能力与之相当。刘庆峰透露,在数学能力上,讯飞星火 3.0 已遥遥领先于 ChatGPT。在设计方案生成、代码补全、测试检错等领域,星火3.0已经超越ChatGPT。
在此次活动中,另一大关注焦点在于科大讯飞与华为两大巨头的联手。科大讯飞方面对外发布联合华为打造、基于昇腾生态的自主可控大模型算力底座“飞星一号”平台。据了解,科大讯飞将开启星火大模型V4.0版本训练,将2024年上半年实现对标GPT-4,而训练所用的平台正是算力底座“飞星一号”。据悉,目前星火大模型多个领域的商用落地正处于加速中,包括医疗、教育以及科研文献等领域。
在中美角逐人工智能领域,美国宣布新一轮禁令,进一步收紧对中国芯片出口的背景下,科大讯飞的这场发布会关注度十足。
学习机出现不当内容 股价应声跌停
在A股市场上,因为人工智能标签,科大讯飞今年6月创下历史新高,市值超过1900亿元,但今天股价并未受到明显提振,反而在午后突然放量跳水,尾盘一度封死跌停,最终收盘跌9.97%。
消息面上,近日有学生家长称,在孩子的科大讯飞学习机中《蔺相如》一文里发现了一些诋毁伟人、扭曲历史等违背主流价值观的内容。该家长随即联系了科大讯飞的客服,客服却表示这篇文章是审核过的。由于不认可这个回复,于是家长将文章截图、与客服的聊天记录发布到了网络上。随后媒体也联系科大讯飞的工作人员,对方表示已经在第一时间做出了响应处理,永久性下架了这篇文章,接下来将会加强内容安全管理。
但该事件的舆情进一步发酵,直到成为了股价跌停的“导火索”。
今日盘后,科大讯飞董事长刘庆峰亲自“灭火”,回应称已第一时间下架内容,并对负责保障内容安全的合作伙伴作出处罚处理,同时内部已经将用于大模型上的内容审核机制放在了学习机上,力求使学习机的内容审核更加严格。
刘庆峰还指出,铺天盖地的舆情存在幕后推手,意在影响科大讯飞的股价和社会形象。“说到底是因为害怕我们大模型做得太好,我觉得越打压越会激发我们的斗志。”
自6月第一来,科大讯飞股价一路震荡调整,自6月20日AI炒作热炒之时创下的81.9元的历史高位,已跌去逾40%。
AI监管不容松懈 各大厂商需紧绷神经
以ChatGPT为代表的生成式人工智能正在重塑数字世界,改变着各行各业,与此同时,AI发展引发新的安全问题也成为全新的聚焦点。
国内方面,网信办等7个部委发布的《生成式人工智能服务管理暂行办法》于2023年8月15日起正式施行,同时《国务院2023年度立法工作计划》显示,《人工智能法》已列入立法计划, AI监管政策正加速推进。
东吴证券指出,应用门槛的不断降低,使得AIGC滥用带来的虚假信息、偏见歧视乃至意识渗透等问题无法避免,对个人、机构乃至国家安全都存在较大的风险。因此对生成式人工智能服务的新监管需求也随着而来。目前,AI多带来的新安全问题主要包括AIGC内容安全和数据安全问题。政府层面,亟需出台监管政策对其加以规范,实现监管覆盖全面化,分阶段、全流程规范AIGC相关要素。企业层面,也需要通过被监管以消除社会对AI大模型的不信任。
不难看出,在各家科技大厂发力AI、抢滩大模型的路上,要时刻“紧绷神经”,坚持安全这块“基石”,保持其与创新发展之间的平衡。
来源:金融界