突发利空，深夜崩盘！还曝出大面积封号
近期，市场对人工智能企业疑虑重重。
拜登4日就人工智能表态，意大利、英国等国家则发布了一些针对ChatGPT的限制规定；加拿大隐私专员办公室（OPC）4日宣布开始调查ChatGPT背后的公司OpenAI。
此外，ChatGPT在亚洲范围的大规模封号也引发关注。
拜登就AI表态，概念股再暴跌
据券商中国报道，当地时间4月4日，美国总统拜登会见了白宫科技顾问委员会，讨论了人工智能发展的快速进步对个人用户和国家安全构成的风险和机遇。拜登表示，科技公司有责任确保其产品在公开之前是安全的。人工智能可以帮助应对一些非常困难的挑战，如疾病和气候变化，但它也必须解决社会、经济和国家安全面临的潜在风险。
4月5日晚间，美股开盘后，AI概念股C3.ai股价再遭猛烈抛售，盘中一度大跌超17%，4日该股更是暴跌超26%，创上市以来最大日内跌幅。
同属AI板块的SoundHound.ai盘中一度跌超11%，BigBear.ai盘中暴跌超15%，英伟达盘中大跌超3%。
近日，知名做空基金Kerrisdale Capital针对美股最火AI股——C3.ai发布了一份空头报告，其中指出，C3.ai使用高度激进的会计手段来夸大其损益表指标，以满足卖方分析师对收入和某些利润指标的估计，并掩盖其基础业务的显著恶化趋势。
需要指出的是，C3.ai是美股市场AI概念股的龙头，近一个月内其股价从20.73美元最高涨至34.68美元，最高涨幅达69%，今年前3个月的累计涨幅更是达200%。
加拿大、意大利调查ChatGPT开发公司
当地时间4月4日，加拿大隐私专员办公室（OPC）宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。
目前OPC没有透露更多的调查细节。该机构的一位隐私专员表示，人工智能技术及其对隐私的影响是OPC的优先事项，“我们需要跟上快速发展的技术并保持领先，这是我作为隐私专员重点关注的领域之一。”
来源：加拿大隐私专员办公室官网
这是继意大利之后又一个对ChatGPT“出手”的国家监管机构。
此前，3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT， 并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。
3月25日，OpenAI发布声明承认，由于开源代码库中存在一个漏洞，部分用户能够看到另一个用户的聊天标题记录，此前已将ChatGPT短暂下线并紧急修补此漏洞。
同时，OpenAI表示，在特定的9小时窗口期内，1.2%的付费版用户的个人支付信息可能被泄露。部分用户可能会看到另一名活跃用户的姓名、电邮、支付地址、信用卡后4码、信用卡到期时间等信息。
意大利个人数据保护局认为，ChatGPT泄露了用户对话数据和付款服务支付信息，没有告知用户将收集处理其信息，缺乏大量收集和存储个人信息的法律依据，同时缺乏年龄验证系统，因此未成年人可能接触到非法信息。OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
ChatGPT此前出现大面积封号亚洲节点
此外，近期ChatGPT在亚洲范围的大规模封号也引发关注。
4月2日，一则有关ChatGPT封号的消息传遍了互联网。消息显示，OpenAI官方从3月30号开始大面积封号，禁止使用亚洲节点登录，还有网友曝出OpenAI已经暂停注册新账号。
据每日经济新闻报道，当天在一些讨论群组中，也有用户反馈自己账号被封、且注册界面无法访问。
图片来源：微信截图
一些原本进行代充、卖号服务的商家也停止代充。
图片来源：微信截图
图片来源：微信截图
随着事情的发酵，有消息传，封禁账号的行为可能会影响到一些接入ChatGPT API的公司，例如汤姆猫。不过，据媒体4月3日报道，汤姆猫公司称ChatGPT关闭公司账户系不实消息，目前API接入正常。
4月3日，记者再次访问OpenAI官网发现，账号注册界面已经重新开放，且原有的账号能够成功登录，ChatGPT的响应也很快。
图片来源：OpenAI官网
有部分网友猜测，OpenAI此次出现大规模封号的原因可能在于，一是许多账号是用程序批量注册的，一台机器用一个IP在短时间内注册了大量账号；二是出现API滥用的情况，例如，在不支持的地区使用了ChatGPT API，或者利用多个账号获取API并对外提供服务。另有分析称，也可能是由于访问量过大造成的技术问题所致，OpenAI此前曾出现过宕机问题。
据每日经济新闻报道，记者也将这个问题抛给了ChatGPT，它的回答如下：
图片来源：OpenAI官网
千名科技大佬叫停GPT-5研发
除了上述风波之外，ChatGPT最近可谓麻烦不断。
3月29日，以马斯克为首的1000多位科学家和企业高管给美国政府写请愿信，要求暂停GPT-5的研发，担心它“对社会和人类构成潜在风险”。
据报道，微软的工程师和亚马逊的律师都曾警告员工，不要与ChatGPT分享“任何亚马逊的机密信息，包括你正在编写的代码，因为他们可能会将其用于训练未来的模型。”
然而，警告或许并未达到实际效果。数据安全公司Cyberhaven调查了不同行业客户的160万员工的ChatGPT使用情况。该公司发布报告表示，2.3%的员工将公司机密数据贴入ChatGPT，企业员工平均每周向ChatGPT泄露敏感数据达数百次，目前敏感数据占员工粘贴到ChatGPT的内容的11%。
此外，多家媒体消息称， 三星内部就发生了3起误用、滥用ChatGPT案例，恐泄露三星内部机密。其中，有两起关于三星的半导体设备，另一起关于三星的内部会议内容。
有观点认为，输入ChatGPT的数据可能被用于未来模型的迭代训练。如果用户输入敏感数据，这些数据便极有可能成为其输出的内容，造成敏感数据泄露。
出于这种忧虑，美国银行、花旗集团、德意志银行、高盛集团、富国银行、摩根大通和Verizon等机构已经禁止员工使用ChatGPT聊天机器人处理工作任务。许多日本大公司，如软银、富士通、瑞穗金融集团、三菱日联银行、三井住友银行等，也限制了ChatGPT和类似聊天机器人的商业用途。
日前，OpenAI首席执行官Sam Altman在接受媒体采访时坦白，对AI技术以及它如何影响劳动力、选举和虚假信息的传播有些害怕，“我担心这些模型可能会被用于大规模的虚假信息传播。”他认为，这些可能的负面影响需要政府和社会共同参与监管，并呼吁反馈和规则对抑制人工智能的负面影响非常关键。
尽管，在2019年微软宣布注资10亿美元支持OpenAI研发通用人工智能模型时，Sam Altman曾将这一努力与二战期间美国制造原子弹的曼哈顿计划相提并论，认为二者都将带来巨大的科技进步，且自信于控制风险的能力。
GPT系列为何出现推理能力？
研究者自己也搞不明白
尽管GPT-3在2020年就已推出，但直到2022年，研究人员才发现预训练大模型产生了类似人类推理思维的能力。
当用户向语言大模型提问的时候，可以在提示问题（Prompt）里写几个示例，让模型照着例子做生成，像ChatGPT就可以根据用户演示的推理过程，来推导其它问题的答案，这种模仿人类思维的推理能力不需要再进行复杂的训练，只需要在提问时给出提示，模型就能自动学习，并做出相应推理得到正确结果。
但问题在于，通过“喂数据”得到的AI思维能力在原理上是如何实现的，以及继续“大力出奇迹”之后，AI又会如何进化？
日前，OpenAI CEO Sam Altman公开坦诚表示， GPT系列为何会出现推理能力，OpenAI的研究者自己也搞不明白，他们只知道，在不断测试中，人们忽然发现，从ChatGPT开始，GPT系列开始出现了推理能力。
2022年6月15日，谷歌研究院联合DeepMind和斯坦福大学发表了一篇论文：《大语言模型的突现能力》（Emergent Abilities of Large Language Models）。研究人员惊讶发现，AI的思维能力，并不是随着模型参数大小的线性变化逐渐出现的，而是当参数规模超过某一阈值后，模型的思维能力突然涌现出来，即所谓大模型的“突现能力”（Emergent Abilities）。
论文指出，大模型在参数规模达到某个临界值之前，其性能是近乎随机的，之后性能会忽然大幅增加，仿佛突然开窍一般，参数规模的量变导致了质变，而这种质变会何时发生，却充满不确定性，参数量级够大只是一个必要条件，一些大模型在大量“投喂”后却并没有表现出思维能力。
“我们一般认为这个参数规模是在千亿左右，但问题在于，随着投喂量进一步扩大，模型会再突现出什么能力是无法预测的。比如GPT-4已经能够依据命令设定自己的身份与人交流，如果再投喂下去，GPT-6或者GPT-8会不会进化到可以自行设定身份，具备自我意识甚至主动隐藏自己的某种‘价值观’？”一位NLP领域专业人士对21世纪经济报道记者表示。
多家A股公司紧急回应
近期，AI相关概念股表现活跃，但也有多家A股公司发布公告，提示相关风险：
4月4日，美亚柏科表示，AI技术产生的销售收入对公司短期经营业绩不构成重大影响。
石基信息4日在互动平台表示，公司与武商集团的日常性业务合作包括为其提供零售业信息系统软件和收银机、自助机等硬件产品。以上合作涉及新零售，但目前并未涉及AI应用。
3月29日，海天瑞声公告，截至本公告披露日，公司未与OpenAI开展合作，其包括ChatGPT在内的GPT类产品和服务未给公司带来业务收入；公司暂未向微软Microsoft 365 Copilot、Security Copilot等产品/服务提供训练数据，目前公司在大模型业务领域也尚未产生明显收入，该领域对数据需求的发展趋势有待观察。从目前公司实际情况来看，短期内暂未看到由大模型、AIGC（人工智能技术生成内容）带来的大幅订单增长。
启迪设计3月29日在互动平台表示，人工智能技术在设计行业的应用将是必然的趋势，公司一直高度关注AI技术的发展。目前AI设计工具在实际工作中的应用仍处在非常初期的阶段。
3月27日，石基信息表示，AIGC相关技术在公司业务中的实质性落地仍在内部探讨中，并未取得任何实质性进展。
3月24日，昆仑万维表示，目前公司AIGC、人工智能等业务产品尚未产生实际收入。
恒生电子管理层在公司业绩会上被频繁问及AI大模型相关进展时，公司董事长刘曙峰强调：“最近AI非常热，但我还是建议大家要冷静，目前公司还没有可以讲的东西，建议降降温。”
来源丨21世纪经济报道（李强）、券商中国、证券时报、每日经济新闻
SFC
本期编辑 黎雨桐
21君荐读
马斯克等大佬叫停GPT-5研发！周鸿祎：不发展才是最大的不安全
太危险，“立即暂停大型AI研究”！马斯克等千名大佬集体呼吁
ChatGPT-4重燃热点同时伴生风险,AIGC侵权问题何解？
ChatGPT引发新安全风险,网络安全攻防进入智能对抗时代