OpenAI创始人：AI可能毁灭人类！高盛：或导致全球三亿人“丢饭碗”？
//OpenAI创始人：AI可能毁灭人类，必须开发新技术来解决！//
OpenAI创始人兼首席执行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采访时表态，他不会回避“人工智能可能杀死全人类”的说法。
在Youtube平台公布的视频中，Fridman在访谈中提到了人工智能研究者、LessWrong研究所创始人Eliezer Yudkowsky的观点。Yudkowsky此前指出“人工智能可能杀死所有人”，并认为，当人工智能发展为超级智能时，几乎无法与人类站在统一战线上。
对于此，Altman回应道，“我认为有这种可能性，并且承认这一点很重要，因为如果我们不谈论它、不把它视为潜在的事实，那么我们就不会投入足够的努力去解决这个问题。”
“我认为我们必须开发新的技术来解决这个问题…我所知道的解决这类问题的唯一方法就是不断迭代，尽早学习。”
GPT的推理能力
在此次采访中，Altman提出了一点关于GPT的新颖之处，即推理能力。
“这个模型的神奇之处在于…对于很多它都不准确的定义，它可以进行某种推理。”
Altman指出，“我认为这很了不起，最令人兴奋的是，在提取人类知识的过程中，它产生了这种推理能力。”
关于偏向性的争议
在与Lex Fridman的谈论中，Sam Altman讨论了关于语言模型GPT的一个争议性话题，即GPT是否太过“woke”（有清醒、觉醒之意）了，也就是说该语言模型给出的答案是否存在偏向性。
例如，世界各地许多存在右翼倾向的新闻媒体指责OpenAI的ChatGPT在某些交互示例中，表现出自由主义偏见。
“Woke”这个词最先是埃隆·马斯克在推特上提出的。他写道，“训练AI觉醒的风险，换句话说就是训练其撒谎，是相当致命的”。
对此，Altman在此次采访中表示，“说实话，我甚至不知道‘woke’是什么意思”。
不过Altman也承认，“GPT确实存在偏见，而且可能永远都是如此。”
Altman继续解释道，任何一个版本的GPT都不会是完全没有偏见的、能被全世界公认是公正的。这是因为ChatGPT在推出之际，借助了外部力量进行迭代更新，也就是让全世界的人参与进来去“塑造”它，所以该模型所存在的偏见是无法避免的。
Altman还指出，OpenAI已经对模型进行了重大改进，以减轻固有偏见并提高其准确性，一些对GPT模型批评最严厉的人，也赞扬了OpenAI在GPT-3.5版本升级为GPT-4版本之时所做的改进。Altman同时也承认，未来还有很多工作要做。
与马斯克的恩怨
在此次访谈中，他也提到了OpenAI和埃隆·马斯克之间的恩怨。自OpenAI推出ChatGPT后，马斯克一直在推特上提出批评。
Altman，“埃隆显然正在推特上从不同角度攻击我们”。
马斯克是OpenAI的联合创始人，但之后由于理念不同，在2019年与该公司彻底分道扬镳。而最近几个月，在ChatGPT带动的人工智能热潮中，马斯克重新燃起了他对OpenAI的“关心“。
这位亿万富翁指责OpenAI与微软的合作让它从以前的非营利组织变成了现在“最大的营利公司”。据悉，微软已向OpenAI投资了100多亿美元。
马斯克还把矛头对准了该公司的热门聊天机器人ChatGPT，他在推特上讽刺这项技术“好得吓人”，并表示“我们离危险的强大人工智能不远了”。
对于马斯克的“非营利性”指控，Altman回应道，“我们很早就意识到，我们需要的资金远远超过我们作为非营利组织所能筹集到的资金。”
Altman回应道，他理解马斯克对人工通用智能（AGI）的保留意见，AGI是一种能够像人类一样思考和学习智力任务的人工智能系统。也有不少该领域的专家同样对AGI技术表示担忧，称如果这些系统以意想不到的方式运行或变得难以控制，可能会导致“灾难性的结果”。
与此同时，Altman也提到，“马斯克在我心中是英雄，我支持也理解他的担忧…但希望马斯克能承认OpenAI在解决AGI安全问题是所付出的努力。”
目前，OpenAI公司鼓励对监管这些系统展开讨论，并表示正在收集公众的反馈，以完善其技术。
//白领成为失业大军？高盛：生成式AI或导致全球三亿人“丢饭碗”//
近几个月来，越来越多的知名人士预计，年内大热的ChatGPT有望掀起一场新的工业革命。而纵观历史，历次工业革命往往会深远改变当时的社会结构——从机械织布机到内燃机再到第一台计算机，新技术的出现总是会引起人们对于被机器取代的恐慌，并在一个阶段造成大量失业和就业转型。
这一次，ChatGPT引领的人工智能革命，或许也不会例外……
投行高盛本周一发表的一份最新研究就显示，ChatGPT等生成式人工智能系统的最新突破，料将给全球劳动力市场带来重大颠覆，全球预计将有3亿个工作岗位被生成式AI取代，律师和行政人员将是最有可能被裁员的岗位。
这项研究结论是高盛分析师Joseph Briggs和Devesh Kodnani根据数千份职业通常执行的任务数据得出的。他们的模型计算显示，美国和欧洲大约三分之二的工作，在某种程度上将受到人工智能自动化的影响。
全球三亿人将“丢饭碗”？
研究报告指出，约63％美国人近一半的工作量能够通过AI自动化完成，他们将可以继续从事现在的工作，并借助AI技术把更多时间腾出来，从事更有成效的活动。
另外，30％从事体力或户外工作的美国人，则基本将不受影响。余下约7％的美国工人所从事的工作中，至少有一半的任务可以由生成式人工智能完成——他们将很容易被AI取代。
高盛表示，欧洲的情况也大致与美国相当。在全球层面，体力工作在发展中国家就业中所占比例更大。
总体而言，高盛估计，约五分之一的工作可以由人工智能完成——在各大经济体中，这相当于约3亿个全职工作。
高盛的分析主要观察了美国和欧洲数千种不同职业通常执行的任务数据。该行研究人员假设，人工智能将能够完成小型企业的纳税申报表、评估复杂的保险索赔、记录犯罪现场调查的结果等任务。
但他们并没有设想将人工智能运用于那些更敏感的任务，例如做出法院裁决、检查危重病患者的状况或研究国际税法等。
大量白领成为失业大军？
毫无疑问，高盛的此份报告再度引发了人们对于人工智能技术潜力的辩论。这些技术可能重振富裕世界萎靡不振的经济增速——高盛预计该技术最终将在10年内使全球年均国内生产总值（GDP）提高7％。
但与此同时，该技术也给劳动力市场带来重大颠覆：可能创造出一个新的白领失业阶层，他们可能遭遇与上世纪80年代制造业蓝领工人类似的命运。
值得一提的是，高盛对生成式AI影响的估计，还要比目前已经发表的一些学术研究更为保守些。
GPT-4的创造者OpenAI上周发表的一篇论文发现，对于约80％的美国人来说，他们至少10％的工作任务会受到大模型的影响；此外有约19％的人，其工作任务受影响的比例超过50％。
OpenAI预计，从具体职业来看，受影响程度较高的职业包括报税员、作家、数学家、网页设计师和记者等。完全不受到大模型影响的群体则主要是体力劳动者，包括厨师、洗碗工、地板工等等。
当然，尽管就目前来看，人工智能革命对未来全球劳动力市场的冲击已不容小觑，但三六零集团创始人周鸿祎上周在2023中国发展高层论坛上也表示，他仍乐观看待人工智能造成的所谓“失业”挑战。
周鸿祎表示，人类的做决策、情感、想象力和创造力是人工智能短期无法取代的。人工智能大模型是人类发明的最伟大的工具，背后凝聚着全人类的知识成果，能够赋予普通人更强大的能力，未来有可能被淘汰的是不会问问题，不会使用人工智能大模型的人。
来源：财联社