新智元报道  

编辑：桃子 好困

【新智元导读】2023年即将收尾，大模型热度只增不减。对于那些还没有入门的AI初学者来说，一切还为时未晚。NUS尤洋教授所著新书《实战AI大模型》，深入浅出热门AI大模型，得到李开复、颜水成、周鸿伟大牛鼎力推荐。

在GPT-4的惊艳亮相之际，AI大模型成为了学界和工业界的热门话题。

这些模型的复杂性和不断发展的技术为我们带来了新的挑战和机遇。

人工智能正在从感知理解世界走向生成创造世界，推动产业智能化升级加速进入拐点。

大模型技术正逐渐拉开生产力提升的新纪元序幕，它们通过自然语义理解，在人的自然表达和计算机的命令之间建立了桥梁，极大地提升了生产效率。

这些发展不仅在技术层面上引发了革命性的变化，也在商业和日常生活中创造了无限的可能性。

全领域大模型如火如荼

这些趋势为人工智能的快速进化和实现通用人工智能（AGI）目标带来了新的希望和机遇。

在个体层面，人机交互模式发生了革命性的变化，AI模型也为个体创作者带来了前所未有的赋能。

插件机制的出现让平台开启了「应用时刻」，为模型的场景应用带来了巨大的可能性。

AI大模型的出现改变了我们对图像创作、音乐生成甚至是人声模仿的理解。

例如，Midjourny、StableDifussion和DALL-E等AI图像生成技术，使人类可以仅凭语言来「创作」图片。类似地，Amper Music等AI音乐生成技术能够根据用户需求生成特定氛围的音乐。

在音频领域，微软的云服务SpeechStudio允许用户仅通过上传30分钟自己声音的素材，就能创建与自己声音完全相同的声音分身，用于配音、主持、制作宣传片或与网络上的其他人互动。

在工业层面，AI大模型正在引领工业制造业走向数字化和智能化的新阶段。这些模型为从研发到售后的整个生产过程带来了系统性的变革。

在研发领域，AI大模型帮助制造企业创建了全新的研发体系和模型开发能力。

例如，在CAD工业软件领域，引入AI大模型可以通过语音提问在庞大的工程数据库中快速找到所需的三维数模零件，大幅提高设计效率。

在生产环节，AI大模型特别是在工业质检方面发挥着重要作用。以百度飞浆为例，其AI大模型可以实现精确到0.05毫米的检测精度，显著降低了误判率，满足了行业的高标准要求。

在工业领域，AI大模型不仅提供了产品业务的机会，还带来了能力开发的机遇。

这些进步表明AI大模型正成为工业制造业数智化开发范式的重要组成部分，为企业提供了全方位的智能化解决方案。

《实战AI大模型》

在当前AI大模型技术不断渗透工业和商业领域的同时，这些技术的快速发展也带来了挑战

—— 

对于AI初学者来说，较高的技术门槛使得迈出入门的第一步变得愈发艰难；大模型的复杂性和技术的不断更新，如何迅速理解不端更新迭代的大模型，准确地掌握这些技术，也成为不小的挑战。

对于行业工作者来说，问题在于如何高效地利用这些先进技术，以降低成本，提高效率，并在竞争激烈的市场中获得优势。他们需要找到最佳实践和策略，以充分利用大模型的能力，从而推动产业的发展。

在这个以数据为驱动、技术不断进步的时代，尤洋教授的《实战AI大模型》一书便成为了一个值得关注的资源。

作者尤洋是加州伯克利大学博士，新加坡国立大学计算机系的校长青年教授。他曾创造

ImageNet、BERT、AlphaFold、ViT训练速度的世界纪录，相关技术被广泛应用于谷歌，微软，英特尔，英伟达等科技巨头。

他曾获IPDPS最佳论文、ICPP最佳论文、AAAI杰出论文、清华大学优秀毕业生、西贝尔奖学金、ACM-IEEE CS George Michael Memorial HPC Fellowship、LotfiA. Zadeh Prize、ACM Doctoral Dissertation Award Candidate、福布斯30岁以下精英榜（亚洲）、IEEE-CS超算杰出新人奖等。

他曾任职于谷歌、微软、英伟达、英特尔、IBM等国际知名厂商。

《实战AI大模型》不仅汇集了尤洋教授的丰富知识和经验，书中还提供了一个互动社群，旨在帮助读者更好地理解书中的内容并将理论应用于实践。

这个社群为读者提供了一个分享经验、讨论问题的平台，并可能得到尤洋教授及其他专业人士的直接指导和建议。

内容深度解析

《AI实战大模型》全面覆盖了从基础理论到前沿实践的每一个方面。书中详细介绍了Transformer模型、BERT、ALBERT、T5、GPT系列、Google的PaLM等核心技术，并深入讨论了它们在各种任务中的应用。

例如，Transformer模型，作为当前自然语言处理（NLP）领域的核心，通过其独特的「注意力机制」，使得机器能够更加准确地理解和生成文本。BERT模型通过其双向训练机制，极大地提高了文本处理的准确性和灵活性，被广泛应用于语言理解任务中。

ALBERT模型作为BERT的优化版本，以更高的效率和更小的模型尺寸解决了NLP的多项挑战。T5模型则展示了如何用一个统一的框架来处理多种不同的文本任务，这在提高AI系统的通用性方面具有重要意义。GPT系列则以其强大的文本生成能力，在许多自然语言处理任务中取得了革命性的进展。

Google的PaLM模型是大模型领域的另一项里程碑，代表了AI在理解和生成人类语言方面的最新进展。这些模型的学习和应用对于任何希望进入AI领域的人来说都是必不可少的，它们不仅为AI理论和实践提供了坚实的基础，而且还直接影响了AI技术的未来发展方向。

对于这些先进的技术，《AI实战大模型》提供了实战案例和详细教程，实现了将理论知识与实际应用相结合的目标。特别值得注意的是，书中ColossalAI通过数据并行、模型并行和流水线并行等多种并行策略，分散了计算和存储负载，从而在有限的资源下实现大模型的高效训练。独创性的引入了Colossal-AI系统。

Colossal-AI系统作为尤洋教授主创的一个先进的大模型训练工具，解决了在单GPU上训练大型模型时遇到的内存限制问题。

它通过引入多种并行训练方法，如数据并行、管道并行、张量并行和序列并行，允许更大规模的模型在有限资源下得到高效训练。

它高效并行计算和内存优化技术使得即使在个人电脑上也能运行复杂的AI模型。

例如，借助ColossalAI，可以在个人电脑上部署并训练像ChatGPT这样的模型，虽然这个过程可能需要较长时间，但ColossalAI的优化机制大大缩短了训练周期。

这种训练方式的创新性不仅提高了模型训练的效率，也大幅降低了训练成本，使得AI技术的应用更加广泛和灵活。

此外，书中加入了实战演练与视频教学，对如何利用有效训练现有主流大模型如BERT和GPT模型的指导，为读者从理论走向实践提供了具体路径。

例如，Colossal-AI全球首个开源了最接近

ChatGPT原始技术方案，具备完整RLHF流程的低成本ChatGPT复现方案。

仅需不到百亿参数模型的微调，即可达到类似GPT-3.5和ChatGPT的效果。

此外，Colossal-AI基于在大模型民主化的专业技术积累，开源完整Stable Diffusion预训练和个性化微调方案，预训练时间加速和经济成本降低6.5倍，个性化微调硬件成本降低7倍！

在个人电脑的RTX 2070/3050上即可快速完成微调任务流程，让Stable Diffusion等AIGC模型的触手可及。

书籍亮点

1. 全面AI知识结构：

从基础理论到最前沿的实践应用，全面覆盖了AI大模型领域，包括Transformer模型、BERT、ALBERT、T5、GPT系列、InstructGPT、RLHF、ChatGPT、GPT-4、Google的PaLM以及视觉模型等关键技术。

2. 独创的高效并行系统：

深入解析底层工具Colossal-AI的技术应用，展示如何以最低成本实现大规模AI模型的高效训练和部署。

3. 系统的配套实战教程：

提供详细的模型训练步骤和案例分析，让理论知识得以实际应用。提供了丰富的实战教程和步骤详解，使读者能够从理论走向实践，学习如何训练和优化大型AI模型。

4. 适合不同层次的读者：

不论是经验丰富的AI实践者，还是刚刚踏入AI世界的初学者，《AI实战大模型》都提供了丰富的知识和技能，帮助读者在AI领域取得成功。

《实战AI大模型》以其深度和广度赢得了业界专家的高度认可。这本书被创新工场与零一万物的创始人兼CEO李开复老师，赞誉为AI领域的「知识基座」。李开复强调，这本书不仅深入浅出地阐释了AI大模型的核心概念，还紧密贴合AI

2.0这一有史以来最重要的技术革命。他认为，对于渴望理解并运用大模型的读者来说，这本书提供了宝贵的知识和洞见。

无独有偶，360公司创始人、董事长兼CEO周鸿伟老师，强调了书籍的实用性：「无论你是NLP新手还是专家，《实战AI大模型》都值得一读。」周鸿伟特别提到，书中对ChatGPT背后的模型及其多样化应用的详细解读，为深入理解这些先进模型提供了极好的起点。

新加坡工程院院士、ACM 

Fellow和天工智能的联席CEO颜水成，赞赏本书的全面性和实战指导：「本书不仅涵盖了大型深度学习模型的基本概念，还深入探讨了分布式系统和高性能计算的关键技术。」他认为，书中的实战部分特别值得一提，它不仅帮助初学者理解这些复杂模型，对企业级用户来说也极具指导价值。

看完之后，如果您对AI大模型充满兴趣，想要快速上手并深入了解这一领域的最新技术和实践应用，那么《实战AI大模型》无疑是您不可错过的选择。更加重要的是，书中所提供的知识和技巧是经过实际验证的，可以帮助您更好地将理论应用到实践中。

.data_color_scheme_dark{--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}.data_color_scheme_dark{--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}.data_color_scheme_dark{--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BG-COLOR-ACTIVE: #373737}.data_color_scheme_dark{--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}.rich_media_content{color:#000000e5;font-size:17px;font-size:var(--articleFontsize);overflow:hidden;text-align:justify}.rich_media_content{color:#ffffffa6;color:var(--weui-FG-HALF)}.rich_media_content{position:relative;z-index:0}.wxw-img{vertical-align:bottom}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) .rich_media_content img:not(.wx_img_placeholder){filter:brightness(.8)}}h1,h2,h3,h4,h5,h6{font-weight:400;font-size:16px}@media screen and (min-width:1024px){body:not(.pages_skin_pc) :root{--appmsgPageGap: 20px}}:root{--articleFontsize: 17px}:root{--sab: env(safe-area-inset-bottom)}:root{--wxBorderAvatarRatio: 3}:root{--discussPageGap: 20px}:root{--appmsgPageGap: 20px}*{margin:0;padding:0}.rich_media_content *{max-width:100%!important;box-sizing:border-box!important;-webkit-box-sizing:border-box!important;word-wrap:break-word!important}.rich_media_content p{clear:both;min-height:1em}td p{margin:0;padding:0}body,.wx-root,page{--weui-BTN-HEIGHT: 48;--weui-BTN-HEIGHT-MEDIUM: 40;--weui-BTN-HEIGHT-SMALL: 32}body,.wx-root{--weui-FG-1: rgba(0, 0, 0, .55);--weui-ORANGERED: #ff6146;--weui-BG-0: #ededed;--weui-BG-1: #f7f7f7;--weui-BG-2: #fff;--weui-BG-3: #f7f7f7;--weui-BG-4: #4c4c4c;--weui-BG-5: #fff;--weui-FG-0: rgba(0, 0, 0, .9);--weui-FG-HALF: rgba(0, 0, 0, .9);--weui-FG-1: rgba(0, 0, 0, .5);--weui-FG-2: rgba(0, 0, 0, .3);--weui-FG-3: rgba(0, 0, 0, .1);--weui-FG-4: rgba(0, 0, 0, .15);--weui-FG-5: rgba(0, 0, 0, .05);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #fa9d3b;--weui-YELLOW: #ffc300;--weui-GREEN: #91d300;--weui-LIGHTGREEN: #95ec69;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1485ee;--weui-PURPLE: #6467f0;--weui-WHITE: #fff;--weui-LINK: #576b95;--weui-TEXTGREEN: #06ae56;--weui-FG: #000;--weui-BG: #fff;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: #fa9d3b;--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: #06ae56;--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: #10aeff;--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(0, 0, 0, .5);--weui-TAG-BACKGROUND-BLACK: rgba(0, 0, 0, .05)}body,.wx-root{--weui-BG-6: rgba(0, 0, 0, .05);--weui-ACTIVE-MASK: rgba(0, 0, 0, .05)}@media screen and (min-width:1024px){body:not(.pages_skin_pc){background:#191919;background:var(--weui-BG-2)}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).my_comment_empty_data{background-color:#111}}.wx-root,body{--weui-BTN-ACTIVE-MASK: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BTN-DEFAULT-ACTIVE-BG: #e6e6e6}.wx-root,body{--weui-DIALOG-LINE-COLOR: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BG-COLOR-ACTIVE: #ececec}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--appmsgExtra-BG: #121212}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-COLOR-ACTIVE: #373737}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--discussInput-BG: rgba(255, 255, 255, .03)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--nickName-FG: #959595}}

div.autoTypeSetting24psection > p,div.autoTypeSetting24psection > section{margin-bottom: 24px;}