酷睿轻薄本轻松玩大语言模型和AI绘画？实测之后惊到了！
AIGC应用的蓬勃发展，为职场人提高工作效率打下了不错的基础。比如，职场用户可以通过ChatGPT、文心一言、Stable Diffusion等工具，帮忙来生成内容文案、脚本、代码、图片等，从而提升工作的效率。
AIGC应用可以大致分为：云端和本地两类。云端类型如文心一言、midjourney等，由于算力在云端，因此其对PC本身的硬件压力并不高，但受限与网络、信息安全等多方面因素，很多企业也并不建议员工使用外部的在线AIGC工具；本地化的 AI 应用在便利性、安全性、隐私性以及应用范围方面有着无可替代的优势，但是对PC的性能有一定需求。也正是因此，很多人往往聊起本地的AIGC应用，往往会单纯认为GPU厂商在其中发挥了巨大作用，促进了行业的巨大飞跃等等。
实际真正如此吗？作为PC行业的领导者，英特尔正与PC产业众多合作伙伴通力合作，致力于让广大用户在日常生活和工作中，通过AI的辅助来提高效率，进而带来革新性的PC体验。我们借助搭载第13代英特尔酷睿处理器i7-13700H的Thinkbook 16+这款产品，通过实际体验，来检测搭载英特尔处理器的PC产品能否在AIGC时代帮助职场人迎接挑战。
首先，来看一下这款产品的配置情况：
处理器：第13代英特尔酷睿处理器i7-13700H，14核心20线程，最大睿频5.0GHz，英特尔Evo平台认证
显卡：英特尔锐炬Xe 显卡，96EU
内存：LPDDR5 32GB 5200MHz
硬盘：1TB SSD
屏幕：16英寸 2.5K 100%sRGB
电池：71Wh
i7-13700H处理器怎么样？很强！
日常的职场办公，更强的处理器性能能够带来更加流畅、高效的办公体验，对于本地的AI应用来说，强大的计算性能也是其流畅运行的基础。Thinkbook 16+这款产品搭载了第13代英特尔酷睿处理器i7-13700H。作为第13代酷睿Raptor Lake-H家族的产品，i7-13700H延续了混合架构设计，包含6颗性能核与8颗能效核，共计20线程，还搭配24MB三级缓存。不过得益于进一步优化的Intel 7工艺，i7-13700H相比上一代i7-12700H频率有所提高，性能核最高睿频可达5.0GHz。
通过R23测试来看，多核心得分17098pts，单核心得分1835pts，这意味着无论是单核还是多核性能都表现非常出色，能够应对日常工作。
CrossMark来自老牌测试软件厂商BAPCo，是一款针对处理器的“整合了各种日常应用的综合测试项目”，它的测试项目分为生产率、创造性和反应能力三大块，但与此同时，又有一套独特的对硬件的评分系统，处理器核心数量、内存容量及单双通道、显示屏分辨率等都会影响到评分。通过综合性能测试软件CrossMark来看，总体得分1624，生产率1512，创造性1912，反应能力1231，从中可以看出这款产品在反应速度、程序启动、加载等方面都更加高效流畅。
职场工作中，尤其是内容工作者，PS处理图片可以说是必备技能之一。PugetBench for PhotoShop就是通过对图形的处理进行衡量的，通过测试来看，这款产品得分为PugetBench for PhotoShop上的得分为1167，按照PugetBench for PhotoShop的测试标准，这个成绩已经达到了上一代桌面级CPU的性能，所以，用于内容创作也是相当合适的。
Adobe Premiere Pro可以称得上家喻户晓的视频编辑软件了，也是很多内容从业者经常会接触的软件之一。Pugetbench for Premiere Pro能模拟用户使用Premiere Pro的真实场景进行操作，对于视频进行了回放、调色后回放、视频到处、加特效后回放、加特效后导出等复杂测试，最终得出了一个基准分数。在默认状态下，运行这项测试花费的时间较长，总体得分为694。如果将预览画面调整成“1/4”，则可以跑到1048分。
可以看出，无论是PS还是PR，在13代酷睿处理器的加持之下，即便没有独立显卡，也能带来较为出色的使用体验。那么在保障职场人日常工作的同时，这款产品在运行本地的AIGC应用方面又有怎么样的表现？
集显也能轻松“拿捏”大模型？是的！
作为 PC 行业的领导者，英特尔其实很早就已经关注到了AI对于PC的意义。早在 2018 年，英特尔就提出了要在 PC 中引入 AI 技术，英特尔CEO帕特·格尔辛格此前也表示，“我们认为AI PC是未来几年PC市场的一个关键转折点，我们将把AI融入到我们制造的每一个产品中。”
随着今年ChatGPT的爆火，内容创作领域正迎来AIGC带来的大变革。根据Tractica的预测数据显示，全球AI软件市场规模将在2025年达到1260亿美元，2021年到2025年年复合增长率为41.02%。一级市场的火热也反映了AIGC发展的确定性趋势。在大模型的快速迭代推动下，搜索引擎、办公软件、汽车、媒体、AI绘画设计、AI广告营销、智能工作助理等应用率先落地的行业将具备较强商业化机会。
对于职场人来说，紧跟时代风口，掌握相关技能才能不会被时代所“抛弃”。因此，笔记本产品能够在本地“跑”这些大模型应用成了用户迫切的需求。搭载第13代英特尔酷睿处理器i7-13700H的Thinkbook 16+笔记本在没有独立显卡的加持下，能否轻松应对本地AIGC应用？
我们首先使用英特尔的 AI 应用 Demo “英特尔大语言模型”应用进行多组对话，让它帮助我们处理一些工作以及生活中的任务。
比如我们要出一篇“服贸会”采访英特尔展台负责人有关“PC中引入AI”的方向提纲，向“英特尔大语言模型”提问。它很快速地给出了答案方向，如让相关负责人介绍公司情况、探讨当前AI技术在PC中应用的场景、优势，未来的发展趋势等。这份提纲确实可以帮忙打开思路，帮助我们更好完成工作。同时，我们在测试中也发现，生成的这回答所需要的时间非常快速，并且完全不需要联网，完全是调用本地算力。
通过AIDA64的检测来看，在生成回答的过程中，笔记本的频率瞬时能够飙升到4.7GHz,功耗可以飙升到85W，处理器占用率100%。可见，在使用本地大语言模型的时候，强大的处理器性能非常重要。
从测试速度来看，ChatGLM-6b 可以做到首个 token 生成 first latency 157.17ms，后续 token 平均生成率为 74.75ms/token。在自然语言处理领域，「token」是指文本中的一个基本单元，可以是一个单词、一个字、一个子词(subword)、一个标点符号，或者其他可以进行语义处理的最小单元。可以看到，这个处理器速度相当不错。
我们将同样的问题提问给文心一言等依靠云端算力的产品，给出答案所消耗的时间基本一致，可见在英特尔处理器的加持下，本地大语言模型的反应能力非常出色。
为什么本地也很高效地能“跑”大模型？这是因为英特尔构建了BigDL-LLM库，通过 BigDL-LLM库可以对各种各样的大语言模型进行优化和支持，能够在一台搭载 16GB 内存的英特尔轻薄本上运行参数量高达 160 亿的大语言模型，支持的模型包括LLaMA/LLaMA2、ChatGLM/ChatGLM2等等，这极大地降低了 AIGC 的使用门槛。
对于本地AI绘画软件来说，对PC性能的要求更高，没有独立的显卡的加持，笔记本还能够流畅“炼丹”吗？可以的！作为目前最高规格的核显之一，Intel Iris Xe Graphics (96EU) 相较于此前的Iris Plus 核显最高 64EU，基本规格提升明显，FP16、FP32 浮点性能提升幅度高达 84%，还引入了 INT8 整数计算能力 ，这些都加强了它的 AI 图形计算能力，让英特尔轻薄本支持 Stable Diffusion成了可能。
此外，英特尔基于 OpenVINO PyTorch （英特尔推出的一个开放源码工具包，旨在优化深度学习模型的推理性能，并将其部署到不同的硬件平台上）后端的方案，通过 Pytorch API 让社区开源模型能够很好地运行在英特尔的客户端处理器、集成显卡、独立显卡和专用 AI 引擎上。
通过实际测试来看，在常规测试的情况下，生成一张美食图片大概需要1分钟57秒，效果还算不错。
当我们开启"Accelerate with OpenVINO"脚本进行加速的时候，同样的“prompt”和参数设置情况下，仅需19.5秒就可以生成这张图片。所用时间大大缩短。
在相对复杂的“prompt”情况下，效率会有怎样的变化？我们通过一长串“prompt”生成一所在河边的别墅，在未开启加速情况下，耗时1分57秒，在开启加速之后，仅需44秒，效率仍然有大幅提升。
这是生成的样图，画面的质量并没有什么差别，借助英特尔的相关解决方案，可以让本地AI绘画效率在保证质量的同时，效率得到提升。
通过两款AIGC软件的实测体验来看，其中的大语言模型能够快速生成如小红书种草文案、视频脚本等，极大提升职场用户（如记者编辑、码农）的工作效率。英特尔对Stable Diffusion做的相关优化，可以高效快速为用户提供优质图片素材，帮助用户更好应对工作，让笔记本上跑 Stable Diffusion 快速出图已经不是高性能独显游戏本的专属。
总的来说，在后疫情时代，企业和个人更加追求效率的提升。英特尔通过强大的 CPU 算力以及针对 AI 的软件优化两个层面，大幅降低了 AI 应用对 PC 硬件的要求，让更多的普通消费者，通过搭载了英特尔处理器的笔记本体验到最前沿的 AIGC技术，可以帮助职场人更好利用这些工具完成自己的工作任务。从实际测试体验来看，当前很长一段时间，搭载第13代英特尔酷睿的产品仍然是职场人面对AIGC浪潮最合适的选择。
本文所有测试软件均为实际使用、真实测试，不代表任何品牌方立场。