用AI解释AI！OpenAI使用GPT-4解释GPT-2，打破语言模型“黑箱”｜环球科学要闻

· 物理学·

首次实现非阿贝尔任意子的博罗梅安环编织

量子计算在某些问题上具有超越经典计算的能力，但由于量子比特极易受环境干扰退相干，使计算过程中不断出现错误，因此科学家提出用拓扑量子比特来实现通用的容错量子计算。但非阿贝尔任意子的拓扑激发始终难以捉摸。据《自然》新闻（Nature News）消息，近日发表在rXiv上的一项研究中，研究人员首次在离子阱量子计算平台实现了27个量子位的博罗梅安环（Borromean Rings）编织，且每个点位的保真度超过了98.4%。

研究人员操纵电场俘获了32个镱离子，其中每个离子都可以编码一个量子位。通过调控量子位之间的相互作用，研究人员构建了一个虚拟的笼目（kagome）晶格，它的结构由27个量子位像六角形反复重叠在一起，编织并折叠形成了一个环面。通过进一步操作，晶格可以进入激发态。研究人员沿博罗梅安环（一种特殊的三圈相扣编织）移动任意子，能够检测到非阿贝尔编织的特征——任意子有22个简并的基态。这项研究展示了非阿贝尔任意子构成量子计算基础的潜力。

· 人工智能·

打破“黑箱”，OpenAI使用GPT-4解释大语言模型

对比评估GPT-4模拟结果的准确性（图片来源：OpenAI）

语言模型正在不断更新换代，然而我们仍然无法理解其内部的运作过程。当地时间5月9日，OpenAI发布博客文章宣布，他们利用GPT-4揭示了GPT-2的行为，并获得了初步成果。

据介绍，

OpenAI制定了一套对于大语言模型中神经元行为的评估流程

。首先，让GPT-4针对文本序列生成解释；第二步，用GPT-4模拟GPT-2的神经元接下来会做什么；最后，对比评估GPT-4模拟结果的准确性。通过这样的方法，OpenAI对每个神经元的行为做出了初步的自然语言解释，并评估了这种解释和实际行为的匹配程度。目前，他们使用该方法解释了GPT-2中全部的307200个神经元，并与工具代码一起在GitHub发布。

OpenAI表示，目前GPT-4生成的解释还不完美，尤其要解释比GPT-2更大的模型时，效果很差。同时对于GPT-2解释的评分也偏低，仅有约1000个解释获得了较高评分（0.8以上）。但OpenAI认为，可以使用机器学习的方式提高GPT-4产出解释的能力，从而实现训练AI进行自动化对齐研究的目标。（Founder Park，OpenAI）

· 物理学 ·

我国科学家实现超越海森堡极限精度量子测量

量子精密测量致力于把量子力学原理运用到各种测量任务中以实现超过经典极限的测量精度。而海森堡极限被认为是利用量子方法和资源所能达到的最终极限。昨日，据科技日报消息，中国科学技术大学郭光灿院士团队李传锋、陈耕等人与同行合作，利用量子不确定因果序实现了超越海森堡极限精度的量子精密测量。他们的工作发表在《自然·物理》（Nature Physics）上。

量子不确定因果序是一种新型量子结构，已经被证实可以在特定的量子计算和量子通信任务中提供优势，然而此前工作都是基于离散变量体系，未能直接应用于量子精密测量任务中。研究人员设计了一种全新的杂化（hybrid）量子装置，即用一个离散量子比特控制光子两组连续变量的演化时序，实验实现了不确定因果序，从而实现了对演化产生的几何相位的超海森堡极限的精密测量。该实验使用单个光子作为探针，不存在光子间的相互作用，且单次测量所需要的能量不超过单个光子的能量，从而实现了首个在规范化资源定义下超越海森堡极限的实验工作。实验实现的相对于确定因果序方法的提升可以直接转化为在实际测量任务中的现实优势。实验结果表明，这种新方法在实验演示的范围内获得了对确定因果序方法理论上的最高测量精度，即海森堡极限的绝对优势，实验结果逼近了理论上的超海森堡极限。科研人员表示，这一实验结果对不确定因果序和量子精密测量的理解均带来了重要影响。（科技日报）

· 虚拟现实·

在虚拟现实中闻到花香

装有1个、2个和9个气味生成器的嗅觉互动装置（图片来源：于欣格）

研究人员之前开发出了能在VR中模拟视觉、声音和触觉的人机接口系统，但很难设计一套模拟气味的系统。当前的气味接口设计使用瓶装液体香水或有线硬质头显这种有碍实用的笨重形式。轻巧、灵活、无线且配备各种气味类型和可编程气味强度的可穿戴气味生成器一直是研究人员的开发目标。

近日，发表于《自然·通讯》（Nature Communications）的一项研究报道了一款小型可穿戴虚拟现实（VR）接口，能让用户闻到迷迭香、莫吉托、煎饼和榴莲等多种气味。研究者设计了两款可穿戴的无线气味接口。第一款使用毫米级气味发生器，能直接附在鼻子下方的皮肤上，有两种气味选项；第二款是一个能产生9种不同气味的软面罩。作者用 30种不同的气味演示了它的可定制性，包括菠萝、姜、绿茶、焦糖和糖果的气味。这些微型气味发生器含有带香味的石蜡，加热后能在局部区域快速并准确释放特定气味（只需不到1.44秒）。

该设备能在局部区域快速准确地产生气味，并能与VR世界无线连接，打造沉浸式和更具真实感的用户体验。作者指出，进一步研究或能让用户在打电子游戏和观看4D电影时，以及在虚拟教学环境中闻到各种气味。（Nature Portfolio）

· 航空航天·

天舟六号完成发射前全区合练

据央视网消息，5月9日，天舟六号发射任务组织全区合练。目前，发射任务各系统已经完成了相关功能检查，并做好发射前的各项准备工作。

天舟六号将是神舟十五号航天员乘组在轨迎接的第一艘飞船，目前，三名航天员已完成手控遥操作演练等准备工作，空间站组合体状态良好、运行稳定，静候天舟六号的到来。（央视网）

撰文：不周、二七

编辑：不周、二七

封面图片来源：OpenAI