AIGC安全研究报告
AIGC技术框架
我们知道目前所有的AIGC所产生的应用都不是单一的创新，而是基于过往的各种深度学 习模型，开源框架，算法的优化做的整体组合。整个组装过程中会涉及各种开源框架、中间 件、算法等。这些框架中间件本身可能会存在各种各样的安全问题。比如最近关注比较多的关 于Langchain框架Prompt Injection安全问题。研究这些框架和算法尽可能的从技术底层规避安全问题是解决AIGC链路上安全的重要方向之一。
ChatGPT技术架构
Transformer
Transformer模型的核心思想是自注意力机制（self attention）--能注意输入序列的不同 位 置 以 计 算该序 列的表 示的能 力。Transformer创 建 了 多 层 自 注 意 力 层(self attetion layers）组成的堆栈，一个transformer模型用自注意力层而非RNNs或CNNs来处理变长的输 入。这种通用架构有一系列的优势
- 它不对数据间的时间/空间关系做任何假设。这是处理一组对象（objects）的理想选择
- 层输出可以并行计算，而非像 RNN 这样的序列计算
- 远距离项可以影响彼此的输出，而无需经过许多RNN步骤或卷积层（例如，参见场景记忆 Transformer (Scene Memory Transformer)
- 它能学习长距离的依赖。 基于Transformer所诞生的大语言模型的4个分支。
深度学习框架
目前的深度学习框架有谷哥的TensorFLow框架， Meta的PyTorch框架，百度的Paddle Paddle框架，华为的MindSpore框架，微软的CNTK框架，旷世的天元框架等。
大模型
目前各种大模型已经相继发布，主要有百度文心大模型、谷歌PaLM大模型、华为盘古大 模型、OpenAIGPT3.5大模型、科大讯飞1+N认知智能大模型、昆仑万维天工3.5大模型、网易 玉严大模型、阿里巴巴通义千问大模型、商汤日日新大模型、腾讯混元大模型等。
（精选报告来源：幻影视界）
AIGC安全研究报告原文节选如下：
本文仅供参考，不代表我们的任何投资建议。【幻影视界】整理分享的资料仅推荐阅读，用户获取的资料仅供个人学习，如需使用请参阅报告原文。