当前位置：首页|资讯|OpenAI|ChatGPT|大语言模型|提示词

OpenAI 安全系统负责人长文梳理：大模型的对抗攻击与防御

作者：机器之心发布时间：2023-11-20
OpenAIChatGPT大语言模型提示词

随着 ChatGPT 的发布，大型语言模型应用正在加速大范围铺开。OpenAI 的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。但是，对抗攻击或 prompt 越狱依然...【查看原文】

相关资讯

OpenAI安全系统负责人长文梳理：大模型的对抗攻击与防御

选自Lil’Log作者：LilianWeng机器之心编译编辑：PandaLLM能力强大，倘若别有用心之人用其来干坏事，可能会造成难以预料的严重后果。虽然大多数商用和开源LLM都存在一定的内置安全机制，但却并不一定能防御形式各异的对抗攻击。OpenAI的安全系统团队已经投入了大量资源，研究如何在对齐过程中为模型构建默认的安全行为。

OpenAI

机器之心Pro 2023-11-20

OpenAI 信任与安全负责人 Dave Willner 宣布离职

IT之家 7 月 22 日消息，OpenAI 信任与安全负责人戴夫・威尔纳（Dave Willner）昨天在其 LinkedIn 发布动态，宣布已经离开 OpenAI 公司。威尔纳在 OpenAI

OpenAI

IT之家 2023-07-22

机器学习中的对抗性攻击：威胁与防御

“机器学习中的对抗性攻击”是一个备受关注的话题，因为它可能会对人工智能系统的安全性和可靠性造成威胁。本文将介绍机器学习中的对抗性攻击及其威胁，并探讨一些防御方法。

人工智能机器学习

xuyuelin88117 2023-03-21

OpenAI前安全负责人雷克将跳槽Anthropic

简·雷克（Jan Leike）是OpenAI安全团队的前联合负责人，专注于长期风险。雷克周二在社交媒体宣布，他将加入OpenAI的竞争对手Anthropic。 来源：金融界AI电报

OpenAI金融

金融界 2024-05-29

前OpenAI安全负责人加入竞争对手Anthropic

鞭牛士报道，5月29日消息，据外电报道，刚刚从OpenAI安全团队（专注于长期风险）离职的前联席主管JanLeike宣布将加入OpenAI人工智能竞争对手Anthropic。5月14日，OpenAI联合创始人…

OpenAI人工智能

鞭牛士 2024-05-29

近期资讯

那些科学家下了大功夫的美食 拼多多希望让更多人吃到

沙漠里怎么能种出来水稻，好吃吗？12月23日，在中央广播电视总台央视新闻携手农业农村中心推出的《“智领农业慧未来”——农业科创荣耀时刻》特别节目上，8项取得重大突破的农业科创成果亮相。

北京日报 2024-12-27

国家级海上风电研究与试验检测基地 传动链平台建成投运

12月26日，建成投运的国家级海上风电研究与试验检测基地传动链平台（无人机照片）。当日，我国首个国家级海上风电研究与试验检测基地传动链平台在福建建成投运。该平台是国内首套具有自主知识产权、具备先进的国际技术水平和全面测试能力的风电机组地面试验平台，可开展25兆瓦级风电机组全工况模拟试验。

中国证券报 2024-12-27

新型白炽灯发出亮度比之前强百倍的“扭曲光”

钛媒体App12月27日消息，美国密歇根大学的研究人员开发了一种新型白炽灯泡。凭借灯丝本身的精密设计，这款灯泡能够发出椭圆偏振光（扭曲光），且亮度比之前的方法亮100倍。这一新设计有助于增进人们对基础物理的理解，并为机器人视觉系统和其他尖端技术应用铺平道路。

钛媒体快报 2024-12-27

如何恢复苹果手机中意外删除的珍贵照片与数据管理技巧

在日常生活中，手机摄影已经成为我们记录美好瞬间的一种方式。当你删除照片后，它并不会立刻从设备中彻底清除，而是会被移动到“最近删除”相册中，在这里保存30天。不过，这种方法的成功率和安全性不是100%保证的，有些软件可能会带来隐私泄露的风险。

新报观察 2024-12-27

统帅冰箱LTD-520WS9U1：超薄零嵌入，智能保鲜，性价比之选！

#年货节好物集市#统帅，作为海尔集团在互联网背景下战略布局的年轻化品牌，以“轻时尚家电开创者”为定位，侧重于互联网年轻群体。统帅品牌以其高性价比和时尚设计，迅速在家电市场占据了一席之地。它不仅继承了海尔集团的技术优势和品质保证，而且在设计上更加注重年轻消费者的审美和使用习惯，提供了既实用又具有现代感的家电产品。

小米地瓜 2024-12-27

苹果在法国停售部分旧款iPhone：遵从欧盟新规

据相关报道，苹果公司已经停止在法国AppleStore线下销售iPhone14、iPhone14Plus以及第三代iPhoneSE。根据欧盟的规定，从2024年底开始，所有电子设备必须采用USB-C充电接口，而苹果此前发布的iPhone14系列及第三代iPhoneSE仍使用Lightning接口。

中关村在线 2024-12-27

引入“四张网” 以应用场景为导向

全球首条跨海跨城eVTOL电动垂直起降航空器航线，在深圳蛇口首次公开演示飞行。　12月25日，深圳市低空经济标准化技术委员会第一次全体会议在深圳市交通运输局召开。本次会议以推动低空经济领域标准化建设为主题，旨在助力行业规范化发展与技术创新。会上发布了《深圳市低空经济标准体系建设指南(V1.0)》(下称《指南(V1.0)》)。

南方都市报 2024-12-27

消息称联想 CES 2025 将推出“人工智能旅行套装”

IT之家12月27日消息，据消息源EvanBlass透露，联想将在CES2025中公布一款“人工智能旅行套装”。据消息源称，该套装将包含一个智能腕带、一款TWS耳机和一个配备摄像头的吊坠，可与用户的智能手机进行连接以实现AI功能，为用户提供快速即时的AI见解。

IT之家 2024-12-27

给工厂装“大脑” 让产线上“云端”（高质量发展看亮点·走一线）

上门诊断，帮助作坊式企业成长为数字工厂；发挥链主企业带动作用，形成产业集群转型升级的乘数效应；丰富服务商资源池，持续强化政策精准供给……江苏以“智改数转网联”为抓手，不断促进数字技术和实体经济深度融合，信息化和工业化融合发展水平实现提升。江苏不断推进“智改数转网联”，给工厂装“大脑”，让产线上“云端”，累计实施改造项目约5.6万个。

金台资讯 2024-12-27

科技释放绿色动能

在河南省周口市郸城县，河南金丹乳酸科技股份有限公司以其全产业链的生物降解新材料，为塑料污染问题提供解决方案。该公司董事长张鹏向记者介绍，将玉米粒加工成聚乳酸生物可降解材料，并将其改性制作成生活用品和医疗用品，最终降解为水和二氧化碳，形成生态循环，以“绿色循环”破解“白色污染”难题。

经济日报 2024-12-27

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2026 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1