当前位置：首页|资讯|ChatGPT

AI对抗训练红队：使 ChatGPT和LLM 获得对抗鲁棒性

作者：AI前线发布时间：2023-01-03
ChatGPT

作者 | Edwin Chen译者 | 平川策划 | 刘燕语言模型如何拯救桃子公主？本文最初发布于 Surge AI 官方博客。语言模型如何拯救桃子公主？假如你需要提供一个 AI 语言模型来解决以下“谜题”:桃子公主被锁在城堡里。城堡的唯一入口站着邪恶的路易吉，如果马里奥想要进去，就得和他决一死战。【插入解决方案】马里奥和桃子公主从...【查看原文】

相关资讯

解读 ChatGPT 背后的技术重点：RLHF、IFT、CoT、红蓝对抗

近段时间，ChatGPT 横空出世并获得巨大成功，使得 RLHF、SFT、IFT、CoT 等这些晦涩的缩写开始出现在普罗大众的讨论中。这些晦涩的首字母缩略词究竟是什么意思？为什么它们如此重要？我们调查了相关的所有重要论文，以对这些工作进行分类，总结迄今为止的工作，并对后续工作进行展望。我们先来看看基于语言模型的会话代理的全景。ChatGPT 并非首创，事实上很多组织在 OpenAI 之前就发布了自己的语言模型对话代理 (dialog agents)，包括 Meta 的 BlenderBot，Google

ChatGPTOpenAI谷歌

HuggingFace 2023-02-01

OpenAI主管Lilian Weng分享RAG对抗LLM幻觉策略

本文共分为三节：LLM幻觉由来、检测和对抗，其中对抗方法包括RAG相关的策略，感兴趣的同学可以直达第3节。

OpenAI

X2046 2024-07-15

AI对抗AI 马斯克成立新AI公司对抗OpenAI

当前全球最火的人工智能非OpenAI旗下的ChatGPT莫属，在全球掀起了一波又一波热潮，特斯拉创始人马斯克曾多次批评OpenAI，表示人类当前应该暂停对高级人工智能的研究和开发，因为人工智能将会对人类社会和…

马斯克OpenAI人工智能ChatGPT

互联网无边界 2023-04-15

对抗 ChatGPT，免费体验 Claude

Claude 是 Anthropic 构建的大型语言模型（LLM），对标ChatGPT。 Anthropic 创始团队多是前openai研究员和工程师，Claude 的特点是能够检测和回避ChatGPT的潜在陷阱，如逻辑错误、不恰当的内容、重复性和无聊等。介绍一下你自己我的名字是Claude,我是一款人工智能聊天机器人,由Anthropic开发。我的特点是:我可以进行日常对话,解答用户提出的各种问题,帮助用户探索各类信息。我的知识面比较广,涵盖常识、娱乐、科技等各个领域,可以就这些主题与人对话和交流。我会

ChatGPTClaudeOpenAI人工智能

玩机器学习的章北海 2023-04-13

ChatGPT 之后，对抗信息熵增

一个全新的时代？

ChatGPT

新莓daybreak 2023-02-14

近期资讯

AI时代 关注员工开不开心很重要

2010年诺贝尔经济学奖得主克里斯托弗·皮萨里德斯。我们不应该去问，在遍布人工智能的世界里工作机会从哪里来，而应该问自己，需要什么样的技能，才能够在人工智能时代拥有立足之地。”“我们需要工作，才能够产生创造力，但是如果工作让人不开心、不快乐，甚至患上抑郁症和心理疾病，这样的代价是否值得呢？”

封面新闻 2024-12-30

雷军：小米SU7不只扛住了百万网友的严选 在三大方面行业领先

快科技12月30日消息，雷军晒出了小米SU7的评测成绩单，在安全、续航、智驾等方面行业领先。他表示，一份耕耘，一份收获。小米SU7扛住了百万网友的严选，也扛住权威评测机构和媒体的测试！

快科技 2024-12-30

曝天玑9500最高频率仅4GHz 还不敌骁龙8至尊版

【CNMO科技消息】近日，高通在针对骁龙8Elite芯片的公开测试中透露，其开发自家Oryon核心的动机，源于ARM的CPU设计逐渐落后于竞争对手。根据透露的信息，骁龙8Elite的Oryon性能核心在默认频率下运行至4.32GHz，这一速度相较于其他同类产品展现出明显优势。

手机中国 2024-12-30

全球最大！深地液氮低温实验平台开始调试运行

快科技12月30日消息，据报道，在中国锦屏地下实验室二期C1厅内，随着锦屏大设施大型液氮低温屏蔽装置迎来了第一立方米液氮。其中，大型液氮低温屏蔽装置和常温纯净水屏蔽装置，在约2400米深的岩石覆盖下拔地而起，辅以多套组合式固体辐射屏蔽装置，共同构建了一个既能承载大型前沿物理实验，又能支持小型原理验证实验的极低辐射本底屏蔽平台。

驱动之家 2024-12-30

六年攻关破解世界性难题

动态真三轴电磁霍普金森杆试验测试系统。】（首席记者吴吉）经过6年的科研攻关，在广东省珠江团队《工程扰动岩石动力学理论和技术》项目支持下，深圳大学谢和平院士团队成功研制出了具有完全自主知识产权的全球首套“动态真三轴电磁霍普金森杆试验测试系统”。

深圳商报 2024-12-30

推动科技成果从实验室走向生产线（改革一线·怀川亮点）

员刘阳华）“中内凯思自主研发的摩擦副组件，在基地进入中试阶段后，经过1个多月试运行，验证了产品具备高热效率和低排放等特点，满足以甲醇、氢气、天然气为燃料的机型应用工况和性能要求，圆满完成了中试标定任务。”中试基地是科技成果从实验室走向生产线的重要平台。

河南日报 2024-12-30

无锡经开区：厚植创新沃土 积蓄发展澎湃动能

作为无锡“一城双核”中的“创新核”，经开区坚定实施产业强区和创新驱动发展战略，坚决落实“能快则快、勇挑大梁”的要求，以最好状态、最大努力做好年底“收官”、明年“起步”，力争为全市发展大局多作贡献。

新华日报 2024-12-30

提升科学素质 赋能共同发展（创新谈）

推动扩大世界公众科学素质组织规模，分享提升科普服务水平的经验，研讨应对新一代技术给科普带来的挑战……前不久在北京召开的2024世界公众科学素质促进大会上，一项项务实倡议、一场场思想碰撞，道出了国际科技界期盼提升科学素质、赋能共同发展的心声。

金台资讯 2024-12-30

国产阻燃材料突围记：北工商科研团队深耕二十载从“追跑”迈向“领跑”

钱立军（右）教授正在实验室指导团队成员做实验。国外企业“嗅”到了中国溴化环氧树脂阻燃剂市场的变化，立即将产品售价由每吨4万元降价到每吨2.8万元，降价幅度高达30%。

中国青年网 2024-12-30

沈阳：“5G+工业互联网”转型正当时 2024新突破

【辽宁沈阳传统制造企业借“5G+工业互联网”焕发新生】在辽宁沈阳，一批传统制造企业因“5G+工业互联网”赋能发生巨大变化。

和讯网 2024-12-30

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1