当前位置：首页|资讯|ChatGPT

AI对抗训练红队：使 ChatGPT和LLM 获得对抗鲁棒性

作者：AI前线发布时间：2023-01-03
ChatGPT

作者 | Edwin Chen译者 | 平川策划 | 刘燕语言模型如何拯救桃子公主？本文最初发布于 Surge AI 官方博客。语言模型如何拯救桃子公主？假如你需要提供一个 AI 语言模型来解决以下“谜题”:桃子公主被锁在城堡里。城堡的唯一入口站着邪恶的路易吉，如果马里奥想要进去，就得和他决一死战。【插入解决方案】马里奥和桃子公主从...【查看原文】

相关资讯

解读 ChatGPT 背后的技术重点：RLHF、IFT、CoT、红蓝对抗

近段时间，ChatGPT 横空出世并获得巨大成功，使得 RLHF、SFT、IFT、CoT 等这些晦涩的缩写开始出现在普罗大众的讨论中。这些晦涩的首字母缩略词究竟是什么意思？为什么它们如此重要？我们调查了相关的所有重要论文，以对这些工作进行分类，总结迄今为止的工作，并对后续工作进行展望。我们先来看看基于语言模型的会话代理的全景。ChatGPT 并非首创，事实上很多组织在 OpenAI 之前就发布了自己的语言模型对话代理 (dialog agents)，包括 Meta 的 BlenderBot，Google

ChatGPTOpenAI谷歌

HuggingFace 2023-02-01

OpenAI主管Lilian Weng分享RAG对抗LLM幻觉策略

本文共分为三节：LLM幻觉由来、检测和对抗，其中对抗方法包括RAG相关的策略，感兴趣的同学可以直达第3节。

OpenAI

X2046 2024-07-15

AI对抗AI 马斯克成立新AI公司对抗OpenAI

当前全球最火的人工智能非OpenAI旗下的ChatGPT莫属，在全球掀起了一波又一波热潮，特斯拉创始人马斯克曾多次批评OpenAI，表示人类当前应该暂停对高级人工智能的研究和开发，因为人工智能将会对人类社会和…

马斯克OpenAI人工智能ChatGPT

互联网无边界 2023-04-15

对抗 ChatGPT，免费体验 Claude

Claude 是 Anthropic 构建的大型语言模型（LLM），对标ChatGPT。 Anthropic 创始团队多是前openai研究员和工程师，Claude 的特点是能够检测和回避ChatGPT的潜在陷阱，如逻辑错误、不恰当的内容、重复性和无聊等。介绍一下你自己我的名字是Claude,我是一款人工智能聊天机器人,由Anthropic开发。我的特点是:我可以进行日常对话,解答用户提出的各种问题,帮助用户探索各类信息。我的知识面比较广,涵盖常识、娱乐、科技等各个领域,可以就这些主题与人对话和交流。我会

ChatGPTClaudeOpenAI人工智能

玩机器学习的章北海 2023-04-13

ChatGPT 之后，对抗信息熵增

一个全新的时代？

ChatGPT

新莓daybreak 2023-02-14

近期资讯

曝三星S24 Ultra/Z Fold6将支持卫星消息 正beta测试中

【CNMO科技消息】据外媒报道，美国T-Mobile付费用户中的一些GalaxyS24+、S24Ultra和ZFold6用户发现，他们的手机上出现了“卫星网络”选项。该服务利用Starlink技术和低地球轨道卫星，旨在让手机信号覆盖全球每个角落。

手机中国 2024-12-27

腾讯与迈瑞医疗发布全球首个重症医疗大模型

发布全球首个重症医疗大模型“启元重症大模型”。作为一款具有“重症思维”的“AI队友”，启元能高效处理病情数据，接管文书工作，让医生专注于治病救人。

华尔街见闻 2024-12-27

新型电力系统构网型智能装备行业市场现状及发展前景分析

新型电力系统构网型智能装备行业发展情况1、新型电力系统智能装备定义新型电力系统智能装备指的是基于人工智能、物联网、大数据等技术的电力设备，可以实现智能化监控、预测、诊断、维护等功能，提高电力系统的可靠性、安全性和效率。

智研瞻 2024-12-27

腾讯和迈瑞医疗合作搭建全球首个重症医疗大模型

和迈瑞医疗合作搭建了全球首个重症医疗大模型——启元重症大模型。启元大模型可以读取患者的生命体征数据，建立患者的数字画像。只需要5秒，就可以总结患者的病情。

每日经济新闻 2024-12-27

松下大海豹2.0冰箱515升：补贴1598元，高端家电的性价比之选

#年货节好物集市#松下冰箱在高端市场中以其卓越的性能、节能环保技术和智能化解决方案而著称。特别是在法式多门冰箱领域，松下大海豹2.0冰箱515升以其自动制冰、一级能效和超薄零嵌入式设计，成为现代家庭的理想选择。此外，该冰箱采用先进的冷藏技术，能够保持食物的新鲜度和营养价值更长时间，并具有快速冷冻功能。

小米地瓜 2024-12-27

把RLHF带给VLA模型！通过偏好对齐来优化机器人策略，代码已开源

过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。方法部分为了解决这一问题，我们提出了GRAPE，一种即插即用的算法，通过偏好对齐提升机器人策略的泛化能力，并支持将VLA模型对齐到任意设定的目标。

机器之心Pro 2024-12-27

任天堂Switch2实机照曝光：升级磁吸接点

外网博主@NextHandheld分享了一张据称为任天堂新主机的照片，并称之为“今年保守得最好的秘密”。尽管有网友对照片的真实性提出质疑，认为这可能是通过AI生成的图像，但照片中的设备与先前多个爆料信息相吻合，使得这一曝光的可信度较高。从曝光的照片来看，这款手持设备的外形尺寸与现有的Switch相似。

中关村在线 2024-12-27

ASML CEO：美国禁售EUV光刻机后，中国芯片技术落后10-15年

众所周知，目前全球大规模制造芯片的技术，还是光刻技术。而中国的芯片厂，一直想买EUV光刻机，但美国一直不准ASML卖给中国，中国能够买到的，只有浸润式DUV，后来更是连先进的浸润式DUV销售，都需要许可证了……这对于中国芯片产业的发展，特别是进入先进工艺，造成了巨大影响。

科技plus 2024-12-27

终极预测：未来十年，谁将主宰科技巅峰？

作为新的技术增量，AI不仅推动了平台与产品的创新，也带来了创业环境和定义的变革。此外，大会现场还发布了2024年度「InnoForce50」和2024年度极客最爱好物，旨在发现在过去一年中，在人工智能及其交叉领域取得创新突破的产品、技术、组织、项目和个人开发者，进一步推动行业内的创新风潮。但他强调，行业的发展不应单纯依赖价格战。

DeepTech深科技 2024-12-27

“宠己”成支付宝年度关键词：百万人花式攒钱、千万人提前备老、超1亿人用AI办事

12月27日上午消息，支付宝26日发布2024年度关键词“宠己”，相关数据显示，百万00后边看爽文边攒钱、千万人看视频提前“备老”、超1亿人使唤AI办事。《黑神话》发售后，带动支付宝上的PS5租赁量环比上涨50%；延迟退休办法发布后，3000万人涌入支付宝看养老金攻略。

和讯网 2024-12-27

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1