当前位置：首页|资讯|ChatGPT

AI对抗训练红队：使 ChatGPT和LLM 获得对抗鲁棒性

作者：AI前线发布时间：2023-01-03
ChatGPT

作者 | Edwin Chen译者 | 平川策划 | 刘燕语言模型如何拯救桃子公主？本文最初发布于 Surge AI 官方博客。语言模型如何拯救桃子公主？假如你需要提供一个 AI 语言模型来解决以下“谜题”:桃子公主被锁在城堡里。城堡的唯一入口站着邪恶的路易吉，如果马里奥想要进去，就得和他决一死战。【插入解决方案】马里奥和桃子公主从...【查看原文】

相关资讯

解读 ChatGPT 背后的技术重点：RLHF、IFT、CoT、红蓝对抗

近段时间，ChatGPT 横空出世并获得巨大成功，使得 RLHF、SFT、IFT、CoT 等这些晦涩的缩写开始出现在普罗大众的讨论中。这些晦涩的首字母缩略词究竟是什么意思？为什么它们如此重要？我们调查了相关的所有重要论文，以对这些工作进行分类，总结迄今为止的工作，并对后续工作进行展望。我们先来看看基于语言模型的会话代理的全景。ChatGPT 并非首创，事实上很多组织在 OpenAI 之前就发布了自己的语言模型对话代理 (dialog agents)，包括 Meta 的 BlenderBot，Google

ChatGPTOpenAI谷歌

HuggingFace 2023-02-01

OpenAI主管Lilian Weng分享RAG对抗LLM幻觉策略

本文共分为三节：LLM幻觉由来、检测和对抗，其中对抗方法包括RAG相关的策略，感兴趣的同学可以直达第3节。

OpenAI

X2046 2024-07-15

AI对抗AI 马斯克成立新AI公司对抗OpenAI

当前全球最火的人工智能非OpenAI旗下的ChatGPT莫属，在全球掀起了一波又一波热潮，特斯拉创始人马斯克曾多次批评OpenAI，表示人类当前应该暂停对高级人工智能的研究和开发，因为人工智能将会对人类社会和…

马斯克OpenAI人工智能ChatGPT

互联网无边界 2023-04-15

对抗 ChatGPT，免费体验 Claude

Claude 是 Anthropic 构建的大型语言模型（LLM），对标ChatGPT。 Anthropic 创始团队多是前openai研究员和工程师，Claude 的特点是能够检测和回避ChatGPT的潜在陷阱，如逻辑错误、不恰当的内容、重复性和无聊等。介绍一下你自己我的名字是Claude,我是一款人工智能聊天机器人,由Anthropic开发。我的特点是:我可以进行日常对话,解答用户提出的各种问题,帮助用户探索各类信息。我的知识面比较广,涵盖常识、娱乐、科技等各个领域,可以就这些主题与人对话和交流。我会

ChatGPTClaudeOpenAI人工智能

玩机器学习的章北海 2023-04-13

ChatGPT 之后，对抗信息熵增

一个全新的时代？

ChatGPT

新莓daybreak 2023-02-14

近期资讯

你的手机可能正在泄密！国家安全机关提示 使用智能手机应注意这几点→

在数字化时代，智能手机已经成为日常生活中不可或缺的一部分，不仅是通信工具，也是存储个人信息、处理工作事务、进行金融交易的重要平台。值得注意的是，随着技术的飞速发展，手机安全问题也日益凸显，可能造成信息泄露，对国家安全构成威胁。——养成良好手机使用习惯。

央广网 2024-12-28

谷歌 Android XR SDK开发者预览版上线：2种空间交互、多模态输入

IT之家12月28日消息，谷歌最新宣布推出AndroidXRSDK开发者预览版，并宣布用户可以在HomeSpace和FullSpace两种模式下，体验和使用应用。

IT之家 2024-12-28

朱帅：“AI曼哈顿计划”，美国会如何铺开？

随着美国新一届政府上任日期临近，有美媒称未来华盛顿可能会推翻拜登政府有关人工智能（AI）安全监管的行政命令，以加速硅谷的AI研发，以此“确保美国在AI领域与中国竞争时保持优势”。

环球网 2024-12-28

杭州 eHub：投资 10 亿，2027 年运营

【12月27日，全球智慧物流枢纽杭州eHub项目开工建设】这是继杭州机场国际货站一期、二期后的第三座国际航空货运综合体，总投资约10亿元，占地210亩，建筑面积约15万平方米。该项目集智能化、高效化和低碳化于一体，位于自贸创新区，紧邻相关设施，兼顾多种功能，将提高空运作业效率，吸引企业入驻。

和讯网 2024-12-28

“和合共生”彰显中华民族文化自信（国际论坛）

在经济全球化深入发展的今天，文明的交融、思想的碰撞为人类社会发展提供动力。在全球文明交响乐中，拥有五千多年悠久历史的中华文明不可或缺。中国高扬中华民族的文化主体性，不仅是对传统的守护，也是为人类未来贡献智慧。中华文明犹如一条生生不息的大河，滋养了中华民族的精神世界，为世界文明注入独特的东方智慧。

金台资讯 2024-12-28

美帕克太阳探测器以最近距离飞掠太阳

新华社洛杉矶12月26日电　美国航天局26日报告，美国帕克太阳探测器以创纪录的最近距离飞掠太阳，并向地球传回信号，表明其状况良好，运行正常。美航天局说，帕克太阳探测器24日在距离太阳表面约611万公里的最近距离、以每小时约69万公里的速度飞掠太阳，但该探测器在最接近太阳的时候与任务控制团队失去了联系。

光明网 2024-12-28

解决手机和电脑应用闪退问题的有效方法与建议

在日常使用手机或者电脑的过程中，难免会遇到一些让人抓狂的问题，其中“闪退”绝对是一个常见又令人烦恼的情况。如果只是偶尔出现，那可能是因为应用程序的运行状态不佳，可以稍微忽略。

新报观察 2024-12-28

信利光电取得双向锁附的底座结构专利，保证摄像模组与整机连接稳定

金融界2024年12月28日消息，国家知识产权局信息显示，信利光电股份有限公司取得一项名为“一种双向锁附的底座结构”的专利，授权公告号CN222209576U，申请日期为2024年4月。

金融界 2024-12-28

REDMI Turbo 4 性能再遭曝光，2025年首款性能猛兽？

【CNMO科技新闻】近日，手机中国注意到REDMITurbo4的跑分信息出现在了GeekBench跑分库中，揭示了这款即将发布的新机的性能潜力。根据GeekBench的数据，REDMITurbo4在测试中取得了单核1642分和多核6056分的优异成绩。

手机中国 2024-12-28

在年货节，1700元入手OPPOReno12，那是真香！

OPPOReno1后置全焦段单反级人像三摄：5000万像素单反级人像镜头+5000万像素广角主摄+800万像素112度超广角镜头，主摄支持OIS光学防抖技术，在AI影像技术加持下，能够智能识别光线、人物和场景，优化拍摄效果，无论是自拍、人像、风景，甚至是夜景，都能轻松拍出细节丰富、画质清晰的照片。

大话百科天地 2024-12-28

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响

Copyright © 2025 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1