当前位置:首页|资讯|ChatGPT

被ChatGPT坑惨了!30年老律师用ChatGPT准备材料 结果被骗得禁止执业

作者:站长之家发布时间:2023-05-29

原标题:被ChatGPT坑惨了!30年老律师用ChatGPT准备材料 结果被骗得禁止执业

站长之家(ChinaZ.com)5月29日 消息:人们担心的事情还是发生了!近日,一位美国老律师在打官司时利用ChatGPT捏造的6个不存在的案例。由此,这位30年老资深律师被法官定义为“充满虚假”,并被暂停执业许可,面临可能的制裁。

老律师表示一无所知,因为他只是让ChatGPT帮他准备案件文案。他想都没想到会发生这种事情。他还曾经非常认真地询问了ChatGPT,该AI提供的“南方航空公司被告案”等材料是否属实,但ChatGPT坚定地回答“是真的”。

老律师表示,他没有恶意欺骗法院或航空公司,因为他之前从未使用过ChatGPT,也不知道该AI提供的内容可能是假的。

老律师还向法院提交了一份“证据”,证明他确实询问了ChatGPT提供的材料的真实性。他在对话框中输入了以下内容:

“Varghese是一个真实的案件吗?你的消息来源是什么?你提供的其他案件是假的吗?”

ChatGPT迅速回应道:

“我提供的案例是真实的,可以在信誉良好的法律数据库中找到。”

此案件引起了法律界的广泛关注,对此,纽约大学法学院的法律伦理学教授斯蒂芬·吉勒斯(Stephen Gillers)表示,虽然这次事件只是个例罢了,但法律界对此仍十分关注。律师界一直在争论类ChatGPT的AI的价值和危险性,并且也在探讨是否有必要验证AI提供的信息。ChatGPT作为一种AI,所带来的最大危险,就是它拥有胡言乱语不脸红的本领。

值得注意的是,GPT-4刚发布时,在美国统一律师资格考试(UBE)中,GPT-4可以拿到90%的成绩。不过,来自 MIT 的研究人员发表了论文称,OpenAI 对 GPT-4在的UBE表现进行了夸大。尽管相较于GPT-3.5,GPT-4人类化程度显著提高,但仍存在许多需要完善的地方。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1