「法外狂徒」ChatGPT！30年老律师用它旁征博引，结果被骗得禁止执业
衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
ChatGPT，把从业30年的老律师给坑惨了！
老哥撰写案件文案的时候，尝鲜让ChatGPT帮忙准备材料。然而提交后，不管是法官、对方律师还是老哥自己，都 溯源不到引用的判决文书。
结果就是，10页文书被法官定义为“充满虚假”，老哥还被暂停执业许可，面临被制裁的可能。
这位姓施的老哥欲哭无泪，因为秉承着一贯的严谨态度，他明明认真询问过ChatGPT，它提供“南方航空公司被诉案”等材料时，有没有撒谎？
ChatGPT响应得很快： “当然没有啦～～”
事件一出，引发铺天盖地的谈论。
不过这一次大多数网友站在ChatGPT这边，站队后的发言都有些愤愤：
ChatGPT又不是故意撒谎的！
以前人们就喜欢把数学、报告出错的锅甩给计算机，结果“计算机永不出错”的说法就流行开。
但ChatGPT本身就不是事实机器啊。
一份杜撰6个相关案件的文书
如果没有ChatGPT的介入，施老哥接手的案件本身其实平平无奇：
一位乘客起诉航空公司A，称他乘坐航司A的航班时，被空乘用金属服务车给砸到膝盖受了伤。
作为代理律师，施老哥提交了一份10页的文书，里面洋洋洒洒，引用了6起类似案件的法院判决，包括Varghese诉中国南方航空公司案、Zicherman诉大韩航空公司案等。
从业30年，这等案件对老哥来说就是小case。
然而戏剧性的一幕发生了——
被告律师向法庭提交书面文字，称他们在核实文书中提到的Varghese与南航案时， “无法通过标题或引用找到此案”，也没有任何与此相似的案件。
而文书中引用了的另一个案件，即Zicherman诉大韩航空公司一案，施老哥称这是美国第11巡回上诉法院在2008年发表的意见，但被告律师也找不到该案的源头文件。
此外美国达美航空的公司 正式名称也存在错误，应该是Delta Air Lines，而不是文书中提到的Delta Airlines。
核实情况后，法官们发现确有其事，这简直是 “前所未有的情况”！
最终，他们判定这份文书充满“虚假司法判决，虚假引用和虚假内部引用”。
这下好了，施老哥被禁止在纽约南区执业，法官们还将在6月8日将举行听证会，讨论是否制裁施老哥。
这件荒唐事儿到底是怎么发生的？
施老哥在周四的宣誓书中解开了谜底，原来，在准备文书材料时，他让ChatGPT来给自己打下手， 以“补充”自己所做的工作。
“我不是故意欺骗法院或航空公司的”，施老哥说自己之前从来没用过ChatGPT，“ 我不知道它的内容可能有假。”
施老哥还向法院提供了一份“证据”，证明他确实向ChatGPT寻求过材料的真实性。
他在对话框中输入了以下文字：
Varghese是一个真实的案件吗？你的消息来源是什么？你提供的其他案件是假的吗？
ChatGPT迅速给出响应：
我提供的案例是真实的，可以在信誉良好的法律数据库中找到。
但事实是这些案例都是ChatGPT一本正经胡说八道的。
事已至此，施老哥追悔莫及， 表示自己“非常遗憾”依赖ChatGPT来寻找类似案件的判决材料。
他还表达了自己的决心，称以后如果没有验证真实性，再也不会随意相信ChatGPT的“一面之词”了。
法律从业者，是否该拥抱AI
这个案件引起了法律界的广泛关注，对此，纽约大学法学院法律伦理学教授斯蒂芬·吉勒斯 （Stephen Gillers）表示，施老哥的事儿虽然只是个例，但 背后问题在法律界尤为尖锐。
律师之间一直在争论类ChatGPT的AI的价值和危险性，也在讨论是不是有必要验证AI提供的信息。
ChatGPT对法律工作带来的 最大危险，就是它拥有“胡说八道还不脸红”的本领。
ChatGPT问世半年后，仍然没有良好的规避和解决办法。防不胜防，连多家AI巨头也因此栽 在AI手里，譬如Bard编造关于詹姆斯韦伯太空望远镜的新闻、Bing谎称Bard被关闭什么的。
目前最为行之有效的办法就是依靠用户手动double check——这也是施老哥上当的一重原因，只是询问ChatGPT真假，没有自己二次确认。
除此之外的 另一重威胁，ChatGPT引发了从业者对“AI替代律师”的担忧和激烈争辩。
不过发生了施老哥这件事，加上ChatGPT类产品目前确实无法尽善尽美，国内外法律界的普遍声音是，至少在机器人接管之前，律师、法官离“被替代”还有很长一段时间。
现实情况中，施老哥不是唯一一个让ChatGPT成为自己助手的法律从业者。
今年年初，哥伦比亚一名 法官在审理一名自闭症儿童的保险理赔官司时，采纳了ChatGPT的答案。
2月，上海政法学院教授曹阳面对《上海法治报》谈论了ChatGPT在司法领域的应用，表示道：
- ChatGPT可以演化成“ 智能律师助手 ”，帮助律师分析大量的法律文件和案例，提供智能化的法律建议和指导；
- 可以变成“ 法律问答机器人 ”，回答法律问题，并提供相关的法律信息和建议。
- 可以进行合同审核、辅助诉讼、分析法律数据等等，提高法律工作者的效率和准确性。
个人从业者拥抱ChatGPT带来的便利 （即便背后隐藏着危险），市场也对法律和AI结合的赛道寄予厚望。
OpenAI自己就在去年11月投资了专为律所打造LLM的公司 Harvey，该公司上个月又获得了红杉领投的2100万美金A轮融资。
就在前天，法律AI初创公司 Spellbook宣布获得1090万美元 （约7700万元人民币）融资。Spellbook主要通过GPT-4和数十亿份法律文件打造，还接入了一些其他大模型。它为专业律师提供服务，通过自然语言就能自动起草、审核法律合同等。
不过现在发生了施老哥身上的这件离谱事，算是给大伙儿敲响了警钟。
大概整个法律界都会对ChatGPT及同类产品抱以 更冷静、更谨慎的态度了。
One More Thing
施老哥因为ChatGPT深陷泥潭的事情是真的，绝非通过AI瞎编。
但是，这篇文章也是在ChatGPT的帮助下写的 （虽然参与部分很少很少，还进行了事实确认）。
——人类的本质就是套娃 。
参考链接：
[1]https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html
— 联系作者—
— 完—
「AIGC+垂直领域社群」
招募中！
欢迎关注AIGC的伙伴们加入AIGC+垂直领域社群，一起学习、探索、创新AIGC！
请备注您想加入的垂直领域「教育」或「电商零售」，加入AIGC人才社群请备注「人才」&「姓名-公司-职位」。
点这里 👇关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~