AI有风险使用需谨慎！美国律师因引用ChatGPT虚假案例受到处罚
像ChatGPT这样的生成式人工智能可以极大地提升人类的办公效率，但其“胡编乱造”的能力也不容忽视。若平常使用时出现错误，可能仅仅只是一个笑话，如“林黛玉倒拔垂杨柳、刘姥姥醉打蒋门神“，但若在关键领域或时刻出错，那结果可能就是灾难性的。
当地时间周四，美国纽约联邦法官做出判决，Levidow， Levidow&；amp；amp；Oberman律师事务所引用了ChatGPT撰写的一份由虚假案例引证的法庭简报，行为恶劣，对其处以罚款5000美元。
（注：判决文书）
法官卡斯特（P． Kevin Castel）指出，该律师事务所的两名律师有意识地避免表明这些引文是虚假的，并“向法庭做出误导性陈述”。
Levidow， Levidow&；amp；amp；Oberman随后回应称，其律师“谦恭的”不同意恶意误导方面的判决。“我们犯了一个善意的错误，没想到ChatGPT居然可以凭空捏造。”
凭空捏造
在3月份，律师彼得·洛杜卡（Peter LoDuca）和史蒂文·施瓦茨（Steven Schwartz）代表其客户罗伯托·马塔（Roberto Mata）起诉阿维安卡航空公司，提交了一份人工智能撰写的法律文书。
据悉，引用的虚假案例包括 “Varghese诉中国南方航空公司”、“马丁内斯诉达美航空公司 ”和 “米勒诉联合航空公司”等。但经过仔细查证之后，却根本找不到这些判决案例。
在事实面前，到了5月底，律师施瓦茨不得不承认，他使用了ChatGPT来“补充 ”他对该案件的研究。施瓦茨表示，他没有意识到ChatGPT的内容有可能是虚假的。
卡斯特指出，两位律师“放弃了自己应尽的责任”，且在提出对文书的质疑之后，两人“继续坚持虚假意见”。
卡斯特责令洛杜卡和施瓦茨以及他们的律师事务所Levidow， Levidow &；amp；amp； Oberman分别支付5000美元的罚款，并且他们必须自己将判决结果通知那些认为伪造了案例的法官。
法官卡斯特在曼哈顿联邦地方法院的判决书中写道：“法院不会要求他们道歉，因为强迫的道歉不是真诚的道歉。任何道歉的决定都由当事人决定。”
使用人工智能没有不妥
周四当天，法官在另一项命令中批准了阿维安卡航空公司驳回诉讼的动议。原告马塔声称，在2019年8月，从萨尔瓦多飞往纽约的航班上他的膝盖被一个金属托盘撞到，因而严重受伤。
卡斯特认为，马塔的诉讼是在《蒙特利尔公约》规定的两年诉讼窗口期满后提起的，该窗口允许与国际航空旅行相关的法律索赔。
卡斯特表示，如果律师们“坦白”使用了人工智能撰写法律文书，可能就不会受到惩罚。
但在对文书提出质疑后，两位律师仍然极力辩护，对文书及其内容做出了虚假和误导性的陈述，表现出了“恶意”。
判决书中提到：“在研究和起草法庭文书时，优秀的律师会适当地从初级律师、法学院学生、合同律师、法律百科全书、Westlaw和LexisNexis等数据库中获得帮助。”
卡斯特还写道：“技术进步是司空见惯的，使用可靠的人工智能工具提供帮助并没有本质上的不妥。但现有规则对律师施加了把关作用，以确保他们提交的文书的准确性。”
来源：财联社