您的位置:首页>栏目首页 > 展会 >

世界报道:AI有风险 使用需谨慎!美国律师因引用ChatGPT虚假案例受到处罚

2023-06-23 16:35:04    来源:科创板日报

财联社6月23日讯(编辑 牛占林)像ChatGPT这样的生成式人工智能可以极大地提升人类的办公效率,但其“胡编乱造”的能力也不容忽视。若平常使用时出现错误,可能仅仅只是一个笑话,如“林黛玉倒拔垂杨柳、刘姥姥醉打蒋门神“,但若在关键领域或时刻出错,那结果可能就是灾难性的。

当地时间周四,美国纽约联邦法官做出判决,Levidow, Levidow&Oberman律师事务所引用了ChatGPT撰写的一份由虚假案例引证的法庭简报,行为恶劣,对其处以罚款5000美元。

(注:判决文书)

法官卡斯特(P. Kevin Castel)指出,该律师事务所的两名律师有意识地避免表明这些引文是虚假的,并“向法庭做出误导性陈述”。


(资料图)

Levidow, Levidow&Oberman随后回应称,其律师“谦恭的”不同意恶意误导方面的判决。“我们犯了一个善意的错误,没想到ChatGPT居然可以凭空捏造。”

凭空捏造

在3月份,律师彼得·洛杜卡(Peter LoDuca)和史蒂文·施瓦茨(Steven Schwartz)代表其客户罗伯托·马塔(Roberto Mata)起诉阿维安卡航空公司,提交了一份人工智能撰写的法律文书。

据悉,引用的虚假案例包括 "Varghese诉中国南方航空公司"、"马丁内斯诉达美航空公司 "和 "米勒诉联合航空公司"等。但经过仔细查证之后,却根本找不到这些判决案例。

在事实面前,到了5月底,律师施瓦茨不得不承认,他使用了ChatGPT来"补充 "他对该案件的研究。施瓦茨表示,他没有意识到ChatGPT的内容有可能是虚假的。

卡斯特指出,两位律师“放弃了自己应尽的责任”,且在提出对文书的质疑之后,两人“继续坚持虚假意见”。

卡斯特责令洛杜卡和施瓦茨以及他们的律师事务所Levidow, Levidow & Oberman分别支付5000美元的罚款,并且他们必须自己将判决结果通知那些认为伪造了案例的法官。

法官卡斯特在曼哈顿联邦地方法院的判决书中写道:“法院不会要求他们道歉,因为强迫的道歉不是真诚的道歉。任何道歉的决定都由当事人决定。”

使用人工智能没有不妥

周四当天,法官在另一项命令中批准了阿维安卡航空公司驳回诉讼的动议。原告马塔声称,在2019年8月,从萨尔瓦多飞往纽约的航班上他的膝盖被一个金属托盘撞到,因而严重受伤。

卡斯特认为,马塔的诉讼是在《蒙特利尔公约》规定的两年诉讼窗口期满后提起的,该窗口允许与国际航空旅行相关的法律索赔。

卡斯特表示,如果律师们“坦白”使用了人工智能撰写法律文书,可能就不会受到惩罚。

但在对文书提出质疑后,两位律师仍然极力辩护,对文书及其内容做出了虚假和误导性的陈述,表现出了“恶意”。

判决书中提到:“在研究和起草法庭文书时,优秀的律师会适当地从初级律师、法学院学生、合同律师、法律百科全书、Westlaw和LexisNexis等数据库中获得帮助。”

卡斯特还写道:“技术进步是司空见惯的,使用可靠的人工智能工具提供帮助并没有本质上的不妥。但现有规则对律师施加了把关作用,以确保他们提交的文书的准确性。”

关键词:

相关阅读