财联社 6 月 23 日讯（编辑 牛占林）像 ChatGPT 这样的生成式人工智能可以极大地提升人类的办公效率，但其 " 胡编乱造 " 的能力也不容忽视。若平常使用时出现错误，可能仅仅只是一个笑话，如 " 林黛玉倒拔垂杨柳、刘姥姥醉打蒋门神 "，但若在关键领域或时刻出错，那结果可能就是灾难性的。

当地时间周四，美国纽约联邦法官做出判决，Levidow, Levidow&Oberman 律师事务所引用了 ChatGPT 撰写的一份由虚假案例引证的法庭简报，行为恶劣，对其处以罚款 5000 美元。

法官卡斯特 ( P. Kevin Castel ) 指出，该律师事务所的两名律师有意识地避免表明这些引文是虚假的，并 " 向法庭做出误导性陈述 "。

(资料图片仅供参考)

Levidow, Levidow&Oberman 随后回应称，其律师 " 谦恭的 " 不同意恶意误导方面的判决。" 我们犯了一个善意的错误，没想到 ChatGPT 居然可以凭空捏造。"

凭空捏造

在 3 月份，律师彼得 · 洛杜卡 ( Peter LoDuca ) 和史蒂文 · 施瓦茨 ( Steven Schwartz ) 代表其客户罗伯托 · 马塔 ( Roberto Mata ) 起诉阿维安卡航空公司，提交了一份人工智能撰写的法律文书。

据悉，引用的虚假案例包括 "Varghese 诉中国南方航空公司 "、" 马丁内斯诉达美航空公司 " 和 " 米勒诉联合航空公司 " 等。但经过仔细查证之后，却根本找不到这些判决案例。

在事实面前，到了 5 月底，律师施瓦茨不得不承认，他使用了 ChatGPT 来 " 补充 " 他对该案件的研究。施瓦茨表示，他没有意识到 ChatGPT 的内容有可能是虚假的。

卡斯特指出，两位律师 " 放弃了自己应尽的责任 "，且在提出对文书的质疑之后，两人 " 继续坚持虚假意见 "。

卡斯特责令洛杜卡和施瓦茨以及他们的律师事务所 Levidow, Levidow & Oberman 分别支付 5000 美元的罚款，并且他们必须自己将判决结果通知那些认为伪造了案例的法官。

法官卡斯特在曼哈顿联邦地方法院的判决书中写道：" 法院不会要求他们道歉，因为强迫的道歉不是真诚的道歉。任何道歉的决定都由当事人决定。"

使用人工智能没有不妥

周四当天，法官在另一项命令中批准了阿维安卡航空公司驳回诉讼的动议。原告马塔声称，在 2019 年 8 月，从萨尔瓦多飞往纽约的航班上他的膝盖被一个金属托盘撞到，因而严重受伤。

卡斯特认为，马塔的诉讼是在《蒙特利尔公约》规定的两年诉讼窗口期满后提起的，该窗口允许与国际航空旅行相关的法律索赔。

卡斯特表示，如果律师们 " 坦白 " 使用了人工智能撰写法律文书，可能就不会受到惩罚。

但在对文书提出质疑后，两位律师仍然极力辩护，对文书及其内容做出了虚假和误导性的陈述，表现出了 " 恶意 "。

判决书中提到：" 在研究和起草法庭文书时，优秀的律师会适当地从初级律师、法学院学生、合同律师、法律百科全书、Westlaw 和 LexisNexis 等数据库中获得帮助。"

卡斯特还写道：" 技术进步是司空见惯的，使用可靠的人工智能工具提供帮助并没有本质上的不妥。但现有规则对律师施加了把关作用，以确保他们提交的文书的准确性。"

关键词：