原标题：作证内容的准确性、可靠性与伦理问题仍存隐忧 生成式AI司法应用引争议

GenAI已悄然进入法庭。图片来源：物理学家组织网

　　今年5月11日，美国亚利桑那州高级法院的刑事量刑听证会上，出现了震撼人心的一幕：2021年一起案件中的遇害者克里斯·佩尔基，竟通过视频向法官作出了感人至深的陈述。这段视频并非佩尔基本人生前录制，而是其家人运用生成式人工智能（GenAI）技术，根据他生前的语音记录、影像资料“重塑”出的数字影像，让他得以“亲口”道出心声。最终，法官采纳了这段特殊证词，开创了AI生成内容作为法庭证据的司法先例。

　　事实上，这不是生成式AI技术首次涉足司法领域。据物理学家组织网6月19日报道，这项能够创造文本、图像、音频、视频等内容的AI技术，正悄然改变着法庭的运作方式：法官借助它厘清复杂案情，律师用它高效撰写法律文书，普通诉讼当事人也能通过它获得辩护支持。然而，这项技术犹如一柄双刃剑，在提升司法效率的同时，其准确性与公平性也受到质疑，它能否成为司法公正的助推器仍需观察。

　　GenAI或影响司法格局

　　美国西北大学普利兹克法学院丹尼尔·林纳教授指出，GenAI在美国司法体系中的应用广度已远超公众认知，佩尔基案就是最佳例证。

　　在这起标志性案件中，佩尔基的妹妹斯泰西·威尔斯借助GenAI技术，创造出了其数字代理人。当这个虚拟形象在法庭上动情地说出“我相信宽恕”时，主审法官不仅采纳了这份特殊的数字证言，更对其展现的人性光辉表示赞赏。

　　威尔斯坦言，GenAI强大的情感表现力，能让法官更真切地感受到当事人的情感世界。

　　自佩尔基案以来，GenAI在美国司法实践中的应用呈现指数级增长。美国缅因州执业律师斯蒂芬·施瓦茨评价道，在确保准确性的前提下，GenAI不仅是提升效率的利器，更是推动司法进步的重要力量。

　　林纳进一步阐释，GenAI有望让司法正义更触手可及。当下法律服务资源分配不均，GenAI有望让更多人更有效地在法庭上寻求正义。据悉，已有联邦法官在判决书中明确标注使用了ChatGPT辅助办案。

　　可靠性问题频亮红灯

　　尽管GenAI为法律界带来革新，但其可靠性问题也频频亮起红灯。这项技术正成为虚假判例、牵强论证甚至完全虚构法律依据的“始作俑者”。人们既见证着效率革命，也面临着如何平衡技术创新与司法伦理的新课题。

　　今年5月初，美国洛杉矶联邦法院对两家律所开出31100美元的罚单，原因令人啼笑皆非——他们提交的AI辅助起草的请愿书漏洞百出，被法官痛批为“集体性专业失守”。这并非孤例，2023年6月22日，纽约联邦法院同样对依赖ChatGPT编造虚假判例的律所处以5000美元罚款。

　　更令人担忧的是，普通民众也开始跳过专业律师，直接使用AI进行自我辩护，导致法庭上的法律错误层出不穷。

　　佩尔基案的数字代理人更是在Reddit、X等社交平台引发舆论海啸。卡内基梅隆大学商业伦理学教授德里克·莱本指出，这些GenAI生成的“遗言”，真能代表逝者的真实意愿吗？这究竟是司法创新，还是对亡者的二次伤害？

　　据美国全国公共广播电台报道，以加拿大滑铁卢大学毛拉·格罗斯曼教授为代表的法律专家们认为，虽然GenAI在法律系统的渗透势不可挡，但必须建立严格标准来确保其输出的准确性。当GenAI大幅降低诉讼门槛，本就超负荷运转的法院可能面临案件激增的窘境，司法系统需要未雨绸缪。

　　专业人士仍是“定海神针”

　　尽管GenAI带来效率革命与司法普惠的美好图景，但经验丰富的法律人才依然是不可替代的“司法守门人”。从文件起草到判例解读，法律实践的复杂性远超想象。事实核查、情理论证、价值权衡这些人类独有的专业智慧，始终是司法公正的核心支柱。

　　林纳认为法官群体必须与技术共进，但绝不能沦为AI的提线木偶。确实，当GenAI能够提供更全面的法律分析时，司法判决的稳定性和准确性将获得提升，但这永远离不开人类法官的最终裁量。

　　施瓦茨也警告，AI会“无中生有”的故事在业界广为流传。他建议同行必须对AI提供的每个案例进行“三重验证”：查来源、核内容、辨逻辑，只有经过严格的检查，才能确保GenAI辅助的可靠性。

　　这场人机协作的司法变革必须守住一个铁律：GenAI的分析建议可作为“导航仪”，但法律人士才是“掌舵者”。唯有如此，才能在提升司法效率的同时，让公平正义的天平始终不偏不倚。（记者 刘霞）