2024年9月23日，新加坡最高法院、家事法庭、州法院同时发布了《法院用户使用生成人工智能工具指南》，该指南将于2024年10月1日起适用于最高法院、州法院（包括小额索赔法庭、就业索赔法庭和社区纠纷解决法庭）以及家事法庭的所有事务。

总体原则是法院对生成式AI持中立态度，不禁止诉讼参与人（包括法官、检察官等）使用生成式人工智能工具。同时提示了相关工具的局限性，提醒诉讼参与人即使使用生成式AI产品之后，发表意见、举证等责任后果还是由本人承担，而且在法庭发现有使用不当情况下，可以对相关使用者进行惩戒，包括且不限于支付费用、诉讼主张或者证据不被采纳、纪律处分（针对律师）以及其他相应处分。其中，该指南列举的生成式AI的相关原理及在法律领域的适用要求非常清晰、简洁，建议广大法律工作者学习掌握。

该文件是首个国家层面司法机关公开发文对生成式AI在司法领域的应用进行指导。与2023年英国发布的《司法人员使用人工智能指南》相比，新加坡版指南不仅适用于司法人员，还适用于全部诉讼参与人，可以视为应对生成式AI、对生成式AI参与诉讼行为效力、后果等进行规制的首个司法解释。

以下是翻译全文，文末点击获取英文原文pdf文件：

新加坡共和国最高法院  注册官通知第1号/2024年

法院用户使用生成式人工智能工具指南

1.法院用户使用生成式人工智能工具指南（以下简称“指南”）概述了在法庭程序中使用生成式人工智能工具的一般原则和指导。

2. 本指南自2024年10月1日起适用于最高法院的所有事务。

2024年9月23日

陈文兴

最高法院注册官

法院用户使用生成式人工智能工具指南

1. 适用范围

本“法院用户使用生成式人工智能工具指南”（本“指南”）自2024年10月1日起适用于最高法院、州法院（包括小额索赔法庭、就业索赔法庭和社区纠纷解决法庭）以及家事法庭的所有事务。

2. 定义

在本指南中，将使用以下定义：

(a) “人工智能”或“AI”指的是能够执行需要“智能”的任务的技术。这些任务包括推理、问题解决、学习和规划。为避免疑问，不包括仅纠正拼写或语法而不基于提示生成内容的技术。

(b) “法院”指的是最高法院、州法院（包括小额索赔法庭、就业索赔法庭和社区纠纷解决法庭）以及家庭司法法庭。

(c) “法院用户”指的是任何参与法院案件的人，包括检察官、律师、自代表人（Self-Represented Persons）或证人。

(d) “法庭文件”包括文本、图像、声音、视频、数据以及任何其他提交给法院的材料，如书面陈述、答辩要点、诉状、宣誓书和开场陈述。

(e) “生成式AI”指的是一种基于用户提供的提示“生成”内容的软件。生成的内容可以是文本、图像、视频或音频的形式。

(f) “自代表人”指的是没有法律代表的诉讼当事人。他们也可能被称为“自诉人”或“自辩人”。

3. 一般原则

(1) 法院不禁止使用生成式AI工具来准备法庭文件，前提是遵守本指南。

(2) 本指南不改变法院用户继续遵守相关立法、规则、行为守则和实践指导的义务。

(a)如果法院用户是律师，律师遵守职业行为规则的义务仍然存在。律师继续有职业义务确保他们提交给法院的材料是独立核实的、准确的、真实的和适当的。

(b) 如果法院用户是自代表人，他或她也负责确保提供给法院的所有信息是独立核实的、准确的、真实的和适当的。

(3)法院对使用生成式AI工具持中立态度。重要的是要强调，生成式AI是一种工具，任何生成的输出都应基于法院用户承担全部责任的基础上使用。除非法院特别要求，否则不需要预先声明使用生成式AI，因为任何产生的最终责任在于法院用户。

4. 一般信息

请注意，以下信息不是关于生成式AI工具的详尽描述或指南。希望使用生成式AI工具的法院用户应自行研究以了解这些工具的工作原理，并评估这些工具是否适合用于准备法庭文件。

(1) 生成式AI工具是什么，它们用于什么？

生成式AI工具使用“大语言模型”（“LLM”）来生成输出，这些输出是或看起来是对用户需求的连贯和响应。输出可能是语法正确的、写得很好的，看起来像是人写的。

(2) 生成式AI工具如何工作？

生成式AI工具接受用户的输入（也称为“提示词”）并根据它们已经训练的内容和用户提供的信息生成输出。这通常会产生看起来像是专门为用户的提示量身定制的输出。例如，如果您在向生成式AI工具的提示词中包含了某人的名字，该工具可能会在生成的响应中使用那个人的名字。同样，如果您在提示词中谈论了特定情况，生成式AI工具可能会在其对您提示词的响应中谈论您提到的特定情况。因此，您从生成式AI工具获得的响应看起来像是专门针对您的情况编写的，并给人一种人类智能参与的印象。然而，重要的是要记住，在生成输出时没有人类智能的参与。在某种意义上，生成式AI技术可以被认为是手机键盘和WhatsApp等应用程序中看到的预测文本功能的更高级版本。还应该强调的是，生成式AI工具不是像谷歌这样的搜索引擎。搜索引擎会产生与您的搜索标准相匹配的网站或其他资源的列表。换句话说，它要求您查看在互联网上找到的源素材。它不会产生对您的情况做出具体引用的答案。越来越多的工具结合了搜索引擎和生成式AI功能。这些工具可能会产生看起来为您的特定情况量身定制的答案，同时仍然引用源素材。虽然许多生成式AI工具以聊天机器人的形式出现，但生成式AI也可能被整合到聊天机器人之外的工具中。例如，您可能会被问到一系列问题，然后工具使用这些问题为生成式AI工具创建一个提示来回答。

(3) 生成式AI聊天机器人生成的信息总是准确的吗？

不。生成式AI聊天机器人重新组织信息并预测要生成的答案的单词，以回应提示中提供的上下文，基于它们之前“学到的”内容。它们不能告诉生成的答案在事实上是否准确。因此，您不应该依赖生成式AI聊天机器人为您的特定案件提供法律建议。在法律研究方面，生成式AI工具训练的数据可能没有包括法律的最新发展。此外，即使提供了新的决定，生成式AI工具也可能不理解改变了或发展了法律的决定的重要性。即使包括了最新的发展，聊天机器人也可能不理解一个单一的案例或一个法规的变化可能使之前做出的许多案例无效。因此，生成式AI聊天机器人可以生成看起来有说服力和权威性的答案，但可能极其不准确甚至完全是捏造的。生成式AI聊天机器人可以编造案例和法规，包括您从未向它们提供的事实，或者提出您从未要求它们提出的论点。这也被称为“幻觉”。

5. 使用生成式AI工具

(1) 作为法院用户，您对所有法庭文件的内容负全部责任。

(a) 如果您选择使用生成式AI工具帮助您准备法庭文件，您应该评估生成式AI工具产生的输出是否适合用于您的特定案件。

(b) 特别是，您应该确保任何用于您的法庭文件的AI生成的输出：

i. 是准确的；

ii. 是相关的；

iii. 不侵犯知识产权（例如，版权）。

(c)为避免疑问，生成式AI工具不应用于生成您希望在法庭上依赖的任何证据。例如，您不能使用生成式AI要求创建、捏造、修饰、加强或削弱证据。可以要求生成式AI工具生成宣誓书/声明的初稿（前提是遵守本指南），但不允许要求生成式AI捏造或篡改证据。

(2)请注意，您引用的案例法、立法、教科书和文章的要求继续适用。法庭文件不应包含不适当内容的现有要求也继续适用。本指南中的任何内容都不覆盖这些现有要求。

确保准确性

(3) 为确保您提交的法庭文件的准确性，您应该做以下事情：

(a) 对您使用的任何AI生成的内容进行事实检查和校对。

(b) 编辑和调整AI生成的内容以适应您的情况。

(c)验证AI生成的内容提供的任何案例法、立法、教科书或文章的引用确实存在，并代表它们使用的法律立场。如果AI生成的内容包括摘录或引用，您必须验证这些是准确提取/引用的，并提供正确的来源。

(d) 在检查上述(c)条中提到的材料时，您应该使用已知具有准确内容的来源。对于自代表人，这包括用于案例法的eLitigation GD Viewer（https://www.judiciary.gov.sg/judgments/judgments-case-summaries）和用于立法的Singapore Statutes Online（https://sso.agc.gov.sg/）。

(e)请注意，仅仅要求生成式AI工具确认证据材料存在或包含AI生成的内容所说的内容是不够的。要明确，您不能使用一个生成式AI工具来确认另一个生成式AI工具生成的内容。

(4)您必须准备好识别法庭文件中使用了AI生成内容的具体部分，并向法院解释您是如何核实生成式AI工具产生的输出的。如果对您的任何法庭文件或不遵守本指南有任何疑问，法院可能会要求您解释这一点。

保护知识产权和保密或敏感信息

(5) 在您提交或提交的法庭文件中尊重知识产权很重要。

(a)您应该确保在适当的情况下提供适当的来源归属。这意味着您必须在法庭文件中包含您使用或引用的任何资料的原始来源。例如，如果您从文章中引用，您应该说明文章的作者是谁以及文章的标题和出版年份。

(b) 为避免疑问，本指南不改变与知识产权相关的现有法律，包括用于法庭程序的知识产权的规定。

(6)您应该确保在使用生成式AI工具时不会未经授权地披露保密或敏感信息。您向生成式AI聊天机器人提供的所有信息可能会被公开披露。如果您包括个人信息（例如，识别信息或其他保密或敏感内容），生成式AI工具可能会将信息存储用于各种目的。在使用生成式AI工具时，您必须遵守保密令和法律、个人数据保护法律、知识产权法律和法律特权。

(7)还请记住，如果通过法院命令获得任何文件，您不得将该文件用于授予法院命令的法庭程序之外的任何目的。

(8)如果法院有理由相信您在法庭文件中使用了AI生成的输出，您可能需要做以下事情：

(a)通知法院您是否在准备法庭文件时使用了生成式AI工具。这些工具包括但不限于生成式AI聊天机器人；

(b)向法院声明您的法庭文件符合本指南；

(c)您可能需要通过制作和提交宣誓书来这样做。

不遵守本指南的后果

(9)如果您不按照本指南所述行事，法院可能会进行如下处理：

(a)命令您支付费用。这意味着您将不得不向对方支付金钱，并且这笔款项与任何判决金额分开。如果您是律师，可能会直接对您个人下令支付费用。

(b)不予采信任何提交给法院的文件或其他材料（全部或部分），或在做出决定时给予较少的证据权重。这意味着您提交给法院的内容可能不会被考虑，或者在法院对您的案件做出判决时可能会被给予较少的重视。

(c)如果您是律师，可能会对您采取纪律处分。

(d)根据现有法律，针对知识产权、个人数据保护、法律特权保护和藐视法庭采取适当行动。

点击获取指南原文 RC No 1 of 2024 (Guide on the use of Gen AI for Court Users)>>

另附新闻：

新的 AI 服务帮助律师处理新家坡法律史上的 15,000 份判决