□ 黎娟 （中南大学数字法治研究院副院长）

　　2022年，最高人民法院发布的《关于规范和加强人工智能司法应用的意见》确立了安全合法、公平公正、辅助审判、透明可信、公序良俗五项基本原则。2026年，最高人民法院工作报告进一步明确，积极稳慎研发人工智能辅助审判系统，坚持“辅助”定位，明确法官是裁判的唯一责任主体。尽管制度层面已经明确权责划分，但自动化偏见这一新的认知风险却在司法应用中逐步显现。欧盟《人工智能法案》在人类监督条款中也提示了这一风险。自动化偏见本属认知心理学概念，是指决策者过度依赖系统输出、弱化独立判断与实质审查能力所产生的认知偏差。人机协作模式下，司法人员落入此认知陷阱风险持续上升。为规范人工智能司法应用、防范衍生风险，有必要厘清自动化偏见的生成机理、识别其具体表现，明晰人机权责划分。
自动化偏见的特征与形成方式
　　自动化偏见与算法偏见紧密关联但内涵有别。自动化偏见在生成路径、表现形态以及对司法个体影响上更为复杂，且会放大算法偏见的衍生风险。具体而言：
　　一是自动化偏见形成于人机交互过程。算法偏见多由训练样本失衡、标签歧视、模型架构缺陷等导致，属客观层面的系统性偏差。自动化偏见则是使用者非理性信任、依赖系统，放弃人工核验与独立思考的结果，属主观层面的认知偏差。
　　二是自动化偏见具有自我强化的特性。算法偏见程度仅受模型与训练数据影响，不因使用频次变化。自动化偏见则随使用时长、依赖加深而愈加牢固；对算法输出的长期依赖还可能引发“认知卸载”，即使用者将原本应当自主完成的认知任务转移至系统，导致专业判断、独立思考等核心能力渐进式退化，而能力退化又会强化其对系统的依赖。
　　三是自动化偏见具有个体差异性。算法偏见对相同输入输出一致，与使用者身份、经验无关。自动化偏见则高度依赖个体特征与场景，在对系统了解甚少且面临紧迫任务或处于高压环境时，使用者对系统的依赖往往更深，更易形成自动化偏见。
　　自动化偏见由外在技术权威与内在认知惰性双重因素共同催生。
　　技术权威是诱发自动化偏见的外在因素。系统输出多呈现标准化、格式化外观，使用者易将其视作客观中立的权威工具，忽视系统固有的黑箱、算法偏见等局限。即便存在相悖的系统外信息，仍可能因盲目信任技术权威而选择性忽略。
　　认知惰性是固化自动化偏见的内在因素。面对烦琐紧迫任务，人类倾向减轻认知负荷。系统一键输出契合使用者简化认知的心理，由此带来的便利在反复使用中逐渐消解独立判断、强化依赖。使用者起初逐项核验，多次使用后认为系统常规输出无明显偏差，警惕性随之下降，省略核验并建立稳固信任，自动化偏见就此固化。
自动化偏见在司法审判领域的渗透
　　大语言模型深度嵌入司法裁判流程，有效提升了司法办案效能。然而，当前智能辅助审判系统高度依赖算法输出，易使办案人员形成算法依赖，滋生自动化偏见。特别是庭前准备与裁判文书生成两个环节，均以文本处理为主，系统介入更深、人工核验空间有限，更容易引发自动化偏见风险。
　　庭前准备阶段，系统输出先于法官独立心证形成，极易成为认知锚点，诱导法官弱化甚至放弃自主核查。传统模式要求法官亲自阅卷、提炼事实、归纳争点后形成对案件的初步判断；系统的自动提取功能虽能减轻庭前负担，却前置于法官心证构建过程。即便法官开展审查，仍易受模型预设叙述框架的影响，忽视与算法结论相悖的质证细节，可能放弃反向核验。自动化偏见由此渗透，不仅削弱庭审实质化，还可能滋生“未审先决”的隐患，固化“案卷中心主义”倾向。
　　裁判文书生成阶段，系统依托法官初始判断生成说理内容，可能迎合甚至放大其判断偏差。其一，标准化的文书外观易使法官放松实质审查。大语言模型优化的是语言流畅度而非事实准确性，算法输出虽结构完整、文辞流畅，却未必真实可信，法官可能因文书形式规范而弱化对实质内容的审查。其二，人机判断的高度契合进一步强化法官信赖。系统多围绕法官预判组织说理、逆向推导论证，可能有意无意忽略与初始判断相悖的信息；在输出与预判高度契合时，容易使法官认可其合理性，抑制批判性审查，导致初始偏差被放大，自动化偏见由此深度嵌入说理环节。
自动化偏见的协同治理路径
　　自动化偏见并非单纯源于法官主观疏忽，即便历经严格专业训练也难以完全规避。治理之道，在于恪守人主机辅原则，清晰划定司法AI的应用边界，筑牢司法裁判的人工主导底线。
　　首先，强化司法人员主体意识，破除技术盲从。法官需熟悉智能辅助系统的运行逻辑、固有短板与潜在缺陷，摒弃“算法即公正，技术即正确”的片面认知，坚守人为主导的裁判理念，以专业审查思维制衡技术偏见。
　　其次，优化司法人工智能技术设计，升级人机协同运行模式。针对智能系统一味迎合法官预判的弊端，需推动司法AI角色由顺从型向纠错型转变。一方面，系统除生成支撑性说理外，还应主动检索、标注与法官预判相悖的事实、证据及类案观点，排查事实漏洞与逻辑缺口，辅助构建严谨的裁判说理体系；另一方面，系统应避免定论式输出，对辅助建议标注可信度区间，提醒法官独立思考、审慎研判，实现技术辅助与人工裁量的良性协同。
　　最后，合理划定人机权责边界，严守司法裁判底线。案件事实认定、法律价值判断、判决结论生成等核心裁判事项，必须由法官亲自完成，人工智能不可越俎代庖。
　　自动化偏见属于人机协作场景下使用者产生的认知偏差，在“案多人少”矛盾突出、统一裁判尺度需求迫切的司法环境中更易滋生，侵蚀司法公信力。防范之道，在于坚守人工智能的“辅助”定位，清晰划定人机权责边界。推进智慧司法建设，需统筹办案效率与司法公正，牢固确立法官的裁判主体地位，让人工智能服务审判，而非主导审判。