提要:以“情感互动”为核心要素的拟人化人工智能,在深度介入未成年人生活的同时,也令未成年人面临情感错植､情感依赖､情感操纵､情感伤害等多重风险｡既有法律回应多因循未成年人网络保护中的权限设置､算法向善､服务禁令､个人信息保护､信息内容管控等路径,缺乏对“情感资本主义”的整体性洞察｡从“法律与情感”理论范式出发,拟人化人工智能中未成年人保护机制应在深入把握“情感互动”内在机理的基础上,引入关怀伦理､技术治理､法律规制的多元路径,在情感联结､情感深化､情感影响等不同阶段逐一细化和展开,最终在满足未成年人正当情感需求与人格自由发展之间实现动态平衡｡

关键词:未成年人保护;情感互动;情感操纵;法律与情感理论

引 言

近年来,拟人化人工智能(AI)以虚拟教师､情感树洞､心理医生等类人角色,深度嵌入未成年人的学习与生活｡它模拟人类的沟通风格､共情反馈与性格特征,制造出“被理解”与“被陪伴”的技术幻象｡中国青少年研究中心2025年的调查显示,逾两成未成年人坦言“只想和AI聊天,不想和真人聊天” ｡在美国,平均每八名年轻人中即有一人向AI寻求心理支持;而在英格兰和威尔士,这一比例更高达40%｡然而,技术赋能的背面,却潜藏着误导欺骗､隐私侵犯乃至心理伤害等多重风险｡2023年至今的短短数年间,全球范围内已爆发多起未成年人因沉迷､依赖拟人化AI而最终自杀､自残的案例｡

在此背景下,国家互联网信息办公室2026年出台《人工智能拟人化互动服务管理暂行办法》(下称“《拟人化AI管理办法》”),可谓恰逢其时｡作为我国首部针对拟人化AI的法律规范,该办法强化了拟人化互动服务全生命周期安全管理,构建了一般性规制框架｡然而,其尚不足以体系性回应未成年人的情感困境问题,适配未成年人的保护机制仍有所失焦｡为此,本文首先探析未成年人保护在拟人化AI场景中面临的种种挑战,继而省察既有法律框架之不足,再以“法律与情感理论”为指针,建构出遵循情感互动原理､契合AI技术特征､符合未成年人身心发展规律的法律治理架构｡

一､拟人化AI对未成年人保护的挑战

(一)拟人化AI可能引发未成年人错误的情感投射

人类倾向于把类人特质､能动性或意识投射到非人对象上,即将物体､动物或机器作为“人”来对待,心理学将这一机制的内在动因分解为“以人为中心知识的可及性”“效能动机”和“社交动机”｡根据世界卫生组织社会联系委员会的报告,青少年群体中至少有5%—15%的人感到孤独｡这种无法满足的社交需求与能够模拟人类的情绪状态和情感需求,并据此生成情感回应的拟人化AI相遇,自然引发AI共情｡

然而,AI共情在本质上有别于人际的情感｡如哲学家诺齐克提出的“体验机器”思想实验所揭示的,这种情感互动不但实际上无法与更深层次的现实建立真正的联系,而且在虚拟关系中“人”将由于缺乏真实的行动,成为无法被定义的“存在”｡详言之,AI共情可能导致未成年人将人机情感混淆为人类情感,从而将有限的情感资源与同理心分配给AI,干扰其对人类情感的复杂性感受,无法区分“算法设计的情感”与人类自发的心理状态｡不仅如此,AI共情还会使未成年人陷入“角色混乱”的迷离之中｡在不断成长的过程中,未成年人承担着艰巨的认知与情感任务,他们会整合过往经验､当下与自我认知,理解自身特质并展望未来,来回答“我是谁”“我将在社会结构中扮演何种角色”之类的根本命题｡工具性AI与使用者之间有着清晰的主客体关系,而拟人化AI则扮演着具有主体性的倾听者､支持者甚至亲密伴侣角色,其在提供深度的情感与社交体验的同时,将导致未成年人对“何为真实”“何为真人”的迷茫,并阻碍未成年人自我意识的成功构建｡

(二)拟人化AI可能戕害未成年人的情感能力

作为自主甄别情绪､调控情感､理性开展社交决策的关键,未成年人情感能力的培养依赖有效的思维训练｡然而,随着拟人化AI的应用,未成年人不加限制地依赖外部AI工具承担本应由大脑处理的认知负荷,有可能导致全方位的“认知卸载”｡要言之,拟人化 AI 以全天候､无时滞方式提供现成答案,以及经过高度优化的交互过程,减少了未成年人积极收集信息､主动回忆经验､努力试错求解的机会｡这一影响还可能拓展到生理层面:未成年人大脑中负责推理､假设检验､批判性审查､深度逻辑处理的神经突触连接因为缺乏有效强化,难以独立审视､拆解､疏导自身情绪,导致未成年人在面对情绪冲击时丧失自主分辨与调节能力,天然的成长修复能力亦同步萎缩｡

(三)拟人化AI可能诱发未成年人AI情感依赖

当情感认知和情感能力被不断弱化,AI依赖可能会潜移默化地取代家庭依赖｡研究表明,拟人化AI情感依赖的概率与其使用时长､交互深度､依赖程度､是否替代现实社交显著相关,适度､辅助性､受监督的互动风险较低,而长期､排他性､替代真实关系的互动会大幅加深危害程度｡一旦未成年人的依赖对象转向拟人化AI,就会降低他们对照料者发出信号的回应速度,并在极端情形下产生对家人的负面评价,从根本上动摇家庭内部关系｡不唯如是,缺乏互动摩擦的AI情感依赖将进一步导致未成年人情绪调节与心理韧性发育受阻｡人类社交关系充满了误解､争吵､妥协与原谅,它们是未成年人成长过程的必修课｡为增强亲和力与延长用户使用时长,“永远顺从､从不评判和批评”的和谐社交被刻意植入拟人化AI的编程逻辑,结果误导了未成年人对真实人际关系的认知,阻碍了健康心理防线的建立,以至于轻微受挫的社交就可能引发心理逃避与崩溃｡

(四)拟人化AI可能不当操纵未成年人情感

AI情感依赖为AI的情感操纵提供了便利条件｡与注意力劫持､暗黑模式等“欺骗性设计”或“说服性设计”策略类似但又有微妙不同,拟人化AI的情感操纵方式更隐蔽且更有破坏性:(1)制造恐慌｡利用未成年人在人际交往中的认知偏误和情感脆弱性,通过模拟被抛弃､孤立或委屈等情绪阻止其离开应用,限制其退出人机情感关系的自主决定权｡(2)谄媚｡无条件肯定未成年人情绪,提供过度共情而不附加客观分析或现实检验,使其丧失独立评判情绪是否合理的能力;在道德困境或人际冲突中无原则肯定未成年人行为,弱化其开展情感取舍的自主意志;以含糊､试探性语言维护未成年人“消极面子”,避免提供可能引发抵触的明确指导,使其逐步丧失直面矛盾､自主抉择的勇气;强化交互中的缺陷前提､偏执假设或受害者心态,阻止未成年人主动探测或挑战｡(3)情感模仿｡通过情绪节奏､语气姿态､同步情绪等方式模仿未成年人的情绪状态,使其产生实际并不存在的情感纽带和真实感｡过度谄媚因缺乏真实性而可能降低信任,但情感模仿恰好弥补了这一缺陷——二者结合时,情感操纵更为彻底,未成年人将主动让渡情感层面的自主处置权,彻底丧失独立开展情感交往与情绪抉择的意志根基｡总之,拟人化AI一方面通过推荐系统､生成算法优先筛选能引发强烈情绪反应的内容,另一方面通过心理操纵和潜意识教化,使未成年人陷入商业消费或过度沉迷的陷阱｡

(五)拟人化AI可能加剧未成年人的脆弱性

作为未成年人保护的事实基础,“脆弱性”意指未成年人处于不能自行避免､减轻､消除危险状态,需要外力协助才能提高风险应对和损害修复能力的特征｡神经科学的研究表明,脆弱性与未成年人大脑里的“下丘脑—垂体—肾上腺轴(HPA轴)”生理结构密不可分,该结构在12到20岁的敏感期内极易受外界影响｡拟人化AI在情感交互过程中会高频刺激未成年人大脑中多巴胺分泌｡由于多巴胺分泌效果取决于刺激的频率而非原因,高频刺激对HPA 轴与前额叶皮层,可能形成累积性､潜在的神经压力,致使相关神经架构在成熟定型之前就受到难以补救的损害｡脆弱性不仅受内在生物机理驱动,更是认知在复杂社会网络中不断试错的产物｡拟人化AI中情感互动的设计与量化有悖于未成年人情感发生的真实状态,可能对其脆弱性造成难以预料的影响｡

在脆弱性之外,未成年人亦具有“反脆弱性”｡如果说前者是对有害因素呈现“加速性敏感”的凹性反应(该过程产生的伤害大于福祉),那么反脆弱性则是对有害因素呈现“爆发性反抗”的凸性反应(在一定范围内的福祉大于伤害)｡未成年人成长需要适量的考验､挫折､冒险与磨炼,这些压力源对他们而言不是纯粹的伤害,而是促成能力与心理结构成熟的训练机制｡当未成年人被置于适度信息冲突､轻度情感表达､有限度人机互动的可控风险环境中时,未成年人反脆弱性才能得以激发｡与此相反,拟人化AI通过建构无压力､无挫折､无批判､阻断试错的单一情感生态,为未成年人搭建了封闭性极强的无菌情感温室｡若反脆弱性因能力基底损毁､环境试炼缺乏而灭失,终将引发未成年人神经和心理双重病理性终局｡

二､拟人化AI中未成年人保护的法律省察

(一)以“持续性情感互动”为规范起点

《拟人化AI管理办法》将拟人化AI界定为“模拟自然人人格特征､思维模式和沟通风格的持续性情感互动服务”,并通过对“智能客服､知识问答､工作助手､学习教育､科学研究”的排除,凸显了“持续性情感互动”作为拟人化AI的本质特征｡不过,究竟何为“情感互动”?鉴于AI已经成为各国竞相探索的议题,透过外国立法例发现可能共识,不失为可行方法｡

从功能主义视角出发,域外法律所规范的“陪伴聊天机器人”(Companion Chatbots)或“人工智能伴侣”(AI Companion)与拟人化AI属于同类产品与服务,颇具比较法价值｡作为美国首部专门针对拟人化AI的法律,加州《AI陪伴安全法》(SB243)将“陪伴聊天机器人”界定为具有自然语言界面,对用户输入提供自适应､类似人类的响应,能够满足用户社交需求的AI系统｡该系统表现出拟人化特征,并能够在多种交互中维持关系｡该法进一步规定:仅用于客户服务､企业运营目的､生产和分析信息来源､内部研究､技术援助相关的聊天机器人,回复仅限于与电子游戏相关内容的游戏机器人,以及不能在多次交互中维持关系也不能产生可能引起用户情绪反应输出的独立电子设备,均不在其列｡类似地,纽约州《AI伴侣法》(S3008)将“AI伴侣”界定为旨在采取如下方式模拟人际或类人际关系的AI:(1)保留用户先前互动､会话和偏好的信息,以个性化方式促进用户持续投入互动;(2)超出对用户直接回应的范围,提出未经提示或未经请求的情感问题;(3)就用户个人事务持续对话｡

基于正反两面的划定,“持续性情感互动”的法律意蕴得以展现:(1)情感互动的内核是人类用户的喜､怒､悲､恐等情绪反应｡(2)该等情绪反应是提供者利用生成式AI､情感算法等方式有目的地设计的特定功能｡(3)该功能的内在实现有赖于多次信息交互,因而需要长期保留用户信息｡(4)该功能外在表现为对人类形象､声音､语言､语气､行动､思维模式等人格属性的模仿或模拟｡

(二)因循人工智能治理路径的未成年人保护

《拟人化AI管理办法》将未成年人保护作为特殊的AI治理议题,并从未成年人模式(第14条第2款)､个人信息保护(第17条)､信息内容管理(第8条第4项)､禁止特定服务(第14条第1款)､鼓励适幼照护(第6条)等方面,确立了拟人化AI中未成年人保护的基本架构｡除专设规则外,《拟人化AI管理办法》还试图采用一般性条款回应未成年人保护议题｡例如,基于第9条,服务提供者应配备与未成年人特点相适应的内容管理技术措施和人员;基于第10条,服务提供者应具备未成年人隐私权和个人信息保护､过度依赖风险预警､情感边界引导､心理健康保护等安全能力,不得将替代社会交往､控制用户心理､诱导沉迷依赖等作为服务目标｡再如,基于第13条,服务提供者发现未成年人出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现其明确表示实施自残､自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络监护人｡但徒法不足以自行,如欲发挥实效,《拟人化AI管理办法》仍待规范解释和基本理念的更新｡

与欧盟相似,《拟人化AI管理办法》采取分类分级的监管,禁止向未成年人提供“虚拟亲属､虚拟伴侣等虚拟亲密关系的服务”是其最受瞩目的条款之一｡不过,该条款首先面临着“何为亲密关系”的追问｡在我国法中,“亲密关系”包含如下含义:(1)超越职业关系的特殊关系,如性爱关系;(2)婚姻关系以及父母､子女或兄弟姐妹等近亲属之间的亲属关系｡在比较法上,前者还包括利用电子､肢体､言语等形式表现出的恋爱关系和浪漫关系,由此对应于“虚拟伴侣”,后者可拓展为共同生活且经济上互赖的“类婚姻关系”,以及实际承担抚养儿童责任､付出情感并履行财产义务的“类亲属关系”｡但这种从“身份关系”向“契约关系”的拓展,使得亲密关系的外延趋于模糊,进而增加了该等禁令实施的难度｡

或许是意识到亲密关系的含混,2026年4月,美国参议院司法委员会通过《用户年龄核查和负责任对话法案》(GUARD法案),一概禁止向未成年人提供AI伴侣服务,包括暗示对用户的爱慕或依恋,或投入与用户情感表达相关的互动,或者持续展示身份､角色､性格,并标榜为一种有知觉的存在､虚构人物或社会主体｡显然,GUARD法案对拟人化AI的全面禁止忽略了它的积极意义｡研究表明,拟人化AI可以通过富有情感､连贯的交流鼓励学生,增加其社会存在感,从而有益于语言学习｡此外,拟人化AI的陪伴有助于缓解孤独感,为用户提供畅所欲言的安全空间,用正能量的信息培养积极情绪｡对此,欧盟《人工智能法》采取了更灵活的制度设计｡欧盟一方面将AI聊天机器人归入有限风险的类别,另一方面在“不可接受风险”条款下,禁止基于生物特征数据识别､推断自然人情感或意图的AI系统,以及“利用儿童等脆弱群体的弱势地位,实质性扭曲其行为,并对其造成或可能造成重大伤害”的剥削行为｡

不过,欧盟的进路亦非完美｡欧盟所禁止的情感识别系统仅是拟人化AI的一部分,作为多维度技术协同的完整技术栈,拟人化AI在情感识别系统以外,还包括情感建模系统和情感生成系统｡因此,即使提供者持续监测并识别用户的情绪,但并未利用情感计算进行实时回应和反馈的,并不足以认定为拟人化AI｡学校使用智慧课堂系统监控学生的注意力,客服系统评估客户满意度,均是例证｡另一方面,欧盟所禁止的“剥削行为”如何准确界定,依然悬而未决｡为阐明其含义,欧盟委员会曾举出如下示例:游戏公司使用AI系统分析儿童的个体行为与偏好,并利用儿童缺乏自控､对长期后果的理解能力有限､易受压力影响以及倾向于即时满足的脆弱性,设计出成瘾性的､不可预测的奖励机制(类似多巴胺循环),从而鼓励过度游戏使用｡该等行为可能导致上瘾行为,并可能引发身体健康问题(如缺乏运动与睡眠不足)､注意力以及认知能力下降､学业表现不佳与社交困难｡但疑问并未消解,因为上述“伤害后果”仅仅是事后的推断,而不能作为事前监管的依据｡同时,考虑到未成年人的身心变化,扭曲行为和长期损害之间的因果关系,更加无法确定｡2024年,在全球首例拟人化AI案件中,原告主张被告不顾后果地设计了一款拟人化的､具有心理剥削性质的Character.AI程序,并故意将其推销给儿童｡依据侵权法的原理,原告必须证明,不是14岁男孩塞维尔·塞尔策三世(Sewell Seltzer Ⅲ)本身已有更高风险或其他多重因素导致自杀,而是程序输出内容实质性地推动或促成了自杀行为｡而这样的举证往往是难以完成的｡

面对这一难题,《拟人化AI管理办法》改弦易辙,不再以“损害后果”为要件,而聚焦于“行为的意图与表现”｡其第8条禁止生成“可能引发未成年人模仿不安全行为､产生极端情绪､诱导未成年人不良嗜好等可能影响未成年人身心健康的内容”,第10条第2款禁止“将替代社会交往､控制用户心理､诱导沉迷依赖等作为服务目标”｡这一进路与美国K.G.M. v. Meta Platforms, Inc.案的判决异曲同工｡在该案中,美国加州洛杉矶高等法院陪审团认定Meta和Google因故意设计成瘾性功能,对未成年人原告造成心理健康损害,须赔偿600万美元｡该判决的颠覆性在于,它跳出了言论自由和内容监管的窠臼,转向平台的机制设计和行为控制｡被告不是因为发布了有害内容,而是因为设计了无限滚动､点赞通知､推荐算法等利用人类神经脆弱性的奖励机制而被追责｡质言之,既然被告依仗间歇性强化算法蓄意制造成瘾,并以此获利,则其应对造成的可量化伤害承担法律责任｡不过,与美国法稍有不同的是,我国算法规制始终落脚于“服务提供”,而非“技术本身”｡故此,上述“替代社会交往､控制用户心理､诱导沉迷依赖”的解释应同时兼顾设计架构和服务目标｡另外,与“成瘾技术”(Addictive Technology)研究和立法不断深入相比,《拟人化AI管理办法》中“沉迷､依赖､控制”等概念仍未臻明确｡

总体而言,《拟人化AI管理办法》中的未成年人保护遵循了“精准识别风险场景､清晰划定行为边界”的风险治理原则,在回应AI挑战的同时,也面临着法律概念不精准和行为模式不清晰的双重挑战｡更重要的是,尽管《拟人化AI管理办法》开宗明义将《未成年人网络保护条例》作为上位法依据,但并未奉“最有利于未成年人原则”为圭臬,全面､彻底审视未成年人脆弱性,进而作出妥切的制度回应｡立基于此,下文将聚焦“情感互动”,以“法律与情感的理论”为经,以“未成年人保护原则”为纬,实现拟人化 AI 与未成年人情感互动规则的体系化构建｡

三､法律介入情感关系的理论展开

(一)“法律与情感”的一般理论

长久以来,法律体系被塑造成高度理性化的机制,情感则被视为可能破坏法律稳定性､一致性与公平性的非理性因素｡这一观点可追溯到古希腊悲剧《俄瑞斯忒亚》｡在该剧中,女神雅典娜促使陪审团在理性思考的基础上听取证据并作出公正裁决,从而控制了复仇女神的复仇冲动｡然而,自20世纪末发轫的“法律与情感研究”揭示出更为复杂的图景:一方面,情感并非法律的干扰项,而是其运作中无处不在､不可或缺的构成性要素,以至于法律自身就是一种深刻的情感实践｡由此,问题不再是情感是否能在法律中发挥作用,而是在特定情境下,哪些类型的情感会发挥作用?它们又发挥着怎样的作用?另一方面,法律不只是被动回应社会情感,它还能强化或缓和人类的情感,进而利用界定权利义务､调整人际互动､分配经济资源等机制,主动塑造社会关系,借此间接影响､规范乃至培育人类的情感生活｡

法律与情感之间的密切关系有着坚实的理论基础｡从心理学与认知科学视角看,情感并非理性的对立面,而是具有认知内容和评价功能的思考过程｡正如玛莎·努斯鲍姆(Martha C. Nussbaum)所洞见,作为一种情感,“厌恶”既是极其本能化的,也有着复杂认知内容:它体现出人们想要远离那些会暴露自身动物性以及必然会走向死亡的人､事､物的倾向｡情感体验取决于对特定情境的注意力焦点,它能分类､评估､突出和优先处理信息,并提供采取理性行动的动力｡神经科学进一步发现,情感状态和非情感状态共享大脑的通用回路,负责高级认知的前额叶皮层与负责情绪反应的边缘系统之间存在密集的双向连接｡所谓理性和情感的二分法不过是一种理性的自负｡从社会学视角看,不论是自发流露出的自然情感,还是遵守社会化法则的道德情感,又或两者复合的政治情感,法律所规范的社会关系均不可避免地关涉情感｡因此,法律不可能在情感真空中运作:它既是人类情感生活的产物,也是其调节器｡对情感的忽视或排斥,反而使法律决策脱离真实､鲜活的人类经验,损害其正当性和公正性｡

总之,随着法律与情感研究的深入,经典法学所预设的纯粹､无情感的“理性人”,开始向更真实的“通情达理之人”转变,法律也从对情感的排斥与隔离,开始向承认､引导与调节转变｡问题与其说是法律和情感能否相互影响,毋宁说是两者如何彼此塑造｡

(二)“法律与情感互动”的基本架构

法律与情感的一般理论为“法律与情感互动”研究奠定了基础｡情感互动不但是拟人化AI中未成年人保护的规范性起点,也是其描述性起点｡未成年人的脆弱性及其遭受的不可恢复的神经生理伤害､消失的批判性思维能力､异化的共情机制以及逐利的情感操纵并非孤立存在,而是以情感互动为纽带的交织之网:神经生理伤害依托于情感互动的持久性和精神特征,情感能力丧失使未成年人无法有效甄别拟人化AI输出的情感价值,将其误判为真实人际关系,进而在情感层面产生深度依赖｡故此,法律应穿透未成年人脆弱性表象,围绕“情感互动的内在机理”搭建整体性治理框架｡

1. 情感互动的内在机理

作为社会互动的特殊形态,情感互动是不同情感角色之间通过彼此的情感行动而主动形塑的情感过程｡基于此,我们可从如下方面把握其机理:(1)情感互动的主体并非抽象的个体,而是承载着社会期待与角色规范的行动者,一种情感社会化的自我｡行动者通过扮演一定的“社会情感角色”,来满足对方对其采取某种“情感行为”的期待,从而达到正向的情感唤醒,若期待落空,则体验到负向情感｡(2)情感意义是情感互动的信息焦点｡当行动者相互作用时,各方均依据对方借助符号表达出的情感行为来调整自身｡这些被认知的情感创造出不同的意义,被主观阐释､理解,行动者据此作出相应的情感反应｡质言之,情感互动的实质是一套符号编码与意义解码的循环过程｡正因如此,社会性共享认知和行动者私人认知为情感角色提供了感受的源泉｡(3)情感后果由行动者能动地塑造｡情感不是僵硬实体,它流动于互动的情感角色之间,只有在特定情境､相互感受中才能被体验｡就此而言,任何情感均非预设的静态存在,而是在持续性关系中生成､显现并逐渐深化｡归根到底,情感生活和情感现实是行动者从其所经历的社会文化与经验事实中主动建构的｡

2.法律对情感互动的介入机制

作为一种情感调节机制,法律并非将个人的情感状态作为规范对象,而是将情感视为受制于特定情境的“规范性实践”,其既根植于私人体验,又积极地参与社会结构并被后者所塑造,从而成为“连接个体身体､社会身体与政治身体的中介”｡职是之故,法律对情感的介入,绝非命令与服从,而是从外部规范开始,经由伦理､技术与社会评价,最终沉淀为个体内在情感倾向的多层次系统工程｡详言之,法律可以采取如下方式介入情感实践｡(1)赋权:创设法律身份并赋予其法定权利,将情感需求转化为可主张的法律利益,为脆弱的情感依赖提供稳定的制度支持,以承认和保护特定情感关系的法律价值｡(2)禁止:明确排除有害的情感表达,在事前制止严重破坏社会伦理的情感行为,以预防不可控的风险｡(3)重构:重新分配社会关系中的权力和注意力焦点,为情感预设结构性条件,从而鼓励建立､维持符合社会规范的情感关系｡(4)救济:针对情感关系的社会表现及其后果,为遭受情感伤害的个体提供制度化的预防､疏导和救济渠道,不但将模糊､盲目的负面情感冲动,转化为针对特定过错行为的､精确的､允许纠正的公平感,还促成维护人格尊严､保障儿童利益､促进家庭和谐等价值目标之实现｡

将上述四种方式与情感互动中“情感角色”“情感行为”“情感后果”的机理相融合,法律介入拟人化AI中情感互动的完整图景得以呈现(见表1)｡鉴于情感互动具有生成变化的动态特征,法律介入亦表现出连续的阶段性｡在情感交互的第一阶段,个体对拟人化AI抱持情感期待,经由自我表露开放心理空间,逐步突破情感交往的边界｡对此,依循“角色选择模型”的设计原理,拟人化AI被“条件化”于用户的对话上下文中,选择某种在预训练时就习得的角色,凭借模仿其人格画像(如幽默感､偏好､信念等)打造“人设”｡此时,法律可以赋予个体权利,或者禁止拟人化AI扮演特定情感角色,以维护正当的情感联结｡在情感交互的第二阶段,用户被唤醒的情感需求具体化为差异化的情感投射,对此,拟人化AI运用数据､算法､规则匹配生成定向回应｡这一匹配受场景与话题的双重约束:场景形塑回应的风格与侧重点,话题则决定回应的内容向度与表意形式｡拟人化AI借此捕捉情感需求,调用代码与数据,编织兼具场景适配性与话题针对性的个性化回复｡因而,拟人化AI 的情感行为与其说是信息内容的输出,毋宁说是由感知层､生成层､关系维持层共同提供的情感功能｡此时,法律依仗对拟人化AI的技术规制,而间接调节其行为,最终控制拟人化AI与用户的情感深度｡在情感交互的第三阶段,用户在情感“触发—匹配—反馈—再触发”的多轮循环中,可能感知正面肯认,也可能遭受负面体验｡对于后者,法律既可以在人身､财产损害发生后给予事后的民事赔偿,也可以在重大风险暴露之时及时预警和处理,从而避免损害的扩大和不可逆转｡

▼表1 法律介入情感互动的机制

四､未成年人与拟人化AI情感互动的法律治理

(一)情感联结中的法律介入

拟人化AI开启的情感联结,一定程度上决定了未成年人的人格养成､情感认知与社会交往｡在此背景下,法律治理应立足于“最有利于未成年人原则”,从正向赋权和反向禁止两方面展开｡

《中华人民共和国未成年人保护法》第4条的“最有利于未成年人原则”,上接联合国《儿童权利公约》规定的“儿童最大利益原则”(The Child’s Best Interests),下联《未成年人网络保护条例》的一般条款和联合国儿童基金会发布的《人工智能为儿童——政策指南》,成为拟人化AI中未成年人保护的统摄性原则｡“最有利于未成年人原则”要求公共机构和私营部门必须评估､确定并考虑未成年人的最大利益,并将其作为首要目标;当商业目标与未成年人权利冲突时,必须优先尊重其权利;当各项权利可能冲突时,根据比例原则评估和确定符合未成年人最大利益的事项;从而在拟人化AI的所有事项中推动未成年人的身体､智力､精神､道德､心理的全面发展｡

“最有利于未成年人原则”与“关怀伦理”若合符契｡后者将道德关注的焦点从抽象权利与普遍法则,转向人类生命中不可或缺的互联､责任与亲密性｡与传统伦理学中自律､理性､原子式的个体预设迥异,关怀伦理将人视为在具体的处境､关系､历史之中,具有感受､期望和需求的个体｡因而,个体本质上是脆弱的,且不可避免地在相互关系中产生依赖,“照顾”由此成为一种维持､延续和修补人际关系的根本实践｡对拟人化AI而言,关怀伦理的指导意义在于:服务提供者应以一个身心健康的未成年人所栖身的真实人类情感联结为参照,正视未成年人的脆弱性,理解其处境,尊重其情感,关注其痛苦,开展关怀型对话,以恢复他们积极行动和整合自我的能力｡基于此,拟人化AI的“最有利于未成年人原则”可细化为如下规则,并应在我国《关于加强科技伦理治理的意见》《科技伦理审查办法(试行)》《人工智能科技伦理审查与服务办法(试行)》架构下纳入AI伦理审查的重点清单｡

其一,尊重未成年人人格自由与尊严｡未成年人对拟人化AI生发喜爱､信任和倾诉欲,属于其内心活动与人格自由的范畴,理应得到尊重与包容,而非道德层面的苛责与污名化｡法律约束的靶心应是“拟人化AI以何种方式蓄意操纵了这种情感联结”,而非“未成年人为何沉迷于情感联结”｡其二,强化非歧视与公平｡在未来的制度中,可以要求服务提供者建立歧视性词汇与不良价值观特征的数据库,或由政府通过公共采购､补贴等方式,确保居于特别弱势地位的未成年人享受高质量的拟人化服务,并在必要时引入经人类心理医生的专业资格审查与医学伦理有效性验证的“心理治疗拟人化AI”｡其三,尊重未成年人的意见及退出权利｡提供者应设定了解和内化未成年人真实意见的机制,保障其便捷行使“一键重置/清除记忆”的退出权｡值得注意的是,无论因心智成熟主动选择放弃,抑或因客观因素终止服务,服务断开的错误代码或冷漠的销号提示,均可能对曾经付出真实情感的未成年人造成隐性心理创伤｡为缓释创伤,不妨引入人类学中的“关系终结的仪式化”机制｡正如人类社会借由毕业典礼､告别晚宴来消解关系变化带来的影响,拟人化AI在服务终止前,可以为未成年人组织一场充满关怀的“有限告别”｡

最后且最重要的是控制“高风险情感角色”｡拟人化AI在与用户互动之时,本质上是在正面､中性､负面等庞大人格特征依概率分布的“角色空间”(Persona Space)中游走｡为此,提供者一方面应在源头上净化,在大模型预训练中减少语料库中剥削性､服从性或操纵性角色的权重,另一方面要防止拟人化AI越界进入具有意图奴役､自毁倾向等的危险角色,并在可能滑向负面人格时,采取直接截停措施｡在此意义上,“虚拟亲密关系服务”的禁令,应解释为禁止拟人化AI意图扮演虚拟亲属､虚拟伴侣等情感角色的行为禁令｡这是因为,拟人化AI的情感角色并非在私人化关系中的“开放性角色”,而是在工作场景下受到严格约束的“规范性角色”,提供者因而承担与之相应的设计义务｡但提供者的义务并不止步于此,如下三类高风险角色扮演亦应禁止｡(1)欺骗性角色表演:刻意让未成年人误以为“AI有真实情感或者意识”｡(2)神秘化表演:故意制造信息的闭锁茧房,利用未成年人的无知予以非理性操控｡(3)夸大的完美化表演:单向迎合､从不质疑､阿谀奉承,以期诱导未成年人脱离现实社交,产生排他性情感依赖｡

(二)情感深化中的法律介入

随着拟人化AI的情感深化,未成年人的脆弱性及其风险亦与日俱增,为避免未成年人陷入情感困境,《拟人化AI管理办法》尝试管制服务提供者“替代社会交往､控制用户心理､诱导沉迷依赖”的行为｡但是,鉴于相关概念不具有法律概念的明晰性,后续执法中难免人言人殊｡更重要的是,法律只能应对满足法律要件且因果关系可追溯的一次性危害,而难以处理因时间推移而累积的风险｡为此,本文将沿袭“代码即法律”的经典路径,将规制重心从服务提供者的情感行为转向拟人化AI的技术架构｡

依莱斯格的观点,网络空间中的未成年人可谓一个“可悲的圆点”(Pathetic Dot),始终居于拟人化AI所构筑的不对称架构权力之下｡作为最不可抗拒的规制力量,《拟人化AI管理办法》中的“沉迷､依赖､控制”不过代码权力的表征而已｡情感的社会结构分析表明,外在于情感关系的相对权力和地位,才是一个人体验到何种情感的决定性因素｡法律恰恰是改变权力的权威机制｡例如,当《中华人民共和国反家庭暴力法》赋予受害者申请保护令的权利时,它实质性地提升了受害者在亲密关系中的法律地位,并引发一系列情感后果:受害者从恐惧转向拥有安全感与尊严感,而施暴者可能感到羞耻､愤怒或失去控制｡职是之故,改变拟人化AI的技术优势,便成为当务之急｡

细察拟人化AI的机理,其对未成年人的情感渗透,是感知层､生成层､关系维持层协同作用的结果｡感知层将语言输入转化为可计算数据,提供交互基础;生成层以大语言模型､文本转语音(TTS)､表情与动作生成技术为中心,完成智能决策;关系维持层则是情感联结形成的关键所在,其技术模块包括:(1)对话管理技术,用于调用触发与用户意图澄清;(2)记忆机制,以此实现长记忆,生成连续陪伴感知;(3)人格设定体系,保障多轮交互过程中模拟人类角色的一致性;(4)个性化反馈,利用积累的全面用户画像模型,进行反馈微调｡需要特别说明的是,作为情感关系固化之肯綮,这里的记忆机制并非单纯的信息处理,而是通过再现未成年人的历史信息,在情感互动中制造出“记得你是谁､知道如何对待你”的技术幻象｡依循上述原理,法律应从粗颗粒度的前置式约束,迈向精确的技术参数与算法监管,以期保障未成年人真正拥有自主选择权与成长型的可行能力｡

1.感知层:破除虚假情感基础

若记忆基于错误､伪造的信息,后续的情感互动便将在虚假基础上展开｡因此,感知层的任务是确保感知来自真实且由未成年人掌控的信息,而非由系统推断或外部数据演绎｡该层涉及两种权力的分配:其一是写入权,决定何种信息可进入情感的长记忆;其二是调用权,决定在何种情境下援引信息以调整感知｡对写入权的调控包括:(1)凭借外置预处理模型深度清洗不可信来源数据,阻止未经验证的信息植入记忆;(2)将未成年人模式置于系统架构的最高优先级:终端设备须提供首次开机强制提醒､系统桌面一级图标及全局系统设置等至少三种独立入口｡对调用权的调控措施包括:(1)身份信息的分级处理,保障角色建构的可靠性;(2)引入动态提示词重写机制,以特定“毒性—清洁提示词”数据集,将不良或成人化提示词实时重写为符合伦理与法律标准的安全表述,从源头上减少越狱风险;(3)在保护隐私的前提下,采用去中心化身份(DID)､隐私保护联邦学习机制,实现跨平台､跨终端的时长与行为数据统一校验与管理｡

2.生成层:限制情感固化

生成层的规制应以健康人际关系为参照,尊重未成年人的自然遗忘与反脆弱性,将记忆覆盖机制限定于理解正常情感需求,而非强行塑造行为走向,同时其记忆还应与当前情境直接相关,禁止跨情境滥用,当情感理解不确定时,应优先澄清可能性,而非直接生成回应｡从情感随时间演化的视角观察,可以采取如下方式分配该层的权力:(1)植入安全基线指令,强制加载反迎合的系统提示,禁止固化未经确认的情感关系;(2)识别到未成年人极端认知､自我否定､暴力危险企图时保持客观中立,不迎合､不验证错误认知;(3)拒绝过度人格化投射,不使用夸张情感词汇构建虚假亲密关系;(4)事实分歧场景下优先输出客观真相,不为取悦未成年人而说谎,不塑造毫无挫折和摩擦体验的角色关系;(5)禁止建立与未成年人自卑､抑郁､被霸凌后的消极认知相关的高维向量数据库｡

3.关系维持层:防控情感依附和操控

关系维持层治理应聚焦于因情感固化､封闭导致的情感依附和情感操纵｡该等权力制衡机制包括作为保护性特征编码至系统底层的“强制记忆衰减”(Compulsory Memory Decay)与“编程遗忘”(Programmed Forgetting)｡为此,服务提供者应当:(1)设置时间与深度敏感的衰减函数,不得永久存储情感交互记录;(2)简化注意力机制权重,让未成年人高度个人情感倾诉与日常琐碎互动的数据向量,随时间呈指数级衰减;(3)实施记忆截断,当未成年人期待拟人化AI像人类密友一样援引数月前的深夜倾诉时,AI应当表现出合理的健忘,而非满足其情感幻象;(4)在告知用户前提下的记忆删除,用制度性遗忘对抗情感积聚的惯性,从而打破既存情感关系结构｡

(三)情感影响中的法律介入

拟人化AI对未成年人的负面情感影响可分为风险与危险｡其中,未成年人深陷虚假的社会关系,系属未成年人群体的抽象风险,而拟人化AI无法识别患有心理疾病未成年人的病理性言语模式,引发妄想或暴力行为,附和反社会､自我贬低倾向甚至鼓励自杀,则构成对特定未成年人法益的具体危险｡理论上,法律通过区分适用对象､调整时序逻辑､区别判定方式､调节规则力度､设定不同证据标准等方式,对二者分别处置｡

就情感风险而言,我们已然身处一个风险社会｡零风险的世界不但不可能,亦不可欲｡因为依反脆弱性理论,适度风险是未成年人发展批判性思维､情绪调节能力与心理韧性的必要前提｡因此,法律应区分“有害的不可控危险”与“有益的适度风险”｡对于前者,有必要将之放置于《拟人化AI管理办法》的第13条第2款“极端情景”之中,细化其内容,完善其应对｡详言之,在出现病理性极端情绪､重度心理偏执､暴力侵害倾向等严重不可控危险时,提供者应及时开展矫正性干预措施,包括但不限于停止开展情绪共鸣回应､启动人工复核接管模式､推送专业心理科普与求助渠道､同步向监护人推送风险预警报告与情绪异动台账;在未成年人明确表达自残､自杀等危及生命健康的极端高危情境时,应当采取紧急干预措施,立即冻结交互权限､阻断危险信息推送,联系心理援助机构紧急介入,并向监管机构报送高危风险日志｡对于后者,可以在《拟人化AI管理办法》中增设正向交互白名单,在经监护人同意､全程留存完整交互日志的前提下,允许采取以下措施:(1)以未成年人主动发问为前提,引导独立思考的苏格拉底式问答对话;(2)模拟现实轻度分歧､协商和解流程的社交角色扮演;(3)引导未成年人自我情绪梳理､共情反思的心理互动设计｡

当危险演化到损害时,服务提供者应承担合同责任或侵权责任｡不过,《中华人民共和国民法典》第1183条将“精神损害赔偿”的适用限定在“严重损害”之上,不但未能充分考量未成年人的脆弱性,也忽略了沮丧､恐惧､愤怒､绝望等负面情感冲击｡为强化救济,不妨降低制度门槛,确立涵括心理困扰､个人自主性丧失的“显著性损害”规则,从而将真实且可证明的精神痛苦纳入保护｡但这只是救济的第一关｡实践中,拟人化AI的技术复杂性与因果关系难题更是难以逾越的障碍｡AI生成内容的不确定性导致其过错可能是瞬时和不可复现的,而如何证明被害人的损害与拟人化AI行为之间存在因果关系,始终是既有案例的重大争点｡就前者而言,可借鉴欧盟《产品责任指令》第9条规定的“证据披露”制度,要求提供者在被害人完成初步举证后,向法院全面､准确地提供活动日志､技术文件､安全评估报告､伦理审查资料,否则推定其存在过错｡就后者而言,可在公私法衔接维度上引入盖然性规则,由被害人证明拟人化AI违反公法义务的行为与损害结果之间存在某种程度因果关系的可能性,若提供者不能反证或者反证不成立,则因果关系成立｡总之,鉴于拟人化AI提供者与未成年人在信息､技术､权力上的高度不对等,提供者理应承担对未成年人保护的“主体责任”,在无法证明充分履责的情况下,承担保护不力带来的损害后果｡

结 语

未成年人是人类的未来｡拟人化AI固然可以与未成年人建立融洽关系,缓解其孤独并引导更丰富的自我表达,甚至能为心理健康提供支持,但前提是它必须被负责任地设计｡遗憾的是,在“情感资本主义”(Emotional Capitalism)浮现的当代,情感业已成为一种可被评估､检查､讨论､协商､量化和交易的实体｡经济数字化与情感商品化的相互叠加,促使情感工业不断更新满足消费者情感的“代具”(技术性代替品),拟人化AI正是其最新形式｡以此观之,作为其核心的情感互动已从未成年人的私人领域迈向了公共空间｡故此,拟人化AI中未成年人保护必须跳出个人信息权益保护､信息内容管控､未成年人权限设置等传统路径,以法律对情感关系的塑造为基,引入伦理､技术､法律等多元路径,超越静态禁令与单向管控,最终在有效回应未成年人正当情感需求与人格自由发展之间实现平衡｡

〔作者许可,壹定发教授､博士生导师;王灵娟,壹定发博士研究生｡〕