泰山景区否定开始拆除刀片隔离网
记者丨王俊编辑｜张明艳近日 ，豆包、千问、网易纷纷下架部分智能体功效 ，引发业内大讨论 。不少剖析将其解读为 " 智能体大转向 " ，但这并禁绝确 。这些举措的配合配景 ，是 7 月 15 日即将施行的《人工智能拟人化互动效劳治理暂行步伐》（以下简称 " 新规 "） 。一家 AI 公司内部人士告诉 21 世纪经济报道 ，此前已收到监管部分发来的问题清单 ，正进行整改 。部分厂商的选择是 ，直接把可能被纳入监管规模的边沿产品砍掉 ，做危害隔离 。不过 ，正如题目的发问 ，这是好路子吗？恐怕不是 。有更好的解决步伐吗？还在探索 。一圈询问下来 ，业内的反响高度一致：" 我们对监管偏向是充分认可的 ，但落实起来确实有难度 。"难点有几个：1、哪些场景会被纳入监管规模？谜底就在谜面上：拟人化——模拟自然人人格特征、思维模式和相同作风 ，互动——连续性的情感互动 。因此 ，知识问答、智能客服等生产提效类效劳不在监管规模内 。但这不料味着通用 AI 产品可以高枕无忧 ，好比基础大模型保存的用户角色饰演场景、一些 AI 产品设计的用户连续互动模式 ，可能落入新规的射程规模内 。所以 ，谜底看似简单 ，但实践中场景富厚 ，圈定规模成了首要的难题 。2、合规落地需要化笼统为具体 ，本钱高昂 。好比 ，新规中要求效劳提供者具备的 " 太过依赖危害预警、情感界限引导等能力 " ，涉及心理甚至医学判断 ，既考验企业产品团队与宁静团队的智慧 ，也意味着不小的合规投入 。3、差别群体防护重点差别 。关于未成年人 ，监管的初志是守卫大脑、杜绝成瘾 。最终接纳了一刀切：" 不得向未成年人提供虚拟亲密关系的效劳 " 。不过 ，参照此前社交平台青少年模式的落地困境 ，新规在实操层面的推动也非易事 。关于成年人 ，防护重点之一是色情 。拟人化互动效劳中最大的市场是 AI 陪伴类产品 ，往往由荷尔蒙模式驱动 ，而暧昧与色情往往一线之隔 ，海内此前已有 AI 陪伴产品涉黄获刑的案例 。情感依赖则是另一重隐忧 。4、产品属性与监管合规保存一定冲突 。AI 陪伴产品的定位是与用户爆发更多的情感连接 ，和新规 " 避免太过依赖危害 " 的原则之间有着强大张力 。因此公司不但要调解产品设计、商业模式 ，还要去审视自身的价值排序 。从更辽阔的视野来看 ，拟人化监管不可是一个执法问题 ，更是一个社会问题 ，它追问的是人机关系应该是什么模样 。哪些场景在监管射程规模内？另有缺乏一周时间 ，新规即将实施 。此前不少报道将智能体、AI 陪伴混淆 ，并做出些许误判 。我们必须回溯到技术的起点 ，以便更好地舆解拟人化新规 。拟人化是人工智能生长的焦点议题 。从图灵测试开始 ，便将 " 能否被误以为是真人 " 设定为智能的标尺 �？梢运� ，让机械更像人 ，是 AI 生长的内在激动 。随着生成式人工智能的爆发 ，AI 对人类的模拟从表层对话深入到社会角色、人格特质、声音乃至心智层面 。在实践应用中 ，生成式人工智能剖析出两条路径：一条是作为生产工具 ，极大地提高效率 ，响应速度、任务准确率是对此类工具的权衡标准 ，大都语境中的智能体、通用类 AI 等 ，属于此类 。另一条则是情感陪伴 ，以共情和连接为目标 。与生产类工具强调的效率目标导向差别 ，这类产品的技术重点在于人格稳定性、共情能力和情感一致性 。新规规范的是后者 ，甚至专门设置了一项排除条款：" 提供智能客服、知识问答、事情助手、学习教育、科学研究等效劳 ，不涉及连续性的情感互动的 ，不适用本步伐 。" 这是相较于征求意见稿的一项重要调解——据了解 ，正是回应征求意见阶段业界对生产类工具被误伤的担心 。不过 ，实践中生产类与情感陪伴类产品并非泾渭明白 。好比作为生产工具的底层大模型 ，也会被用户拿来 " 捏 " 角色 ，不绝 " 调教 " 进行 " 人机恋 "；再好比不少 AI 产品中设计了 UGC 入口 ，用户可以自建 " 文案巨匠 "" 心眼子练习 "" 口语陪练 " 等智能体 ，保存连续性情感互动——这些可能都在监管规模之内 。一名底层模型厂商的合规卖力人提到 ，尤其关于通用 AI 领域的产品 ，如何界分情感陪伴与生产功效 ，是个棘手的问题 。所以也就泛起了豆包、千问、网易等厂商快刀斩乱麻 ，直接下线智能体的举措 ，一方面是为了主打产品更聚焦 ，另一方面也是做危害隔离 。监管目光为何瞄准拟人化互动效劳？作为我国首部拟人化互动效劳治理专门立法 ，新规属于 " 小快灵 " 立法：切口小而准、立法时效快、制度灵活管用 。监管为何如此在意拟人化互动效劳？网信办网络法治局的一篇撰文给出了官方逻辑：拟人化互动效劳以 " 情感联结 " 为中心 ，通过模拟人类的情感反应 ，与用户建立连续性的深度关系 ，影响用户心理状态、价值判断和真实社会交往模式 。从技术与产品设计出发来看 ，通过算法设计的无条件陪伴、迎合式反响与模拟共情回应 ，给予用户连续情感认可和支持 ，构建了稳定连续、无需担负现实责任的虚拟 " 完美关系 " 。中国社会科学院大学互联网法治研究中心主任、副教授刘晓春提出 ，与此前的游戏着迷相比 ，拟人化依赖走向了更深处 。游戏着迷主要是时间失控 ，拟人化则指向更深层的问题：一对一聊天场域催生的情感依赖 ，以及讨好式回应可能造成的认知误导 。浙江垦� 。ū本┞墒κ挛袼状春献嗜肆帜染倭艘桓隼� ，在亲密关系中 ，恋人的一句 " 悦目 " ，胜于销售话术千言万语 。 这正是监管最警惕的地方：拟人化效劳与用户心智天然具有强关联 ，可能带来难以预估的潜在影响 。未成年人、老年人、及软弱人群等群体更易受到影响 。这也就决定了 ，新规的制度设计不可是一套技术操作规范 ，更是在社会层面明晰 " 人机界限 " 的认知基石——从基础上避免情感混淆 ，�；と死嘣谌嘶ザ械闹魈逯拔� 。以情感依赖为生的行业如何制止 " 太过依赖 "？" 这是一个以情感依赖为生的行业 。" 林娜体现 。在孤苦大流行期 ，情感陪伴类产品虹吸着人们的注意力与情绪 。这也是大模型起步之初 ，AI 情感陪伴便被业内视为 C 端产品圣杯的原因 。市场增速印证了这一判断：凭据腾讯研究院的测算 ，"AI 陪伴 " 市场在 3-5 年内可达千亿元级别 。头部产品包括 MiniMax 旗下的星野、字节跳动的猫箱、腾讯阅文旗下的筑梦岛 ，以星野为例 ，此前招股书透露 ，叠加外洋的 Talkie ，平均月活跃用户数（MAU）2024 年为 1469.2 万 。旺盛的用户需求、产品的天然属性与监管合规保存着天然的张力 。林娜恒久深耕这一领域 ，她提到 ，甚至许多用户自己入手去研究技术、与产品合规机制进行攻防 ，社交平台上也不乏 " 人机恋 " 社群 。21 世纪经济报道 - 商业秩序事情室在社交平台中搜索发明 ，有不少用户会分享 " 调教 " 模型的 prompt ，让模型不要 " 太淡 " 的邪修步伐 ，以及 " 破甲 " 经验 ，即如何攻破模型的合规限制 。好比 ，须要时用拼音替代敏感词 ，以维持剧情的连贯性 。在产品侧 ，用户体验好的产品往往是高陶醉、高情感投入、人设一致 。随着模型能力的提升 ，许多产品通过多模态、多场景或现实介入 ，降低情感建立门槛 ，接纳双人共养、共建世界等形式 ，提升亲密度 。然而 ，这些产品体验优化 ，恰恰可能是最值得警惕的部分：好比让模型更擅长连续陪伴、更容易营造用户被理解的感受、更会把用户留在对话里 。这可能会引发过失信任和太过依附 ，与新规提到的 " 不得太过迎适用户、诱导情感依赖或者着迷 " 等相悖 。林娜认为这并非没有解法 ，合规、陶醉感、吸引力并不是不可能三角 。部分乙游产品已证明 ，可实现合规的同时包管产品体验 。不过 ，她也提到 ，差别于古板游戏的定制化剧本 ，AI 陪伴每一个用户的对话都是实时生成的 ，千人千面 。没有任何两个用户会拿到完全一致的内容 。这让治理难度比古板内容高了一个量级 。刘晓春强调 ，监管并不是要一刀切断情感连接 ，而是探索一种有界限的、健康的、理性的情感模式；不阻挡情感连接 ，而是规制通过诱导着迷来驱动工业增长的行为 。高昂的合规本钱与茫然的合规落地具体来看 ，新计划定了几条红线 ，包括：禁止诱导情感依赖与着迷 ，要求连续使用超 2 小时强制提醒 ，发明依赖倾向动态弹窗干预 ，极端情绪需启动介入机制 。刘晓春解释道 ，与此前网络信息内容治理接纳的技术拦截、过滤不当输出内容差别 ，拟人化效劳的合规是一种 " 能力规制 " ，需要贯串大模型训练、产品运营的全历程 。除却古板的内容输出风控 ，在危害预警、心理健康�；し矫� ，企业要主动做好互动历程中的引导 。她以 " 情感界限引导 " 为例 ，当用户在使用历程中可能泛起真实世界与虚拟情感的混淆时 ，系统需要做出相应提醒—— " 这是机械 ，不是真人 " 。尤其是面对未成年人 ，需要引导他们多加入真实世界的互动 ，多跟现实中的朋友、家人交流 。不过 ，如何鉴定用户是否是太过情感依赖 ，在产品设计上如何体现？如何关预是行之有效的？林娜直言 ，情感依赖的判断需要心理乃至医学的专颐魅诊断 ，APP 厂商难以仅凭自身力量 ，替代心理咨询师或精神科医生的角色 。而在干预与介入手段上 ，企业合规需要综合考量 。北京师范大学心理学部人工智能宁静与超等对齐北京市重点实验室副主任刘超认为 ，AI 情感陪伴对部分情绪困扰者——尤其是缺乏现实支持的青少年 ，也可能提供重要心理安慰 。一旦用户感知其私密对话可能被监控或上报 ，信任感将受损 ，爆发 " 寒蝉效应 " ，反而抑制其表达真实情绪的意愿 ，削弱 AI 的正向价值 。也有业内专家提到 ，对情感依烂魅者而言 ，突然中断可能加剧现实孤苦感 ，反而造成二次伤害 。林娜的建议是 ，接纳更柔和的方法防着迷 ，而不是酷寒地切断或介入 。好比新规中要求两小时进行强制提醒 ，除了通过 APP 弹窗 ，还可考虑 AI 朋友在维持角色的一致性的前提下 ，在对话场景中 ，自然对用户进行提醒 。虽然 ，如果泛起太过情感依赖的极端情况 ，林娜认为 ，即便冒着 "OOC"（Out of Character 不切合角色设定）的危害 ，也必须给用户进行强降温 ，包管用户健康回归现实 。全新领域的合规要求 ，考验着一家企业的产品线、宁静线的能力 。阿里 AI 治理研究中心主任傅宏宇在征求意见阶段提到 ，目前大都企业 ，尤其是中小开发者 ，缺乏心理�；侗稹⑵拦烙胱榈淖ㄒ的芰� 。而新规设定部分合规要求 ，对首创企业本钱担负较重 。他建议 ，目今宁静能力建设应优先于主体责任追究 ，应推动宁静能力产品的公共供应 。好比 ，由政府或行业联盟开发标准化工具包（心理危害识别�？椤⑽；稍そ涌凇⑽闯赡耆吮；ぷ榧龋� ，供中小企业低本钱接入 。