Soul App成立人工智能伦理与治理委员会：AI时代负责任的创新

随着人工智能技术的成创新迅猛发展，其影响力已深度渗透至日常生活，立人理治理委并正在重塑人机交互模式。工智这一变革在孕育全新机遇的时代同时，也伴生了诸多伦理与安全挑战。负责作为处于AI浪潮前沿的成创新科技企业，Soul App选择以负责任的立人理治理委态度主动回应时代命题，于6月23日正式成立人工智能伦理与治理委员会（以下简称“委员会”）。工智

此次成立的时代委员会不仅包含内部核心成员，更特邀来自互联网治理、负责伦理学、成创新社会学、立人理治理委青少年研究及法律等领域的工智7位外部专家共同履职。作为行业内较早探索AI在社交场景落地的时代科技公司，Soul在持续夯实底层AI基建与功能迭代的负责同时，正致力于构建系统化、前瞻性的AI伦理治理机制。

Soul App创始人、CEO张璐指出：“AI如何深入交互场景？核心能力边界何在？这是Soul持续思考的核心议题。过去，我们在数据安全、隐私保护、防沉迷及治理机制升级等方面进行了多维探索。成立委员会旨在凝聚自律共识，拓展治理视野，通过更前置、系统的伦理治理体系与管理闭环，为用户营造真实、温暖、可信的社交生态。”

聚焦情绪感知与交互：重构AI社交生态体系

正如Soul App人工智能伦理与治理委员会外部委员、上海市人工智能行业协会安全工作委员会秘书长殷雨薇所言，2026世界人工智能大会暨人工智能全球治理高级别会议即将召开，AI安全伦理与治理仍是核心议题。Soul此时成立该委员会，恰逢其时。

据Just So Soul研究院《2025 Z世代AI使用报告》显示，55.4%的年轻人在工作学习中频繁使用AI辅助创作，近四成年轻人每日使用AI产品寻求陪伴。AI的角色已从单纯的“工具”演变为社交对象与生活伙伴，这对企业的AI伦理治理能力提出了更高要求。

Soul App CTO、人工智能伦理与治理委员会主任委员陶明表示，Soul长期专注于情绪感知与交互领域，探索情绪识别与人机互动前沿技术，积累了深厚的业务沉淀。

• 早期布局：2016年，Soul App上线，成为行业较早将AI引入人际链接的互联网平台。
• 技术深耕：2020年前后，Soul启动AIGC技术研发，专注情绪感知与交互，打造情绪多模态交互大模型，推出自研模型SoulX，构建“底层能力+应用场景”生态。
• 国际认可：2024年，Soul团队在国际人工智能联合会议（IJCAI）多模态情感识别挑战赛MER24的SEMI（半监督学习）赛道中荣获第一名。
• 开源贡献：2025年10月，Soul AI团队开源语音播客生成模型SoulX-Podcast，发布次日即登顶HuggingFace TTS趋势榜榜首，并在GitHub收获3300+星标。

2026年，Soul在实时数字人生成领域陆续开源了SoulX-LiveAct、SoulX-FlashTalk、SoulX-FlashHead等模型，并在语音领域开源了歌声合成模型SoulX-Singer、全双工语音对话控制模块SoulX-Duplug及端到端多人对话转录模型SoulX-Transcriber。

陶明强调，Soul已转型为一家专注于情绪感知与交互、模型与应用一体化的AI生态公司。区别于通用大模型，Soul以基于情绪感知、语音为先、面向多模态的交互大模型为技术内核，构建“自有应用—产业生态”双层体系：
* 对内：以Soul App等真实社交场景为载体，持续迭代模型交互能力；
* 对外：以SoulX模型能力赋能产业链，面向具身智能、内容演绎等行业输出情绪感知与交互决策方案，并延伸至AI治理领域，构筑伦理治理体系基石。

提升交互场景科技伦理治理能力：构建Z世代AI游乐园

同步于双层应用体系的构建，Soul在监管部门指导下，逐步建立AI治理机制，并获得以Z世代为代表的用户认可。

1. 智能对抗治理体系

针对AI生成违规内容成本低、传播快、隐蔽性强的挑战，Soul搭建以“AI对抗AI”为核心的智能治理体系，形成“动态采集—AI深度分析—智能决策—智能执行”的对抗链条，提升主动防御与综合治理水平。其“AI大模型助力技术创新，精准识别让虚假人设无处遁形”案例入选“清朗浦江·2024”网络生态治理优秀创新案例。

2. 虚拟人交互安全与边界管控

• 双向审核机制：建立“用户侧审核+模型侧审核”双重防护。用户输入内容需经过色情低俗、违法违规、攻击辱骂等策略审核；模型生成内容输出前，需经独立AI安全模型再次校验。
• 上下文语义理解：引入上下文语义分析，不仅关注单句违规，更监测连续对话中的风险演化趋势，提升识别准确性。
• 显著标识与知情权保障：在站内显著位置及对话界面设置常态化“内容由AI生成”标识，清晰提示用户，避免混淆与情感误判。

3. 防沉迷与用户保护

• 社交时长提醒：今年3月上线“AI社交时长提醒”功能，用户与虚拟伙伴连续对话达2小时触发提醒，引导用户回归真实世界。
• 社区公约更新：5月更新《社区公约》，新增AI生成内容、互动行为及虚拟角色使用规范，明确使用边界。
• 全链路安全体系：构建覆盖“输入治理、生成治理、输出治理、风险干预、用户保护”的全链路体系。针对未成年人，建立专项保护体系，包括禁止向未成年人提供虚拟人服务及上线未成年人模式。

陶明表示，确保用户清晰理解AI身份、保障知情权和选择权是未来治理重点。委员会将坚持科技向善、技术为人、安全可控、普惠共治、公开透明的价值主张，通过技术治理与伦理审查结合，构建覆盖数据、算法、应用的全流程风控体系。

委员会架构与职能

为适应《科技伦理审查办法（试行）》等法规要求，委员会由内部AI、产品、法务等部门负责人及外部多领域专家组成。依据章程，将设立专项治理小组，聚焦隐私保护、算法合规、人机互动体验、内容审核、未成年人保护等领域，配合完成专项审查与技术优化。

上海市互联网业联合会会长姜迅指出，委员会的成立标志着Soul的AI伦理治理迈入系统化、专业化新阶段。

汇聚多方行业智慧：共建可信可控AI新生态

AI伦理治理已超越单纯的技术范畴，成为全社会共同面对的系统性挑战。Soul邀请高校、机构及行业专家担任外部委员，旨在引入多元视角，碰撞新观点。

在成立仪式上，外部委员分享了深刻见解：

• 李凌（复旦大学马克思主义研究院副院长、伦理学博士）：围绕“科林格里奇困境与人工智能伦理治理节奏”，探讨创新与治理的平衡关系。
• 殷雨薇（上海市人工智能行业协会安全工作委员会秘书长）：分享“全球协作与本土实践：人工智能治理的挑战与未来路径”，结合知识产权侵权、AI幻觉等案例，阐述从“监管”到“共治”的范式转变。

• 李清川（上海市青少年研究中心主任）：提出关注青少年与AI关系的三大问题：
• 规避拟真陷阱：保持虚拟人适度“非人感”或增加显著提示，确保青少年明确互动对象。
• 明确纠错机制：建立明确纠错机制，防止情绪识别模型误判对青少年造成二次伤害。
• 塑造情感能力：利用平台数据提炼场景，强化青少年情感能力教育。
• 方师师（上海社会科学院新闻研究所互联网治理研究中心主任）：指出陪伴式AI沉迷问题需从技术与社会两方面解决。技术层面关注算法公平性、透明度及问责；社会层面关注结构性因素，如社会支持系统及线下公共文化设施的丰富性。

成立仪式后，委员会举行了首次外部委员专题会议，对《Soul App人工智能科技伦理审查工作规范（草案）》等文件提出建议，并深入了解Soul现有及即将推出的AI产品与功能。委员们表示，将在深入研究后提供咨询意见。

据悉，Soul人工智能伦理与治理委员会将承担以下核心职能：
1. 制定AI伦理治理战略，确保与技术发展同步；
2. 对新技术、产品开展前置伦理评估；
3. 定期开展AI伦理通识培训，提升员工伦理素养；
4. 建立伦理事件闭环管理机制（监测、研判、处置、反馈）。

陶明表示，面对AI伦理治理的挑战，Soul将继续坚持“发展与安全并重、创新与责任同行”。一方面完善AI安全审核体系与风险防控能力，提升模型可控性与可信度；另一方面积极与学界、行业合作，探索符合社交场景特点的AI伦理规范，将数据合规、隐私保护、未成年人保护、内容向善、公平透明等理念贯穿产品设计与技术应用全过程，推动AI技术在安全、健康、负责任的轨道上持续发展。

编辑 杨娟娟
校对 赵琳
图/企业提供

本文地址：https://www.xyaji.com/html/994c81298193.html