为防控部门此类风险，腾讯已设立未成年人核心，并搭建了家长办事平台。该家长节制平台已整合到腾讯生态内的各类使用中，其焦点功能正在于办理儿童对逛戏、社交及其他数字内容的利用权限。该系统包含多款东西，例如“腾讯公益家庭教育AI模子”，该模子可供给教育内容、问答功能及案例阐发。此外，家长节制功能还针对儿童分歧成长阶段，定制了响应的平安办法。取此同时，“设想保障儿童平安”的至关主要：这一既确保平台具备平安防护能力，又避免过度平台的性，从而保障儿童能切实从数字办事中获益。
腾讯暗示，其通过、调研和小组会商的形式取儿童间接沟通，以领会他们对数字办事的期望取需求。该公司会察看儿童正在利用数字办事时的行为取反映，从而明白他们的乐趣点及面对的问题。儿童参取此类调研需遵照志愿准绳，且须获得家长或监护人的同意。通过该类调研收集的数据会进行匿名化处置，遵照数据最小化准绳，并根据中国数据相关法令开展收集工做。
挑和：虽然实名认证以及时长、消费等遏制过度或不妥利用的系统，表现了对儿童收集的投入，但当前挑和正在于，若何正在落实这些防护办法的同时，既不损害用户体验，也不影响数字包涵性。要实现合理均衡，不只需要无效施行相关办法，还需填补家长监护环节的空白。此外，春秋验证取认证机制也激发了质疑，以及他们正在数字中切实参取的。
本案例阐发切磋了腾讯若何动手应对数字时代儿童成长过程中的两大焦点挑和：平安保障（涵盖春秋验证、内容过滤及风险评估等方面）和人际关系（通过各类东西，帮力建立健康的家庭关系取社交联系）。
腾讯正在产物全生命周期内开展的平安风险评估设想保障儿童平安，应正在产物全生命周期的环节阶段落实？。
本系列案例研究是正在中国收集社会组织结合会（CFIS）、中国传媒大学（CUC）取参取研究的中国企业配合开展的“办事未成年人的负义务科技立异” 并关心“设想保障儿童平安”的企业案例研究项目框架下完成的，并获得结合国儿童基金会驻华处事处的支撑。研究所需消息通过两种体例获取：一是企业志愿供给的披露消息，二是公开可获取的消息。案例研究中做为阐发对象的产物，其筛选工做由结合国儿童基金会的征询合做方——BSR征询担任开展。
正在“设想保障数字平安”中，确认用户春秋至关主要：只要明白哪些用户实为儿童，相关办事才能切实儿童免受不平安内容取行为的影响。
• 考虑设置负义务的利用功能，包罗添加时长、适龄保举及歇息提示，正在不显著降低用户参取度的前提下，指导用户养成健康的利用习惯。
腾讯暗示，其使用逛戏、动画、绘画等互动式形式，让消息传送过程更具趣味性，从而吸引儿童的留意力（见下方图片）。
未成年人核心还采用了互动式支撑体例，例如意愿者问答环节和教育东西。正在意愿者问答方面，腾讯会筛选具备天分且经验丰硕的意愿者来解答用户征询，让用户能从布景各别的意愿者那里获取合适的谜底。正在某些特定的育儿场景中，非立即性的文字及语音指点可能效率较低，家长用户可通过能供给额外消息的教育东西提拔本身育儿能力。梳理育儿过程中的常见误区并引见科学的育儿方式，随后指导用户进入使命实践环节，将所学方式使用于现实育儿场景中。
正在时间办理方面，未成年人仅可正在周五、周六及节假日的20！00至21！00期间登录逛戏（此为中国相关政策）。28当儿童利用支撑间接扣款领取的数字产物时，平台会对其每日总消费金额设置：8周岁以下用户充值；8-12周岁用户单次充值最高不跨越50元，每月累计充值最高不跨越200元；13-18周岁用户单次充值最高不跨越100元，每月累计充值最高不跨越400元。此外，若用户单日消费总额跨越500元，系统将触发非常领取预警，并向家长发送短信提示。
人工智强人脸识别手艺还用于核验疑似利用账号的儿童用户身份。腾讯暗示，公司不会存储完脸图像；相反，会对人脸消息进行进一步处置，并将其取身份标识消息分隔存储，以防止数据泄露。腾讯称，上述消息会正在限制刻日后被删除或匿名化处置，且数据的存储取传输均采用加密体例。
儿童敌对型消息供给办事有帮于儿童理解：他们所利用的各类数字产物及办事相关的办事条目、这些产物取办事可能存正在的风险，以及若何举报行为、标识表记标帜不平安或不法内容。
儿童敌对型消息供给：以儿童易于接管的言语及体例传送消息（例如利用清晰、易懂、简短的语句，仅正在需要儿童做出决策时供给需要消息，且采用交互式东西），提拔儿童的关留意愿。
春秋验证：估算或核适用户春秋的流程，以便数字办事能按照儿童需求进行定制，并落实合适其春秋段的办法。
腾讯是一家总部位于中国的全球性科技公司，具有多元化的科技产物及办事组合，涵盖逛戏、社交、音乐流、领取办事及立即通信等范畴。这些产物正在为儿童带来多样化机缘的同时，也伴跟着各类风险。
腾讯暗示，其春秋验证系统整合了强制性的实名认证取随机人脸识别核验功能。该公司指出，所有用户均需通过中国的身份识别系统完成实名认证，该系统会从动鉴定用户能否为未成年人。据引见，这一鉴定成果会触发未成年人核心针对不健康逛戏利用行为的应对流程。
挑和：盈利压力取合规要求之间的矛盾。例如，逛戏及社交平台做为次要收入来历，其焦点方针之一是留住用户，因而会出力打制具有吸引力的利用体验。然而，平台同时必需防止用户（特别是儿童）过度利用或不妥利用产物，并保障用户权益。正在动态变化的中均衡这些彼此冲突的需求，对平台而言颇具挑和性。
本研究中的引述内容及案例仅用于凸显儿童面对的潜正在风险或可获得的机缘。本系列案例研究并非旨正在开展正式风险评估，也不代表对相关产物正在儿童平安方面所涉风险取机缘的全面呈现。同时，案例研究亦不试图对所涵盖范畴内的研究或行业实践进行全面阐述或得出。此外，本系列案例研究既未阐明、也不代表结合国儿童基金会的任何立场。
本节将阐述腾讯产物中存正在的部门儿童平安风险（这些风险已通过未成年人中到部门防控），以及上文所述的“设想保障儿童平安”流程若何帮帮腾讯防控此类风险。本节列举的平安风险案例仅为示例，并非详尽无遗。
该人工智能模子以聊器人的形式集成于腾讯平台中。该聊器人基于腾讯混元狂言语模子建立，家长可通过它利用腾讯平台上的各类东西及使用，例如教育视频、案例研究和意愿办事相关资本。腾讯指出，虽然该聊器人仍正在持续优化，但它的方针是：正在对话场景中，按照用户需求开展精准的内容对话、供给针对性的东西保举，并供给教育征询办事。
• 组建跨本能机能监视团队，纳入合规、产物及伦理范畴的专家，持续审查平台运营行为，确保贸易方针的实现不会损害儿童。
• 考虑采用替代方式（例如通过儿童声明连系验证查抄，如简短问卷、使命或理解能力测试等，以评估用户能否可能为儿童），此类方式无需收集和处置生物识别消息，以规避人脸识别等现私的做法。
腾讯暗示，该平台支撑家长联系关系孩子的逛戏账号，以便家长及时查看逛戏时长取消费记实。家长还可设置个性化的时间（例如，仅答应孩子正在周末玩逛戏），从而更好地办理孩子的互联网利用环境。
此外，还存正在诸多取行为相关的风险：此中一个主要例子是，施害者常操纵收集逛戏儿童以实施性侵害。正在这些收集生态系统中，因为及时互动并非总能获得全面监管，收集的发生概率以及儿童接触潜正在施害者的风险也会随之添加。
“办事儿童的负义务科技立异”的8项准绳对于思虑儿童福祉所受影响具有主要感化。该框架从多个维度保障儿童福祉，规避了单一维度阐发的局限性。正在平安层面，它促使人们关心产物的物理平安取数据平安；正在内容层面，它保障了内容的质量取适宜性，同时防备不良消息。这些准绳如统一个完整的过滤器，可以或许系统性地筛选出可能风险儿童福祉的各类要素。
腾讯未成年人核心是一个旨正在加强儿童上彀平安取家庭教育的分析性平台。其焦点是一套内置正在腾讯各类使用中的家长节制系统，可帮帮家庭办理儿童对逛戏、社交及数字内容的利用权限。该核心的人工智能模子不只为家长东西和教育内容供给手艺支撑，还通过互动指点和案例阐发为家庭供给帮力。
逛戏产物的潜正在风险之一是儿童用户对电子逛戏发生不良利用行为。这种不良利用行为的特征是挤占睡眠、体育熬炼等需要勾当的时间，进而可能导致健康情况欠安。按照腾讯未成年人核心2024年的数据，9-12岁男性儿童（占总体的82%）是电子逛戏相关问题的高风险群体，而家长遍及缺乏应对该问题的无效教育方式。正在存正在逛戏不良利用倾向的家庭中，39。3%的家庭采用型教化体例，20。36%的家庭存正在过度行为（防护办法过当），14。98%的家庭则处于教化缺位形态（对孩子的行为缺乏领会）。
腾讯通过整合手艺、家庭教育取好处相关方协做，努力于正在儿童平安取数字包涵之间实现均衡，同时也认识到，跟着风险不竭演变，对反馈收集、影响阐发及策略调整的需求将持续存正在。
腾讯指出，儿童用户可利用的上述四大赞扬渠道均需监护人协帮并同意方可利用。正在这四大渠道中，部门渠道对儿童而言利用难度较高，例如通过邮件向腾讯反馈问题——这类渠道往往需要监护人供给大量协帮或指点。而其他渠道（如通过平台内置的一键举报功能）则更易于儿童操做，仅需少量协帮即可利用。
3。发卖、营销取摆设阶段：企业将产物推向市场、鞭策产物摆设，并正在摆设后监测产物利用环境以进行后续迭代的阶段。
腾讯旗下的系列产物可能使儿童面对取内容相关的风险，此类风险会儿童的平安。正在逛戏社区中，儿童可能接触到不合适其春秋段的内容或内容（包罗含、性从题的内容），这些内容可能呈现正在聊天消息及用户生成内容中。
腾讯正在均衡贸易义务取社会义务方面面对挑和，特别是正在防控儿童消费风险这一问题上。家长节制平台可帮力保障儿童平安，例如平台内置的春秋验证机制、内容过滤功能以及对利用逛戏时间过长的办法。这些行动虽能防控部门儿童平安风险，但仍需对这些方式发生的现实结果开展更多阐发。
为提高的收集平安认识，腾讯以儿童易于接管的形式（如漫画、互动逛戏）普及常见诈骗类型及防护方式。同时，该公司还会组织演取课程（次要正在城市地域开展），向青少年宣传上彀平安学问。每年，腾讯城市邀请儿童参不雅腾讯未成年人核心。核心内设有特地的“收集平安屋”，通过寓教于乐的沉浸式互动体验，让儿童正在逛戏过程中进修收集学问。
通过以家庭教育为导向的人工智能模子弥补人际关系腾讯未成年人核心努力于推进亲子关系，其依托的恰是腾讯所定义的中国科技行业内“首个家庭教育人工智能模子”。该模子旨正在成为家长的数字化教育伙伴，为家长正在教育过程中面对的难题供给个性化处理方案。
• 采用双方针框架，将盈利方针取合规要求相协调：将儿童及儿童福祉纳入产物环节绩效目标（KPI），确保权衡成功的尺度既包含收入目标，也涵盖平安。
腾讯暗示，正在市场推广、发卖及摆设阶段，公司会收集用户反馈，以识别并处理产物上线后呈现的各类风险取挑和。同时，腾讯还会领受来自家长及儿童用户的反馈，用于产物的持续优化。此外，腾讯还会自动取非营利组织及学术机构开展沟通，分享相关洞见，并根据儿童平安准绳对产物发生的影响进行评估。
同样，此类从动化某人工审核也可能识别出施害者（如侵害儿童的人员）常用的言语，例如针对未成年人的俚语，或涉及不妥关系的表述——即便这些言语较为明显或颠末加密处置。腾讯指出，其基于人工智能手艺建立的内容平安审核系统，融合了狂言语模子的多模态能力取人工审核劣势，可以或许精准检测出不良内容及行为（如涉性内容），召回率跨越80%。该系统正在设想上会对这些不良内容及行为的特征标识表记标帜，以便开展进一步核查，方针是及时识别潜正在不良内容，从而易受的用户群体。此类平安风险对科技企业而言颇具挑和性，因而需要对上述策略进行持续审核取调整，以实现风险防控。
帮帮儿童领会若何举报事务取行为、标识表记标帜不平安或不法内容，这一点至关主要。若赞扬机制难以被儿童找到、获取或利用，其现实效用将大打扣头……因而，儿童敌对型赞扬机制必不成少。
腾讯暗示，其通过一套逛戏前、逛戏中及逛戏后的组合办法，努力于应对逛戏不良利用风险。据悉，这些办法包罗教育东西、一对一专家指点，以及家长通过平台对未成年人逛戏时长进行管控。
腾讯平台设有多个举报渠道，供儿童用户反馈手艺问题，或举报不良消息及不法勾当。腾讯暗示，目前平台共设有四大赞扬渠道，具体如下。
此外，均衡风险防控取产物办事的性也至关主要，唯有如斯，儿童正在数字世界中的各项才能获得充实卑沉。将来的成长标的目的包罗拓展外部好处相关方的协做范畴，例如取儿童群体及儿童平安范畴专家开展更间接的征询沟通，同时正在产物全生命周期内规范尽职查询拜访流程。
为防控上述风险，腾讯已测验考试制定多项应对策略，例如出台平安政策、推出未成年人模式、实施手艺监测、开展人机协同审核，并成立反馈举报机制等。这些策略整合了从动化审核取人工审核流程。举例来说，若某用户发布内容为“今天正在X区看到有人持刀打斗，太吓人了”，系统会通过语义阐发识别出“刀”“打斗”“吓人”等词汇，将该内容归类为场景描述类消息。随后，人工审核人员会进一步确认该内容能否违反内容规范，确认违规后便会将其删除。
该模子的锻炼数据来历于未成年人核心处置过的实正在案例。这款家庭教育模子不只努力于应对当前的教育难题、预测将来的教育趋向，还可解答取家庭教育、学校教育及社区教育相关的问题。按照腾讯的基准测试数据，该模子的问题处理精确率达到94。6%。除问答功能外，模子还内置了多教育资本库，例如涵盖各类家庭教育从题的视频资本。
本案例阐发聚焦儿童福祉的两个环节维度——平安保障取人际关系。腾讯方面暗示，未成年人核心将“设想保障儿童平安”置于优先地位，通过春秋验证、内容过滤及逛戏时长等功能落实这一。腾讯指出，其平安保障办法不只包罗产物开辟阶段的风险评估，还涵盖取儿童群体的间接沟通互动。未成年人核心正在“家庭守护打算”框架下，供给由人工智能驱动的教育东西，这些东西可支撑家长开展个性化进修，并帮力处理各类家庭问题。
• 扩展并规范化相关流程，正在产物构想取开辟阶段即对风险防控办法进行评估；同时成立产物上线后的工做流程，按期将风险评估结论整合至“成长守护平台”。
腾讯暗示，正在产物开辟取测试阶段，公司会开展更为细致的影响评估：按照风险的严沉程度取发生概率对其进行评估和优先级排序，焦点方针是优先处理高风险问题。此阶段会制做产物原型并进行测试，且会沉点针对儿童用户开展测试，以确保产物合适平安取伦理尺度。同时，家庭教育征询团队会开展实地调研，通干预干与卷形式间接从社区、学校及家庭收集数据。此外，一支涵盖产物开辟、合规法务及社会义务部分的跨部分团队会协同合做，配合评估产物对儿童发生的影响。
本演讲为结合国儿童基金会出书物。对各企业的称谢并不料味着本系列案例研究已获得各企业的承认或支撑。文中提及任何特定企业，也不代表结合国儿童基金会代言该企业的政策、产物及实践。这些案例研究旨正在切磋中国科技公司若何正在实践中使用“设想保障儿童平安”准绳。研究成果仅用于展现当前的实践环境，并不旨正在对相关从题的其他研究或行业实践供给全面或性的概念。
• 通过预警提醒取指点，加强向家长供给消息的力度，帮力家长正在不外度干涉的前提下，监视和办理孩子的逛戏勾当。
腾讯暗示，其“设想保障儿童平安”的从产物构想阶段便起头落实：正在该阶段，腾讯会开展初步影响评估，以识别产物可能对儿童发生的潜正在影响。随后，公司会召开跨部分团队会议，审核评估成果，并确定所需采纳的风险防控办法。此阶段会有特地团队协调分歧团队开展工做：家庭教育征询团队担任监视教育模子的构想取设想，家庭教育团队担任内容运营办理，产物团队则承担产物开辟工做。
1。产物构想阶段：企业对产物进行概念构思、调研并明白产物价值从意，同时制定产物设想方案取概念的阶段。
腾讯暗示，公司会借帮数据东西开展按期风险评估并识别潜正在问题。同时，腾讯还会收集并阐发家长及儿童用户的反馈，进一步优化产物。正在整个阶段，腾讯会取监管部分连结沟通，确保合规运营；此外，还会充实操纵学术合做及非营利组织合做所获取的洞见，优化教育模子。公司对教育模子进行迭代改良，沉点正在于加强其类人化特征，从而实现取用户的高效互动。
此外，腾讯暗示，其平台供给特地为儿童设想的互联网平安从题动画视频。例如，《未成年人防诈骗图解指南》将常见收集诈骗类型融入儿歌中，并搭配动画场景，以吸引儿童用户的留意力。据引见，这类动画视频的播放量已冲破100万次，且已进入校园播放。
正在涉及儿童本身的事务中，儿童享有表达看法的。当儿童（及青少年）参取到影响本身的项目取政策制定过程中时，这些项目取政策更有可能更好方单合儿童的需求、乐趣取布景。
风险评估是“设想保障儿童平安”的焦点环节，正在风险识别、风险防控以及防控办法无效性的取沟通方面阐扬环节感化。然而，正如经济合做取成长组织（OECD）所指出的，企业还需实施其他流程，以确保风险可以或许获得得当识别取应对。本案例研究沉点引见了此中四类流程。