算法剥夺个人网络信息权利实际案例

('算法剥夺个人网络信息权利实际案例某短视频APP是由某短视频平台公司开发、运营的一款互联网移动端应用程序。某短视频APP具有帮助用户在移动设备上制作、上传、观看短视频及进行直播等功能，平台能够通过大数据的分析和人工智能的算法等技术手段实现为用户推送精装的短视频内容等服务，是国内知名的短视频社交平台、直播平台及直播电商平台。据该短视频后台数据显示，截止2020年底平台14周岁以下实名注册用户8万余，14周岁至18周岁实名注册用户数量60余万。以头像、简介、背景、用户名、过往作品、地理位置等基础维度模型叠加“内容”“语音”“体态”“帐号”模型测算，18周岁以下未实名未成年人注册数量约为300余万；仅以头像、简介、背景、用户名、过往作品、地理位置等基础维度模型测算，18周岁以下未实名未成年人注册数量约为1000余万。某市人民检察院在审查办理被告人徐某某猥亵儿童（未满14周岁）刑事案件时发现，该短视频平台在收集、存储、使用儿童个人信息过程中，未遵循正当必要、知情同意、目的明确、安全保障、依法利用原则，遂对该短视频平台涉嫌侵害众多不特定儿童个人信息权益和隐私权的行为展开调查，在履行法定诉前程序后，向杭州互联网法院提起民事公益诉讼。杭州互联网法院经审理认定，某短视频APP历史版本在收集、存储、使用、共享、披露儿童个人信息等多个环节中，未切实贯彻儿童利益最大化原则，存在危及社会众多不特定儿童个人信息权益和隐私权的行为，不利于儿童网络保护，已对儿童人身安全以及生活安宁造成隐患，具体包括：第一，在儿童用户注册环节：某短视频App缺乏单独的《儿童个人信息/隐私保护政策》《儿童个人用户协议》；对平台内实名注册的儿童用户，缺乏通知监护人、采取合理措施征求监护人是否同意的流程；对平台内未实名注册的高疑似度儿童用户缺乏技术识别手段，未采取特殊的儿童网络安全保护机制。第二，在儿童个人信息收集环节：在未采取合理措施以显著、清晰的方式告知并征得儿童监护人明示同意情况下，存在违规收集、管理儿童网络帐号、位置、联系人以及儿童面部、肢体、声音等儿童信息的行为。第三，在儿童个人信息存储环节：某短视频App缺乏专门的儿童信息保护池，在“内容”“用户”两个维度对平台中涉及儿童的个人信息未能采取加密等措施予以存储。第四，在儿童个人信息使用、共享、披露环节：某短视频App在未采取合理措施征得儿童监护人有效明示同意的情况下，运用大数据算法，向具有浏览儿童视频喜好的用户大量推送含有儿童信息的内容，并提供下载共享功能；推送涉及未成年人内容的算法机制不够完善，仅依照用户兴趣喜好等算法方式，随意、无序地推送儿童用户个人信息，未建立一套有别于成年人的算法推送规则；缺乏向儿童用户推送内容的独立算法，向儿童用户推送内容的安全性、合规性和针对性存在欠缺，未体现对儿童群体的特殊保护。第五，在涉儿童网络安全主动保护领域：某短视频App对用户发布的涉未成年人内容的审核标准不够严格，缺乏分级管控，存在进一步改善的空间；某短视频App缺乏对儿童用户的隐私保护机制，对儿童用户未强制开启陌生人关注限制功能，未强制隐藏儿童用户位置，未强制开启儿童用户私信限制，未强制关闭儿童用户通讯录推荐，未强制关闭通过手机号搜索儿童用户功能，未强制关闭儿童“熟人圈”功能，未强制关闭儿童动态展示功能，未强制关闭推荐儿童给可能感兴趣的人的功能，未强制开启儿童作品在同城不显示功能等。案件双方当事人经法院组织调解，达成了调解协议。法院对调解协议是否有损社会公共利益等进行了审查并依法登报予以公示。法院经审查调解协议内容不损害社会公共利益且符合法律规定后，出具了民事调解书。民事调解书主要内容为：（一）被告停止对儿童个人信息的侵权行为，按照相关法律法规对儿童个人信息保护的要求，对某短视频平台进行整改。针对案涉问题，被告承诺，按调解协议确定的合规整改方案、时间推进表进行落实整改。（二）被告完成整改后，应对整改完成情况及效果进行评估，并向公益诉讼起诉人、人民法院出具详细的整改完成情况报告书。（三）被告应根据相关监管法规要求，将整改措施方案及整改完成情况报告书报送网信部门，自觉接受合规审查。若网信部门认为短视频平台未落实整改方案措施，或存在其他涉儿童网络保护的违规行为，被告应立即停止相关违规行为并按要求进行整改。不能如期有效整改的，被告应立即停止某短视频平台一切涉儿童经营业务的开展。（四）被告就涉案侵权行为，在《法治日报》及某短视频APP官方帐号首页显著位置公开赔礼道歉。（五）被告承诺在今后的运营过程中严格遵守儿童个人信息保护的法律、法规，并自觉接受网信等行政监管部门的监督检查。（六）被告赔偿因侵权行为造成的社会公共利益损失人民币150万元，款项交相关儿童公益保护组织，专门用于儿童个人信息安全保护等公益事项。',)