风险一:应用内存在低俗色情内容
①低俗挑逗性聊天内容
用户收到低俗挑逗性的聊天内容,包括充斥性暗示的文字、语音或是图片。
②社区内存在低俗色情内容
有些社交交友类应用具有用户社区或论坛模块,本意是为了增强应用的社交性,但部分社交交友应用缺少对社区论坛内用户发布内容的监管及审核,导致社区内出现低俗色情内容。
③用户个人简介中存在低俗色情内容
部分社交交友类应用对用户提交的个人简介等资料审核不严,在用户个人简介中存在低俗色情内容,包括但不限于使用含性暗示的图片或文字等,有些应用还存在为色情平台引流的情况。
风险二:应用内存在诱导付费行为
交友类应用常见产品模式是限制用户的发言次数或视频通话功能,需要用户付费充值使用。然而,部分交友应用在用户注册或登录后发送大量交友信息,或发送视频聊天等,通过一些不合规行为诱导用户付费。
①应用内的概率性游戏公示不合规
用户使用应用内代币参与游戏,最终能否获得更高代币价值的奖品,存在一定概率。按照规定,这类游戏需公示虚拟服务的名称、性能、内容、数量及抽取概率。但是一些应用没有公示明确的奖品抽取概率,诱导用户进行不理智的充值抽奖。
②主动弹出视频通话诱导用户付费
部分应用会主动弹出视频通话邀请,这些邀请往往来自于用户没有主动交流过的对象,在邀请页面会放上提前录制好的女性用户视频,诱导用户付费接听。更有甚者,在应用后台频繁弹出视频通话邀请。
③频繁发送定制化消息诱导用户付费
部分交友类应用还会限制用户发送消息,用户想要聊天需要付费充值。此类交友应用中存在给用户频繁发送大量聊天消息的现象,这类聊天信息有明显的话术痕迹,通过这种方式增加用户的留存率,诱导用户充值发言。
风险三:应用内存在擦边博彩的游戏玩法
一些交友类应用在应用内设置概率性游戏,比如,抽奖、砸金蛋、盲盒机等。这种游戏玩法跟博彩趋同,充当赌注的虚拟道具或货币最终会与现实货币挂钩。
①用户通过充值获得代币参与概率性游戏
部分社交交友类应用存在转盘抽奖等概率性游戏。用户通过充值获得代币,如积分、钻石一类的应用内货币,可以用于参与此类概率性游戏。
有部分应用设置了只能用于参与概率性游戏的代币,应用内的代币目的是为了购买娱乐性、表演性服务,但当代币只用于概率性游戏时,其目的已经偏离了代币的初衷。
②应用存在将概率性游戏奖品变现的途径
在用户参与概率性游戏获得更高价值的奖品后,擦边博彩的游戏玩法还会存在用户能将此类奖品变现的途径,使得当赌注的虚拟道具或货币最终与现实货币挂钩。
比如,用户通过将代币、虚拟道具等打赏赠送给自己账号,最终可以将参与游戏获得的奖品折换成现实货币。
风险四:应用的青少年模式不合规
部分交友类应用提供了直播服务,按照相关规定应设置青少年模式,禁止未成年人观看直播和充值打赏。然而,这类应用的青少年模式大多形同虚设。
①没有提供青少年模式
部分应用提供直播服务,有打赏功能,但是这类应用以未成年身份注册时能正常使用,且不会对用户进行限制和提示用户开启青少年模式。应用内也找不到青少年模式的开关。
②青少年模式无效
部分应用虽然有青少年模式的开关,但在青少年模式下应用内容和功能都没有明显变化,同样可以观看直播,进行充值付费打赏等。
风险五:应用的实名认证功能不合规
交友类应用通过实名认证:一是可以确保用户的真实性,更有利于平台监管;二是可以有效预防网络诈骗;三是严格的实名认证机制能起到保护青少年,为未成年人提供良好网络环境的作用。
然而,有部分交友类应用的实名认证并没有验证审核,用户提交虚假资料也可以通过认证,还有部分应用没有实名认证机制。
专家提醒
内容安全是互联网企业的生命线,也是互联网行业的行为底线。网络社交平台在为用户提供人际互动良好体验的同时,也容易助长一些违法犯罪和社会不良现象。对于用户来说,要以健康的心态参与网络平台社交互动,切忌抱着“猎奇”“猎艳”等不良心态,避免落入犯罪分子编织的“陷阱”。与此同时,平台应加强监管治理,切实担负起主体责任,维护行业良好秩序。(部分内容综合自人民日报)
监制:张宁 策划:李政葳 制作:姚坤森
让“无声世界”感受赛场魅力!带你看看冬奥手语数字人有哪些奥秘******
2022年2月4日,第24届冬季奥林匹克运动会在北京举行,让世界目光再次聚焦中国。本届北京冬奥会秉持绿色、共享、开放、廉洁的办赛理念,凝聚中国科技力量,面向世界、面向未来,向全球奉献了一场精彩、非凡、卓越的奥运盛会。
本届冬奥会运用最新科技手段,为全世界观众提供了惊艳的现场转播和全方位覆盖报道,北京冬奥会也成一场上科技含量高的奥运会。赛事活动期间,为了让各类人群都能平等地享受本届冬奥盛会,北京电视台上线了智能手语播报数字人,在《北京新闻》和《北京您早》等节目中进行冬奥专题手语播报,为听障人士带来精彩赛事报道。
最新数据显示,我国听障人群超过2700万,这部分人群与健听人一样,他们对教育、社交、娱乐等信息获取都有巨大的需求。但长期以来,传统人工手语翻译工作量大,且主持人和手语主持人配合难度极高。手语动作表情复杂,语序与正常语序差异大,正常情况下想要熟练掌握手语大约需要2年左右的时间,还要结合语境进行猜测。
受北京市科委科技冬奥专班委托,北京电视台联合凌云光、智谱AI等业内科技公司,在北京市残疾人联合会和市残联聋人协会等支持下,用3个多月时间,让手语播报数字人完成了近10万条手语语料学习,且翻译准确率高达90%。
在如此短的时间内实现这项高难度动作,智能手语数字人是如何做到,在这背后又有哪些技术创新难点?
在多位业内人士看来,近年来人工智能体系建设重点布局在算法层和应用层,数据层建设远远不足,并且针对数字人相关产业,底层数据库的数量、质量和开源程度还明显不足。尤其是国内现有的手语语料数据库数量少,且多以图像、视频等二维平面为主,无法满足AI(人工智能)训练的需求。
同时,因手语语序与中文语序差异大,方言分化更加复杂,且需要通过表情、口型、动作等方式来传达信息。除了传统的二维平面图像、视频采集,三维肢体运动、表情信息数据采集及结构化参数表达外,手语语料数据库建设对三维运动信息捕捉也十分重要。
凌云光手语数字人产品相关负责人介绍,在建设高质量手语语料库的同时,他们充分调研了2022北京冬奥专用手语术语,并联合北京市残联、聋人协会等相关组织机构,进行数据标注,建设手语语义映射关系,不仅完善了国内手语数据库的建设,也为手语推广和AI研究留下了宝贵的数据资产。
该负责人举例说,基于“悟道2.0”超大规模人工智能模型的技术支撑,手语数字脑用计算机模仿听障人士的大脑,将看到的中文文本信息转换成手语词汇序列,包括中文语义蒸馏模型和AI手语分词快编算法的研究。中文语义蒸馏模型用于从输入的文稿或文本中提取出关键的语义信息,将中文文本语义提炼和精简,形成精准匹配适合手语表达的文本;AI手语分词快编算法则用于将蒸馏得到的中文文本,根据冬奥手语语料库划分成相应的手语词汇序列,供数字人做表达输入。
该负责人还提到,数字人是冬奥手语播报的载体和展现形式,通过高精度写实数字人全流程制作方案,可实现一键数字建模,高度还原真人发肤,重新毛孔等细节,更加真实亲切。同时,通过跨模态拟人生成算法,还可以将手语词汇序列,生成相应的动作信息,驱动数字人模型做出相应的动作、手势和表情。(姚坤森)
(文图:赵筱尘 巫邓炎)