长江云客户端

长江云公众号

小红书等应用被下架内容监管漏洞亟待修补

小红书被多个应用市场下架,折射出互联网应用平台存在黑产乱象以及内容审核监管难题。自7月29日开始,小红书陆续被华为、魅族等安卓手机应用市场下架。对此,8月1日凌晨,小红书发表声明称,公司已对站内内容启动全面排查、整改,进行自查自纠。值得注意的是,今年以来,包括小红书、新浪新闻、网易云音乐、喜马拉雅等数十款应用软件被有关部门处以约谈、下架或关停,而原因多涉及发布违法违规内容。

在业内人士看来,仅通过人工或机器判定平台上的内容是否违规,难以全面打击小红书平台笔记代写代发的灰色产业链。目前,内容监管漏洞存在的主要原因是,平台风控模型不完善,且内容审核队伍培养不到位。未来,应用平台需完善自身审核机制,同时相关政府部门也需通过完善法律法规来促进平台内容审核制度的进步。

小红书或因内容违规被下架

针对小红书被下架的原因,目前尚无定论,不过小红书被下架前,已经多次被爆出笔记代写代发以及数据造假、发布虚假广告。如今年3月,有媒体曾曝光小红书平台存在代发虚假“种草笔记”获利的灰色产业链。除虚假“种草笔记”外,小红书还曾因涉嫌销售违禁药品、香烟和发布虚假广告遭到处罚。本月初,工信部还通报称,小红书运行主体未经用户同意收集个人信息、误导用户同意收集使用个人信息。

据天眼查显示,小红书运营主体为行吟信息科技(上海)有限公司,自2015年6月至今已受到19次行政处罚,违法行为包括发布虚假广告、对非药品商品宣传疾病治疗功能、使用最高级和最佳用语等。同时,根据国家企业信用信息公示系统显示,今年行吟信息科技已经收到7张罚单,其中4起罚款,2起警告,1起责令限期改正。

此前,小红书已宣布从平台规则、品牌合作规则以及用户监督等多个层面出台内容治理措施,全面升级审核团队技术能力,严惩数据造假和违法违规内容,并推出了“小红书生态官”的举报反馈机制。不过,这些举措并未遏制平台上所存在的笔记代写代发灰色产业链。

8月1日,记者在某互联网电商平台内搜索“小红书代发代写”时发现,仍有许多店铺可提供笔记代写、代发的服务,其中销量第一的产品,月销量已超过2300笔。该淘宝店铺客服向记者介绍,笔记代发按照粉丝收费,0-100个粉丝发布每篇收费15元,500个粉丝每篇30元,1000个粉丝每篇40元。

除此之外,记者注意到,有些淘宝店铺还可以提供定制服务,自主选择博主类型,收费标准为5000个粉丝以上每篇收费300元,5万个粉丝以上每篇1500元,10万个粉丝以上每篇3500元。

那么,为何屡经媒体曝光,小红书和电商平台依然未将平台上的内容黑产彻底铲除呢?一位小红书内部员工告诉《财经》新媒体记者,小红书内容审核团队的主要职责是判定平台上的内容是否违规,很少主动涉及黑产链的打击,只能通过用户举报进行相关调查和处罚。

对此,观韬中茂(上海)律师事务所合伙人、律师吴丹君在接受《财经》新媒体记者采访时表示,小红书和电商平台作为互联网信息服务提供者,其对于明知或者应知利用其信息服务发布违法广告的情形,有及时制止的责任和义务,若未履行该义务,按照《移动互联网应用程序信息服务管理规定》、《电商法》等相关条款,将被监管部门处以约谈、下架、关停等处罚。

内容审核体系亟需完善

根据国家网信办统计数据显示,今年二季度全国网信系统依法约谈网站648家,警告网站636家,会同电信主管部门取消违法网站许可或备案、关闭违法网站2899家,移送司法机关相关案件线索377件。值得一提的是,网信办重点指出,因新浪网对用户发布违法违规信息未尽审查义务,今年4月对“新浪博客”、“新浪看点”平台进行了暂停更新1个月,对“新浪新闻”“新浪博客”APP下架1个月的处罚。

除新浪微博外,今年6月,网易云音乐、喜马拉雅、soul、陪我、吱呀、语玩、空耳等近30个音频平台,因传播历史虚无主义、淫秽色情内容,被相关部门约谈、下架、关停。而在2018年,今日头条、快手、斗鱼等平台也曾因内容审核不当被处罚。如此来看,内容审核已经成为互联网应用平台生死存亡的命门,稍有不慎就有可能触及关停红线。

一位不愿具名的社区平台运营总监向记者介绍称,互联网平台的内容审核是没有硝烟的战场,黑产与内容审核人员之间是一场长期的攻防战,而在战斗中,还有散布淫秽色情等内容的不法分子来捣乱,审核人员织起来的这张安全网很难万无一失。“但是出了问题,外界肯定觉得是平台的责任,我们有时候也是压力很大。”该运营总监说。

目前,在内容审核方面,今日头条等互联网平台也在通过“机器+人工”的方式构筑虚假内容防御体系。例如,近日今日头条推出的组新版反低俗助手“灵犬”,用户只需要在“灵犬”内输入一段文字或文章链接,“灵犬”通过提取、分词、和语义识别,然后根据相关规则,就可以在短短几秒内检测出内容健康指数。

然而,一位具有多年内容审核经验的审核培训师告诉记者,上述模式虽然可以起到一定作用,但是难以杜绝不良内容的产生。“小红书的下架也折射出了内容审核的困境,即机器审核难以完全剔除有害信息,尺度把握不好还会误删内容伤害用户,人工审核也存在诸多问题,例如人工审核员职业发展方向窄、流动性大、专业人才培养难。”该审核培训师表示,内容审核漏洞常存的主要原因在于,企业风控模型不完善,以及内容审核队伍培养不到位。

除了上述审核难题外,记者注意到,有些企业因为没有相应的技术能力以及审核团队,会将审核工作外包给第三方内容审核机构,而背后的原因是对成本的考虑。然而对于这一做法,多位业内人士认为,无论成本多高,内容审核都是互联网应用平台必须要做的事情。由于内容审核处于“非常时期”,第三方审核机构没有平台自身用心,事关存亡的内容审核业务还是掌握自己手中比较安全。

一位抖音技术部人士指出,无论是平台自己来做审核,还是找第三方机构代理,审核的速度都难以超过内容更新的速度,这就需要有更好的内容审核机制。目前平台上有大量用户,可以设计投诉机制,鼓励用户对不良内容进行投诉举报,这会很大程度上减轻平台的审核压力。

在吴丹君看来,除平台完善自身审核机制外,相关政府部门也需要通过完善法律法规来促进平台内容审核制度的进步,例如由政府部门制定平台内容审核执行标准,提供具有可操作性的实践指引。同时,目前我国监管部门的整治重点集中在网络平台运营者,未来还可以加大对网络用户发布违规内容的处罚。

来源:凤凰网

(编辑:郭小涵  审核:蒋艳)

违法和不良信息举报电话

鄂公网安备 42010602000216号

巨宏国际时时彩