但最终整套安全是要走向体系化和智能化(注册保护、登录保护、活动反作弊、反垃圾等)。很多运营刚开始的时候会提倡注册量,之后看到很多疑似垃圾注册的数据,具体表现为随机产生的无意义字符串,但是当这些账号没有产生交互行为,处理时的依据在哪里?处理后面对用户来申诉你的理由是什么?因此我们需要借助成熟的人机识别技术进行甄别,从科学的角度识别机器人与自然人。此外,在法律依据上,这是一种属于破坏计算机系统的行为(具体参阅中华人民共和国刑法 286 条)。有了科学依据、法律依据后,我们便有依可据了了。同样,我们还有登陆保护,一环扣一环。注册保护、登录保护、反作弊都是基于人机识别,而反垃圾就是从内容的维度进行保护。试想,黑灰产想要低成本提高利润只能借助非法工具,其最终的目的是商业利益(内容上表现为恶意推广),因此多一重保护,就是增加黑灰产的成本。 同样,在各个业务场景里面都会遇到这些有害信息。我们最害怕的是如果突然失控之后,原来所设想的情怀也好,温暖人心的东西也好,都将不复存在。当用户看到满是垃圾的产品,还怎么再跟他说情怀?所以我们要吧一些有害的信息过滤掉,让用户看到一些优质的、真实的内容。 网易内容运营涉及到的核心技术 很多人说IP可以换,帐号也可以换,但是最重要的设备呢?做到唯一性很难,但是网易做到了,只有在设备唯一性的前提下,所有的策略才能保障准确性。与此同时,借助人工智能,大数据分析的一些技术手段,我们能智能防御多种安全风险。举个例子:图像鉴黄,面临的挑战是快与准。即整个检测过程在百毫秒内完成,不影响线上的用户体验,同时是准备识别,极大的降低了有害信息的曝光率。能做到并不容易,但是在内容运营中优质内容第一,用户体验第一,我们必须要做到。 垃圾特征库,哪些信息是需要运营去做的,哪些信息要快速的过滤掉,如果对人工智能算法了解的话,就会知道深入学习需要一个周期,如果有特征的话,就可以时时做处理,甚至添加一条策略规则就可以时时上线,缓解线上的一些问题。最理想的情况是在用户发表的毫秒级别内,机器自动识别。假设出现了一个不好的信息,你有没有应急的处理能力,你的运营是否可以快速定位找到这个信息,然后把这个信息给扼杀掉。对于网易来说,已经有成熟的技术团队和安全的经验的积累,我们为什么我们愿意把这个评论规则公开,就是因为我们有这样的技术实力和经验的积累。 让优质内容自涌现,让劣质内容纳入规则,借助人工智能过滤有害信息。用心做产品,用心做运营,用户会感受得到。 (责任编辑:admin) |