点击一条茶叶信息,就会不停收到各种关于茶的养生知识和广告推送;订购一张飞机票,发现显示的价格和朋友差别很大,甚至多点几次查询价格就会大幅上升……身处移动互联网时代,每天都要面对海量信息,怎样才能高效地做出最佳选择?算法推荐技术大显身手,成为平台与用户的好帮手,但一些乱象也随之而来,过度推荐、广告精准推荐、大数据“杀熟”等让人防不胜防。
近日,国家互联网信息办公室等9部门联合印发了《关于加强互联网信息服务算法综合治理的指导意见》(以下简称《意见》)。《意见》回应社会关切,打出一套组合拳,为算法推荐念起“紧箍咒”,为算法计算的规范化发展扎紧了制度“篱笆”。
不知不觉 就收到“私人订制”
“想在某电商平台上买一款扫地机器人,搜索后相关产品的推荐就没有间断过,各种品牌、各种型号价格都有,让人看花了眼,甚至连其他常用的App上都有。”家住合肥市高新区的婷婷说,没想到一次搜索让广告变得无处不在,“感觉App一直在窥视着你,有点可怕”。
这种精准化推送的不只是商品,新闻资讯、影视视频等同样如此。“刷完一个视频后,平台上马上开始自动播放同类型的视频,有时候一看就是几个小时,简直是被动熬夜。看完后又觉得好像没有意义,什么收获都没有。”合肥大三学生刘晨抱怨说,自己学习之余喜欢看一些视频打发时间,但每次都会在手机页面上停留很久,过后又总是懊恼不已。
广告推荐为啥无孔不入?刷短视频咋就停不下来?这些按照个人偏好精准化推送的商品、视频背后,离不开平台推荐算法的精心计算。随着大数据、人工智能的广泛应用,一些商业网站、移动新闻客户端,包括直播平台、浏览器、搜索引擎、影音软件等,都在运用算法这个“读心术”,为用户量身打造信息,创造出一种新的个性化阅读体验,信息获取已经从“大海捞针”进入“私人定制”模式。
毫无疑问,算法为我们的衣食住行带来了诸多便利。作为一种帮助实现用户与信息快速精确匹配的技术手段,推荐算法如今已广泛运用于电商、社交、内容资讯等众多互联网领域。借助算法,我们得以足不出户在琳琅满目的商品中挑选更适合自己的那一件,得以在回家时轻松找到一条最通畅的道路。
然而,不少网友也反映深受算法之扰,“说好的优化用户体验,给人的感觉就是商家增加流量、增强用户黏性、收割用户钱包的利器。”合肥高新区一家网络科技公司负责人孙加明认为,所谓的算法有时成为了商家追求利益的砝码,一切围着流量转,唯点击量、转发量马首是瞻,“标题党”泛滥,价值取向跑偏,内容却沦为附庸。
可以是“计算”也可能是“算计”
业内认为,算法是基于数据用系统方法描述、解决问题的策略机制,在经济、社会生活等领域广泛应用的同时,基于累积数据不断迭代,成为影响信息分发、服务提供、机会分配、资源配置的基础性机制和力量。在算法时代,算法的使用者能够借助计算机的强大算力、大数据的庞大基础和人工智能的巨大潜力,通过一行行代码和一个个模型占领高地,洞悉普通用户,使得公众在算法面前变得“透明”。
随着移动互联网的飞速发展,互联网产品中滥用算法的现象越发常见。一些互联网内容和服务提供者不合理地使用算法,利用收集的用户信息和行为习惯为用户精准画像,并在此基础上为用户提供产品和服务,以获取更多商业利益。
赛迪研究院的一份报告梳理了滥用算法推荐侵害消费者合法权益的主要表现形式,一是大数据杀熟。通过数据和算法实施价格歧视,对不同用户采取不同的价格政策,新老用户不同价、不同地区用户不同价、浏览量多或少的用户不同价。二是致瘾性推荐。通过数据和算法向用户进行个性化推荐,推荐其感兴趣的内容,且不论这些内容是否恰当、适合。三是影响和误导消费者。通过数据和算法对流量分配、搜索排名、评价等级设置障碍,限制经营者开展交易,降低消费者选择的可能性,进而引导和左右消费者选择。
“为了取悦用户,算法会不断推荐其感兴趣的内容,这种个性化推荐收窄了用户的信息接收范围,并减少了接受差异化讯息的可能性,容易让人深陷‘信息茧房’而不自知,不利于个人认知成长。”孙加明认为,一旦算法推荐的设计理念偏离正确导向,劣质低俗信息精准推送的问题就会随之而来。
算法的负面效应还不止于此。专家介绍,设计算法时以平台利润最大化为核心价值,侧重算法逻辑,较少考虑人性,并将经营者和从业者“异化”为简单的数据、商品和工具,有可能导致算法偏见和不公平决策。此前媒体广泛报道的“被困在算法里的外卖骑手”,就是算法负面效应的典型表现。而“算法面前,人变成了工具”等尖锐问题也曾在网络上引发强烈共鸣。
避免算法推荐“野蛮生长”
算法作为一种技术手段,必须有正确的价值观引导,织密规范推荐算法服务的法网正当其时。
《意见》明确提出,要利用三年左右时间,逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。将于11月1日施行的《中华人民共和国个人信息保护法》也对这类问题作出回应,规定个人信息处理者通过自动化决策方式向个人进行信息推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。
有关部门非常重视算法滥用产生的各方面问题,着手对算法使用展开全面治理。早在今年5月8日,在国务院新闻办公室举行的2021年网络“清朗”系列专项行动新闻发布会上,国家网信办副主任盛荣华表示,治理算法滥用行为属于专项行动的8个方面任务之一。8月27日,国家网信办发布《互联网信息服务算法推荐管理规定(征求意见稿)》,也提出了算法推荐服务提供者应当遵守的规定。
可以预见的是,一系列法规规定开启了对算法进行全流程、全生命周期治理进程,将为算法推荐找到一种更透明、更可持续的发展道路,让算法走向规范化、透明化,在公众服务中发挥更大效力,避免算法推荐“野蛮生长”,从而达到个人信息保护和数字经济产业发展的双重目标。
实际上,算法推荐技术不仅能够做到个性化推送,还包含多种功能类型,如排序精选类、检索过滤类、调度决策类等,可以提升信息传递的精准性,优化用户体验。热搜、网约车派单、时间规划等,都是根据平台特有算法,计算出最佳阅读喜好与履约路线,从而大幅提升平台的运营效率。在这样的算法进化之下,用户们能获得更好的使用体验。