川观评论丨治理“算法作恶”的关键是重塑平台价值观

2024-11-27 18:44:43来源:四川在线编辑:牛霄

川观新闻评论员 周丽萍

11月24日,“网信中国”正式发布:中央网络安全和信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅近日联合印发通知,部署开展“清朗·网络平台算法典型问题治理”专项行动。

今天,我们生活在一个被算法包围的网络世界。算法给我们带来前所未有的高效与便利,同时我们也深受不良算法的困扰和伤害。本次专项行动重点整治的同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、利用算法实施大数据“杀熟”等侵害用户合法权益等问题,就是被诟病的算法之“恶”。

或许技术本身无罪,但算法机制如何设计,用在哪里、怎么用,将造成不同的建设性或破坏性力量,这背后关乎商业伦理和社会责任。比如,一个以追求利润最大化的广告投放算法,可能会向用户推送大量低质量、误导性的广告;算法设置青睐那些博人眼球、挑动情绪的内容,导致大量粗制滥造、低俗虚假的内容广泛传播,“鸡毛蒜皮”占据热搜……

一切都是为了商业利益。“脸书”在2019年的内部文件中就承认,“仇恨言论以及分裂性言论与错误信息,正在影响世界各地的社会……我们的核心产品机制,如病毒式传播、推荐与提升用户黏性,正是此类言论在脸书平台盛行的重要原因”。现实中的算法逻辑,莫不如是。一些平台只关注流量和利益,将真实、导向和责任感抛到一边。

历史学家、哲学家尤瓦尔·赫拉利在《智人之上》一书中指出:如果缺乏强有力的修正机制,无意识又极为强大的人工智能算法将带来前所未有的恶果。从发展的眼光看,新兴技术总是在“立题”和“破题”之中成长,风险与机遇共舞,既不能饮鸩止渴,也不要倒洗澡水时把孩子也倒掉。从更大的视野来看,如何理解“智能向善”、引导“技术向善”,是全球共同的挑战,关系到人类的前途命运。

正如2024年世界互联网大会乌镇峰会的主题:“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”,努力实现技术的抑恶扬善,与人工智能美美与共,监管与治理就需要更积极主动地跟上技术的发展步伐,现在就要开始行动。

此次网络平台算法典型问题治理正当其时。监管部门明确要求严禁推送高度同质化内容诱导用户沉迷;提升榜单透明度打击操纵榜单行为;全面公示热搜榜单算法原理,提升榜单透明度和可解释性……反映网友关切,直中问题要害,最终目标是实现网站平台算法导向正确、算法公平公正、算法公开透明、算法自主可控以及算法责任落实。

治理的是算法,关键还在人。算法没有价值观,但算法的“善”“恶”,是由算法背后人的价值观决定的。通过这项治理,希望平台尤其是企业经营者、平台管理者、算法设计者等“关键的人”,都应心中有“束”、手中有“术”,努力为“善”。

    编辑推荐