算法“黑箱”给消费者权益保护带来新挑战

来源：中国新闻网时间：2021-03-15 09:00:54

在数字经济时代，“数据赋能”已经成为主要的经济驱动力之一。随着数据竞争日趋白热化，大数据杀熟问题等日渐受到各方关注。

上海市消保委方面14日接受采访时指出，“杀熟”的方法就是歧视性算法，杀熟的结果就是以消费者的权益换取平台数据价值的最大化兑现，并指出，基于歧视性算法的产品匹配，本质上是平台对算法权力的滥用。

该委呼吁，健全数字规则，尽快出台算法规制，促进平台算法公平，保护消费者合法权益。

该委方面当日披露了相关调研结果。在大数据场景中，交易越来越多地依靠算法完成。互联网平台通过不断优化的算法和不断提升的算力，向消费者提供更为高效、丰富、精准的全领域优质服务，带给广大消费者极大的便利。但在交易效率不断提高的同时，算法的不透明性与难解释性也给消费者权益保护与反不正当竞争带来新的挑战。

据了解，初代的大数据杀熟，依靠的是算法的简单判断，比较典型的就是“熟客卖高价”。比如，新客通常会在不同平台比价，因此，平台对新客展示的是低价;如果是老顾客，那自然价格就会高一些。和“熟客卖高价”相类似的还有“新人插队”。二代大数据杀熟中的“熟”，已经不是“熟客”，而是被平台充分掌握个人信息的“熟人”。

上海市消保委方面14日接受记者采访时表示，消费者对于“大数据杀熟”的厌恶在于平台的欺骗，基于欺骗达成的交易自然就没有公平性可言。算法从接受输入数据到输出决策结果的全过程，形成外界无法获知的“黑箱”，算法在其中进行数据的处理、评估及分析，并根据具体场景作出决策。算法“黑箱”的非透明性导致二代大数据杀熟行为更加隐蔽、难以察觉。

随着人工智能等新技术的运用，算法快速迭代，再加上平台对消费者个人信息的全方位收集，个性化推送成为了平台主要的营销手段，而竞争的核心就是推送精准度。

据了解，2020年下半年，上海市消保委曾使用多个手机终端模拟不同收入群体的消费者使用相同的APP，并进行一段时间的虚拟人设操作。测试发现，不同手机接收到的广告差异度极大，模拟低收入人群的手机高频度收到各类低价劣质商品和网络贷款广告。不久前，上海复旦大学教授孙金云带领团队做了一项“手机打车软件打车”调研，报告显示，某特定品牌机主更容易被更贵车型接单。

关于价格组合，上海市消保委方面介绍，相较于初代大数据杀熟显而易见的欺骗性差异化定价而言，基于复杂算法的价格组合更为隐蔽，也更能被合理化解释。上海市消保委在不同平台测试了订房、买菜等业务，不同账号的价格差异比以前更大。但与以前不同的是，现在的“千人千价”是由原价与各种优惠券所组成的。这些券并不是账号钱包里原有的，而是算法临时生成的。算法也为这些优惠券说明了各种不同的理由，比如“上个月你打过车”“前天你买过菜”等等。

上海市消保委方面认为，基于算法的个性化内容推送客观上会扩大个体间的认知偏差，而平台出于商业目的的算法歧视，可能打造信息茧房，侵害了消费者的知情权。

消费者因为缺乏免受算法决策支配的“退出”的权利，从某种程度上被剥夺了依法享有的选择权。该委方面指出，基于歧视性算法的价格组合，究其实质就是对消费者公平交易权的侵害。(完)(记者陈静)