以强监管对抗不公平算法偏见

在中共中央政治局第三十四次集体学习中，Xi总书记强调，要规范数字经济发展，坚持促进发展和监督规范两手抓、两手硬，在发展中规范，在规范中发展。

近年来，随着互联网经济的快速发展，一些大型平台企业如雨后春笋般涌现。借助大数据、人工智能等现代信息手段，他们的业务涵盖网购、交通、旅游住宿、点餐外卖、网络游戏等。然而，平台企业在提供产品或服务的同时，也暴露出一些不容忽视的问题：有的被大数据煮熟；有的通过网络直播推送违法内容；一些好评和差评。

很多企业需要利用人工智能辅助决策，依靠算法进行“业务诊断”，获取决策信息，确定业务策略，保持竞争优势。但是，算法的本质是一种互联网的编程技术，需要人的参与。既然是人在操作，难免会有主观色彩和不公。

比如一些西方媒体报道，发现美国医疗风险预测工具存在严重的种族偏见；苹果的信用卡算法明显歧视女性.可以说，在数字经济时代，面对看不见摸不着的算法，消费者成为“弱势群体”，其权益亟待保护。

如果任由不公平的算法无序发展，不仅会破坏公平竞争的市场环境，还会让消费者成为技术欺凌的对象，从根本上影响数字经济的发展。因此，必须严格监管，有效解决算法不公平的问题，可以从以下几个方面采取措施。

一是加强监管顶层设计。Xi总书记指出，要完善市场准入制度、公平竞争审查制度和公平竞争监管制度，建立全方位、多层次、立体化的监管体系，实现事前、事中、事后全链条、全领域监管。对于算法的监管，无论是事前监管、事中监管还是事后监管，无论是伦理审查与否，都要坚持从严，做到全监管全覆盖。要建立分级分类监管机制，加强算法应用的分级识别和分类管理。对于不同的算法，确定不同的监管级别和尺度，对于涉及公共利益、生命健康、产权等的算法。监管必须加强。要严格规范目标，严格监控监管目标。加强伦理审查，必须严格审查与价值观和道德相关的算法，特别是对未成年人的教育，坚决铲除不公平的土壤。要加强典型案例建设，围绕侵害消费者权益的“二选一”、大数据查杀等问题列举一批典型案例，提高社会知晓率。

二是加强相关法律制度建设。Xi总书记指出，要完善数字经济治理体系，健全法律法规和政策体系，提高我国数字经济治理体系和治理能力现代化水平。需要加强算法领域的立法建设，尽快出台相关法律法规，填补相关法律的空白。司法机关应加强算法应用案例研究，尽快出台相关司法解释，通过判例加强对消费者权益的保护。有必要建立算法投诉响应机制，充分保障社会各界的投诉和监督权利。要加快培育一批技术鉴定机构，加强技术审核力度。

三是加强对策的算法研究。加强对垄断企业的监管

四是加强监管机构建设。政府相关部门可考虑设立专门机构负责制定算法应用伦理、规则和标准，及时查处不公平算法，加强对算法应用的有效监管，确保运营商使用的算法可知、可验证、可逆，并在出现争议时向司法机关和第三方组织提供数据和相关信息，使算法应用具有可验证性和可解释性；提高算法实施者的举证责任，彻底解决消费者举证难、鉴定难的问题，相关部门应加强协调，细化监管责任，实现分工协作。要完善监管技术和手段，使监管治理贯穿创新、生产、管理、投资全过程。