大讲堂

8月30日，由深圳数据经济研究院与深圳市人工智能与机器人研究院共同主办的第十二期前海数据经济大讲堂在线上成功举办。在深圳数据经济研究院与深圳市人工智能与机器人研究院的官方视频平台、新浪财经等媒体平台进行全网直播，在线同步观看直播的观众超35万人次，吸引了行业研究学者、企业代表、政府机构及合作伙伴们的热烈关注。

本期大讲堂围绕“数字化未来：可信AI和高效资源分配，共解时代命题”这一大主题，结合“数据驱动”“人工智能”“资源分配”“数据安全”等数字经济领域的相关主题，聚焦在资源分配在数字经济中的若干理论研究进展，以及人工智能系统存在的各种安全风险问题，集聚数字经济发展要素和创新资源，深化与纵论产学研全方位议题。数字经济既是中国经济提质增效的新变量，也是中国经济转型增长的新蓝海，政府、企业、社会各界都应积极进行数字化转型，促进数字经济健康发展。人工智能、虚拟现实、机器学习等最新技术已经开始渗入生产生活的方方面面，同时，在数据隐私保护、数字平台可信度、资源分配不均等方面也引发了更多的担忧。期待充分发挥以深圳数据经济研究院与深圳市人工智能与机器人研究院为代表的数字智慧联盟的引领作用，为数字经济走向新一轮创新能够发挥出更大的作用和价值，同时也为企事业单位的数字化、智能化转型带去更多解题新思路。

本期大讲堂的执行主席为香港中文大学（深圳）校长讲座教授、理工学院副院长、AIRS 副院长兼群体智能中心主任、IEEE 网络科学与工程汇刊主编、IEEE Fellow、AAIA Fellow黄建伟教授。由香港中文大学（深圳）博士后孙鹏进行主持，诚邀浙江大学计算机学院/网络空间安全学院教授、国家优秀青年科学基金获得者、浙江大学信息技术中心副主任王志波，新加坡南洋理工大学数学系终身副教授、华为理论计算机实验室首席研究员贝小辉进行了演讲分享。

浙江大学计算机学院/网络空间安全学院教授、国家优秀青年科学基金获得者、浙江大学信息技术中心副主任王志波率先带来了《人工智能安全风险与可信探索》主题分享。赋能应用，人工智能已突显成效，基于深度神经网络的人工智能技术在众多领域都取得了极为优越的表现，比如，人脸识别、语音识别、自动驾驶、自然语言处理、医疗诊断、智慧教育等等。可以看出来，专研技术，人工智能未来可期，前景广阔。王志波教授指出，人工智能是国际竞争的新焦点，是引领未来的战略性技术，是提升国家竞争力、维护国家安全的重大战略。然而，以对抗样本为代表的攻击技术表明人工智能技术存在内在脆弱性，其安全可信面临着严峻挑战。他详细阐述了人工智能系统存在的各种安全风险：从AI的全生命周期来看，设计阶段的安全威胁，如数据的偏见、模型的偏见；训练阶段的安全威胁，如投毒攻击与防御、后门攻击与防御；执行阶段的安全威胁，如对抗攻击与防御、成员推断攻击。他进一步提出，"安全可信" 成为 AI 发展的重要趋势，可信AI是抵御风险的关键能力，而可信AI研究可以从以下四方面解决AI的信任危机：稳定性/鲁棒性，AI系统抵抗各类环境噪声、攻击的能力；可解释性，AI系统的预测、决策是否透明、可被人理解；隐私保护，AI系统是否可以保护用户隐私不被泄露；公平性，AI系统是否公平对待不同群体，以上四点也是可信AI的四大基本原则。

王志波教授还重点从“攻”和“防”两个角度介绍其团队近年来围绕可信人工智能系统所做的系列工作。在模型公平性提升方面，提出了基于对抗性扰动的公平性提升技术，通过阻止模型提取敏感属性相关信息且保留目标任务相关信息，在不改变已部署模型情况下提升系统公平性；对于高隐蔽对抗样本方面，提出了基于噪声空间约束的高隐蔽对抗样本生成技术，根据区域复杂性自适应的添加噪声而非全局加噪，在实现高攻击成功率前提下达到噪声高隐蔽；抗压缩对抗样本方面，提出了基于压缩近似模型的抗压缩对抗样本生成技术，在对抗样本优化时引入压缩近似模型，首次实现社交平台未知压缩方式下的抗压缩对抗图像生成；物理鲁棒对抗攻击方面，设计了跨摄像头可变、位置可扩展、物理高鲁棒的对抗性图案，首次实现面向行人重识别系统的目标逃逸攻击与伪装攻击，揭示了其系统脆弱性；高迁移性对抗攻击方面，提出了基于特征重要性的高迁移性对抗样本生成技术，引导对抗样本朝着破坏目标相关的重要特征进行优化，有效提升了现实场景下的黑盒攻击成功率 。

接下来，新加坡南洋理工大学数学系终身副教授、华为理论计算机实验室首席研究员贝小辉以《数字经济下的资源配置问题：从理论到应用》为题，从拍卖、公平分配的理论模型和无线通信中的资源分配这三个角度进行了分享。他提出，数字经济中有很多新的范式，在许多应用场景都蕴含着巨大的挑战和机遇。资源配置（resource allocation）问题是研究如何将稀缺资源进行公平有效的分配，它不仅是经济学中的核心研究问题，在运筹学、社会学、数学与计算机科学中也都一直受到广泛关注。贝小辉教授从市场效率，资源分配的公平性等角度入手，介绍近年来资源配置在数字经济中的若干理论研究进展。同时，结合一些工程项目来讨论资源配置问题在工程实践中的应用及其遇到的挑战。

贝小辉教授认为，资源配置问题事实上随处可见，尤其是随着科技发展，无处不在的数据积累至今，海量的数据库为优化资源分配提供了广泛的研究范围。海量的数据将会从数字基础设施、数字业务、数字经济创新制度等方面对各个领域的发展赋能。资源配置是指对相对稀缺的资源在各种不同用途上加以比较做出的选择。在社会经济发展的一定阶段上，相对于人们的需求而言，资源总是表现出相对的稀缺性，从而要求人们对有限的、相对稀缺的资源进行合理配置，以便用最少的资源耗费，生产出最适用的商品和劳务，获取最佳的效益。资源配置合理与否，对一个国家经济发展的成败有着极其重要的影响。而资源配置既要重视效率又要考虑公平。

为了回答“如何促进高效的资源分配”的问题，他提出，资源配置是通过一定的经济机制实现的，价格作为最常见的媒介，通过市场和拍卖来优化与提高资源分配的效率。其中，拍卖，也是一种“竞价机制”，是通过一系列明确的规则使买方与卖方基于竞价所决定资源配置的一种市场机制。拍卖也分为很多种，只竞争一种资源的竞价机制称为“单一物品竞价（Single-Item Auction）” 是仅有一个买方最终赢得该物品。当拍卖物品数量为多个时，拍卖问题就会变得复杂起来。现代兴起的还有在广告场景下的广告拍卖机制，这是对竞争性资源的一种高效的市场化分配方式。数字经济增长迅速且潜力巨大，尤其是对市场设计方面，贝小辉教授认为在数字经济下的拍卖，第一，需要更先进的拍卖形式，比如在线拍卖、频谱拍卖、区块链拍卖等等；第二，需要在效率、公平、收益和用户隐私之间寻找平衡点；第三，这也是一个有着丰富应用场景的研究领域。

对于如何进行公平的资源配置问题，贝小辉教授指出，这是一个包含经济学、政治学、社会科学、数学的跨学科研究课题。他用“切蛋糕”进行比喻，“切好蛋糕”指合理分配，规则公平。想要“切好蛋糕”并不是简单的事情，要确保比例性，即每个人都认为他们至少获得了整个蛋糕的1/n份额，也要确保无嫉妒，即没有人嫉妒其他人的那一块蛋糕。

贝小辉教授最后指出在各领域数字化进程加速的数字经济时代，数据量呈现爆炸式增长，海量数据蕴藏的巨大衍生价值使数据成为数字经济时代的战略性基础资源。数字经济为资源配置引入新范式，比如数据市场、共享经济、匹配市场等。这些范式带来了新的挑战和限制，数字化新范式也正通过其独特的作用，不断推动资源精准高效配置，助推经济高质量发展。

本期大讲堂，在数字化未来的大背景下，从一方面展示了在以可信 AI 为代表的技术发展下，产学研携手共进的多视角经验，围绕着 AI 现况与下一步实践展开深入探讨，为 AI 技术的发展与价值创造提供了新思路、新框架。从另一方面探讨了资源配置问题，在数字经济时代，互联网使经济活动环境发生了巨大变化，广泛的便利性、极大的市场参与度，都为资源配置引入了新思考，也亟待新方案的出现。

系列化、品牌化科创学术活动前海数据经济大讲堂已进行到第十二期，这是一个系列化的学术活动，是深圳数据经济研究院主办的公开学术交流活动，围绕国家培育数据要素市场战略，以数据产权、数据隐私、数据交易、公共数据共享开放与运营等前沿课题为核心，联合数据经济领域学术、政策和业界力量组织开展系列学术交流活动，率先打造国内首个面向数据要素市场规划与建设的学术平台，依托前海政策制度和产业创新优势，建立数据要素市场研究智库。

第十二期前海数据经济大讲堂回顾