人工智能发展面临的风险挑战及应对策略
人工智能作为先进生产工具，能够帮助产业降本增效，进而增加产业竞争力。人工智能的应用能够创造出新需求与经济增长点，引领人类进入智能化元宇宙时代。当下，数据已经成为关键的生产要素，数据要素的流动可提升市场全要素生产效率。基于大量数据训练的人工智能为实现全球数据大爆发和高流动提供了进一步可能，人工智能广泛介入社会生产生活，并将深刻改变生产方式和生产关系。在人工智能的影响下，整个社会结构层次都将面临相应调整，人工智能
◎文/ 杨 东 黄尹旭
发展既是重大机遇，也面临较大风险挑战。近期，国家网信办等七部门公布《生成式人工智能服务管理暂行办法》，体现了我国在新领域治理上的制度性优势。应当进一步研究人工智能发展规律及其风险，探索系统性的治理路径，为世界人工智能产业健康发展提供中国方案。
人工智能发展面临的风险挑战
数据争夺、数据安全风险。通用人工智能的训练需要海量数据进行深度、强化学习。数
字经济时代的数据要素资源作用凸显，成为国际竞争的重要维度。一个国家掌握了世界性的流量入口，就拥有了绝佳的数据获取工具。ChatGPT 等人工智能成为最新流量入口，如果我国无法推出一个能与其匹敌的应用，则我国的诸多流量很可能流向国外，在产生数据安全、数据违规跨境等一系列风险的同时，我国也将在国际数据竞争中处于劣势。同时，在市场主体的竞争中，国外科技企业基于流量入口取得大量有价值的数据，就能够垄断大量用户数据用于深度开发利
72 2023.07
讲 座
用，那么我国企业极有可能在发展上长期受制于人。
知识产权侵权风险 。 ChatGPT等人工智能可能冲击知识产权法的基础制度。一方面，生成式人工智能所生成的一系列文字产品，在算法训练中使用了他人具有知识产权的成果，可能会侵犯他人的知识产权；另一方面，人工智能生成的文本能否获得著作权保护亦没有明确答案。如果放任其发展，现有的知识产权制度可能会受到严重挑战，依托人工智能生成作品进行搭便车的行为可能显著增多，知识产权市场 自身 的稳定性遭受严重冲击。从长远来看，在人工智能层出不穷的技术创新面前，现有的知识产权法体系亟需改变甚至重构。
虚假信息或恶性内容风险。ChatGPT 等人工智能也可
能产生出一系列虚假信息或者恶性内容。人工智能生成的内容基于大量的数据筛选和模型训练，而数据的筛选、清洗，以及不同地区的内容监管标准差异，最终会导致内容产出存在风险。具体而言，人工智能既可能由于其数据集自身错误或缺失，进而生成错误的内容；又可能由于其所训练数据中针对国家、种族或者特定群体的歧视，而在回答中展示这些恶意内容。特别值得注意的是，由于标注者自身意识形态的差异，ChatGPT 等人工智能最终可能呈现出训练者所在国家的价值观。由于数据来源隐含着相应的意识形态，我国用户在使用以西方数据为主的生成式人工智能时，可能遭遇意识形态霸权的冲击。如果我国没有产生出以中文为主要训练语言的人工智能模型，就会严重影
响数字时代的平等与文化多样性。
技术霸权风险。我国长期重点关注“卡脖子”技术，而ChatGPT 所代表的人工智能生成 内容技术就 目前来看优于我国类似技术，西方发达国家人工智能技术在我国的大力发展，可能会侵蚀我国相关技术的发展土壤，导致我国在技术上很难有赶上外国的契机，最终导致在人工智能领域的外国技术霸权。同时，这种技术霸权 同样意味着特定语言 的霸权，如 ChatGPT 主要通过英语进行训练，其他语言的适配效果不如英文。亦有实践表明， ChatGPT 对特定问题，简体中文和繁体 中文 的 回答截然不同。技术霸权的存在，意味着我国在先进生产工具方面滞后于西方国家，并在未来国际竞争中处于劣势。
第三届世界智能大会
2023.07 73