“人工智能之年”的希望与警示

新华社北京12月28日电（记者罗国芳）今年以来，以ChatGPT聊天机器人程序为代表的生成式人工智能引发全球关注，人工智能英文缩写AI入选《柯林斯英语词典》“2023年度单词”。

从辅助科研到艺术创作，从金融分析到自动驾驶，飞快进步的人工智能有效提升工作生活的效率和质量，助推多个行业形成新质生产力。同时，随着演进速度加快、赋能范围变广和影响程度加深，人工智能的负面影响和潜在风险也警示要推动这种前沿技术安全有序发展。

争相加入竞争赛道

谈起生成式人工智能，就不得不说今年“火”起来的ChatGPT。这是一款自然语言处理工具，由美国开放人工智能研究中心（OpenAI）于2022年11月底推出，其自然语言交互与多场景内容生成能力逼近人类，迅速掀起全球范围的大模型技术发展热潮。

生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。具有上千万甚至百万亿参数的深度学习或机器学习模型——大模型，是生成式人工智能的“灵魂”。

ChatGPT火爆全球后，各个科技巨头竞相加入大模型工具竞争赛道。今年2月，微软公司宣布向OpenAI投资130亿美元，并将GPT版本集成到其“必应”搜索引擎中；谷歌发布生成式人工智能聊天机器人“巴德”（Bard）；美国“元”公司发布大型语言模型LLaMA……最新消息是，OpenAI又于11月推出GPT-4 Turbo。谷歌则于12月又推出生成式人工智能模型“双子座”，“双子座”据称是首个在“大规模多任务语言理解”领域超越人类专家的模型，拥有更复杂的推理能力。

2023年5月18日，观众在第七届世界智能大会智能科技展上参观科大讯飞展区。新华社记者李然摄

华为“盘古”、百度“文心一言”、科大讯飞“星火”、中国科学院“紫东太初”……中国企业2023年也相继推出大模型工具，并快速更新迭代。中国科技部新一代人工智能发展研究中心今年5月发布的《中国人工智能大模型地图研究报告》显示，中国研发的大模型数量排名全球第二，10亿参数规模以上的大模型已发布79个。

自上世纪50年代英国数学家图灵提出“人工智能”概念后，人工智能发展历经起伏。近年来，随着芯片等相关技术进步、算力提高，深度学习技术取得重要进展，现如今人工智能已能够大规模落地应用。未来，随着基于大规模图像、语音、视频等多模态数据的跨语言的自监督预训练模型进一步发展，其认知、推理能力不断提升，人工智能必将变得更加普及、个性化，人机融合也将更紧密。

逐渐走进千家万户

以大模型为代表的人工智能发展呈现出技术创新快、应用渗透强、国际竞争激烈等特点，展现出强大的赋能效应。无论是在科研、商业还是民用等领域，人工智能都有着广泛的应用前景。知名咨询机构麦肯锡今年8月发布了一份名为《2023年人工智能的现状：生成式人工智能的突破年》的调查报告。报告显示，40%的受访者确认，由于生成式人工智能不断进步，他们所在机构将在人工智能方面进行大量投资。到2030年，人工智能市场规模预计将达到2万亿美元。

在国内，当前我国人工智能核心产业规模不断增长，企业数量超过4400家，智能芯片、开发框架、通用大模型等创新成果不断涌现。从加快新药研发、精准预报天气，到缩短工厂产品交付周期、提高办公效率，越来越多的行业大模型正加快落地。截至目前，中国开发的人工智能大模型已经在智慧矿山、药物研发、气象、政务、金融、智能制造、铁路管理等领域展现出巨大的应用潜力。赛迪顾问近日发布的《2023年中国生成式AI企业应用研究》预计，2035年中国企业生成式人工智能采用率将达到约85%。

2023年10月31日，观众在2023云栖大会“人工智能+”展馆参观人工智能产品及应用。新华社记者黄宗治摄

在海外市场，聊天机器人是今年热门人工智能应用。据德国Statista数据平台评估，到2025年，聊天机器人市场规模预计将达到12.5亿美元左右。除了ChatGPT和谷歌的“巴德”，美国“角色”人工智能公司主攻社交和娱乐功能的聊天机器人、Inflection公司提供类似心理咨询功能的聊天机器人“个人智能”（Pi）、Anthropic公司的聊天机器人“克劳德”（Claude）等也广受关注。

此外，图片、视频生成和处理也是海外人工智能重要应用领域之一。美国人工智能初创公司Runway的文本一键生成视频工具已经被广泛应用于电影、电视和广告领域。美国人工智能初创公司“米德朱尼”（Midjourney）的同名文生图工具、以色列人工智能公司Lightricks的图片和视频编辑工具、英国人工智能公司Stability.ai的文生图“稳定扩散”模型（Stable Diffusion）等都是业界热门。

医卫方面，加拿大麦克马斯特大学等机构研究人员利用人工智能发现一种能杀死致命细菌的新型抗生素；金融领域，美国沃途金融公司等采用人工智能算法做出更精确的交易决策；艺术创作中，利用人工智能工具Midjourney绘制的画作《太空歌剧院》在美国科罗拉多州博览会数字艺术类竞赛中获一等奖；在办公领域，微软Microsoft 365 Copilot能自动生成文档、电子邮件、PPT等文件……人工智能逐渐走进千家万户，已成为人们日常生活的助手，如何推动模型实现“人人可训，人人可用”已成为海外企业争相布局的方向。

治理亟需多边主义

技术是一把双刃剑。生成式人工智能日益渗入日常生活、赋能各行各业的同时，也存在一些隐忧。比如，输出结果不符合事实的模型“幻觉”，在传媒领域不当使用可能带来欺诈、虚假信息传播等不良影响；大模型依靠从互联网抓取的海量数据训练，有可能损害数据隐私、侵犯版权等；人工智能在军事领域的应用也有风险，在复杂环境或执行复杂指令时“失控”是人们的普遍担忧。

为规范生成式人工智能的应用，中国已发布《互联网信息服务深度合成管理规定》与《生成式人工智能服务管理暂行办法》等多项规章，对人工智能相关技术规范、义务主体与责任作出规定，强调技术开发、服务提供者的主体责任。国际上，中国支持联合国发挥主渠道作用，在充分尊重各国治理原则和实践前提下，形成具有广泛共识的人工智能治理框架和标准规范。

在第三届“一带一路”国际合作高峰论坛上，中方提出《全球人工智能治理倡议》，就普遍关切的人工智能发展与治理问题提出建设性解决思路，向世界贡献一个负责任人工智能大国的治理方案，为相关国际讨论和规则制定提供了蓝本。这既是中国为人工智能安全发展和应用做出的庄严承诺，更是中方践行人类命运共同体理念的重要举措。

放眼海外，相比于美国在人工智能技术应用层面的发展速度，美国关于人工智能治理的政策和立法相对迟缓，主要强调安全原则，鼓励企业自律。今年10月，美国总统拜登签署行政令，为本国人工智能安全制定新标准。这一行政令要求美国人工智能系统的研发人员与政府分享其安全测试结果及其他关键信息、完善相关标准和测试工具等。该行政令超越了OpenAI、谷歌等主要科技企业在今年早些时候做出的自愿承诺，但仍缺乏强制执行效能。《纽约时报》对此评论说，该行政令试图走一条“中间道路”——允许人工智能在很大程度上不受干扰地继续发展，同时制定一些适度的规则。

在历经马拉松式谈判后，欧洲议会、欧盟成员国和欧盟委员会三方于12月就《人工智能法案》达成协议。将成为监管法规的该法案严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术，利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。欧洲媒体报道，欧盟相关机构围绕该法案的激烈探讨表明，欧盟一方面担心该法案会阻碍欧洲初创企业追赶谷歌和OpenAI等公司发展的步伐，另一方面又怕失去在人工智能治理领域的话语权。

2023年11月2日在英国布莱奇利园拍摄的首届人工智能安全峰会现场。首届人工智能安全峰会于11月1日至2日在英国布莱奇利园举行，峰会发布《布莱奇利宣言》。新华社发（英国首相府供图）

人工智能治理是全球共同挑战，需要国际社会秉持真正的多边主义精神，开展广泛对话，不断凝聚共识。今年11月在英国举行的全球首届人工智能安全峰会上通过的《布莱奇利宣言》就指出，人工智能的许多风险本质上是国际性的，因此“最好通过国际合作来解决”。在人工智能的复杂效应不断显现之际，为同时做好该技术的发展安全和治理，需要更全面深入的科学论证、周密规划和有效执行。负责任地利用人工智能的力量，确保人工智能良好演进并以造福全人类的方式推动创新，应是人类发展科技的核心要求。