【高端访谈·数字经济】中科院院士张钹：ChatGPT向通用人工智能迈出了一步

新华财经北京8月23日电（李倩倩）以ChatGPT为代表的生成式人工智能自推出以来持续引发关注。近日，中国科学院院士、清华大学人工智能研究院名誉院长张钹在访谈中表示，ChatGPT的出现或意味着人工智能（AI）产业向通用性迈出了重要一步，随着基础模型不断发展，未来AI技术的应用领域将进一步拓宽。针对生成式人工智能大模型面临的安全性和稳定性方面的挑战，他认为，人工智能产业发展与治理应同时并进。

(资料图片仅供参考)

人工智能产业的发展“缓慢曲折”

“与信息科技产业持续高速的发展态势相比，人工智能产业呈现缓慢曲折发展的特点。”张钹指出，人工智能产业和信息产业的发展范式存在明显差异。

具体而言，他指出，信息产业的发展建立在完善的信息科学技术基础理论支撑的基础上，其硬件和软件属于“通用型”，能够普遍应用在各行各业。而人工智能产业尚缺乏理论基础，无论是基于知识驱动模型的第一代人工智能产业，还是基于数据驱动模型的第二代人工智能产业，其软硬件都以模型和算法为基础建立，属于“专用型”，与应用场景和应用领域紧密相关。

ChatGPT向通用人工智能迈出了一步

值得注意的是，去年11月ChatGPT的问世打破了现有人工智能技术的局限，对人工智能发展产生了深远影响。

张钹认为，基于人工智能视角，ChatGPT至少实现了两大突破：首先，以ChatGPT为代表的大语言模型，转变了传统的只处理文本形式的缺陷，使机器具备了处理文本语义的能力，并能与人进行自然对话。其次，在ChatGPT出现之前，人工智能仅能在限定领域里完成单个任务，没有实现通用人工智能，而ChatGPT在对话领域实现了通用性，不受领域限制，因此可以说ChatGPT向通用人工智能迈出了一步。

“只有跟领域脱钩，才有可能建立起人工智能的通用理论。ChatGPT在自然语言处理上实现了与领域无关，是人工智能的一个重大突破。”张钹说。

从应用层面来看，目前人工智能技术已在交通、健康、教育、安全、娱乐、金融、智能制造等多个领域得到应用，覆盖范围广泛，涉及行业众多。张钹认为，随着基础模型的突破，作为“AI大模型+机器人”结合的通用智能机器人（具身智能）有望迎来发展机遇。

大模型时代AI产业发展应开放与治理同行

不过，张钹强调，ChatGPT仅在语言处理领域达到了预期目标，目前还不能被称为通用人工智能。同时，作为一种基于深度学习的自然语言处理模型，ChatGPT在结果输出上具有一定的随机性，不太适合应用于不确定、多变、关键和复杂的环境，同时还存在质量不一致、不可控、自我解释能力差、常识和推理能力不足等缺陷，这也使得人工智能治理的重要性凸显。

对此，张钹认为，人工智能治理既包括对模型本身的治理，也包括对模型使用者的治理。其中，对模型的治理可通过人工智能对齐（AI Alignment），由人类帮助它通过监督学习（supervised learning）、使用人类反馈的强化学习（RLHF）等方式进行治理；对模型使用者的治理则重点需要防止滥用、误用等。

基于生成式人工智能大模型的特点，张钹认为，人工智能产业的开放与治理应同时进行，边开放边治理，治理的最终目的是为了加快推进人工智能产业发展和迭代升级。

（文章来源：新华财经）

标签：