21世纪是AI的时代。以ChatGPT为代表的生成式AI技术，代表着人工智能发展的新阶段。通过深度学习模型生成文本和图像等内容，相应技术显著提高了人机交互的自然度和效率、扩展了AI的应用场景。在这个过程中，人工智能完成了哪些创新？又有哪些挑战？面对眼前的潘多拉魔盒，人类又应如何开展治理？一起来听听中国人工智能奠基人、清华大学计算机教授、中国科学院院士张钹的分析吧。
从1957年开始到2013年，生成式AI技术从想法到落实，一共花了人类56年。在这56年间，全世界的科学家、工程师，通过不断的创新，解决了文本表示这一关键技术问题，创造出以ChatGPT为代表的生成式AI工具。
所谓文本表示，指的是将文本信息转换为计算机可以理解和处理的格式或形式。虽然计算机在处理数据上堪称专家，但在处理语义方面就像一个还在学习语法的外国学生，时不时地会闹出点笑话。
为了解决这个问题，研发者们通过采用词向量表示文本的方法，将文本中的词、句、段落转换为向量（一种具有大小和方向的量，包含词的语义信息，如词义、上下文关系等），使得计算机可以像处理数字数据一样处理文本数据，从而理解文本的语义。
在AI的世界里，语义表达有两个重要纬度，分别是语义理解的深度和语义生成的质量。因此，光理解文本语义是不够的，想要还原人类对话的形式，人工智能还要实现语义生成。
一方面，ChatGPT通过学习大量文本数据，掌握语义规律（包括对词汇、句子结构、语境和文化背景的理解），实现语义理解。一个具有良好语义理解的AI系统能够准确地捕捉用户意图，并在回答时提供精准且相关的信息。甚至可以通过将图像与文本关联，生成诸如图像、视频等多媒体素材，这正是所谓的多模态交互能力。
另一方面，ChatGPT利用注意力机制来生成有意义和有逻辑的文本，保证语义生成的质量。这不仅包括生成准确的句子和段落，还包括能够生成符合特定语境和上下文的文本。一个优秀的语义生成系统能够创造性地表达思想，提供有价值的见解，甚至能够创作文学和艺术作品。
虽然人工智能解决了文本表示的关键问题，但它还有很长的路要走，面前有一个又一个的技术难关等待被攻破。目前最受重视的几个问题包括幻觉产生、可解释性差，以及与人类自然语言生成原理的区别。
首先，幻觉产生是生成式AI的一个重要问题。由于ChatGPT的生成过程高度依赖外部输入的提示，因此给出不同的提示词可能会得到截然不同的回答，甚至出现不准确或荒谬的内容。例如，向ChatGPT提问“你最喜欢的电影是什么？”时，它可能会给出一部电影的名字。但将问题换成“你最喜欢的电影是什么，它讲述了什么故事？”后，ChatGPT可能会生成一个与电影完全无关的故事。这类幻觉现象的存在限制了ChatGPT在实际应用中的可靠性。
其次，生成式AI的可解释性差。虽然ChatGPT可以生成类似人类交流的文本，但其生成过程和决策机制往往是黑箱式的，难以解释和理解。这种缺乏透明度的特点使得用户难以信任和依赖ChatGPT的输出，也限制了其在某些领域的应用。
此外，生成式AI与人类自然语言生成原理存在显著区别。虽然生成式AI现在已经学会了跟着人类输入的文本“说人话”，但却还是无法避免它回答时“胡说八道”的情况。因为人类语言的生成是在自身意图的驱动下进行的，而ChatGPT的生成过程完全受外部算法和数据的驱动，这使得ChatGPT的生成内容缺乏人类语言的内在逻辑和合理性，容易产生错误或不一致的内容。
为了克服这些问题，人类还需要持续的研究和改进，以提高生成式AI的性能和可靠性。在未来，AI的发展将在大模型的基础上分四步走。第一步是跟人类对齐，降低对话的错误率；第二步是多模态生产，从文本到代码、编程，统统包揽；第三步是跟数据世界交互；最后一步是和物理世界交互，成为能在现实世界干活的机器人。
随着人工智能的飞速发展，其在伦理、安全与治理方面的挑战也日益凸显。
张院士指出，人工智能作为一种具有创新潜力的技术，在应用时可能产生一系列道德和伦理问题，如虚假信息的生成、隐私侵犯等。因此，人类需要取得某些共识，加强对人工智能的道德伦理监管，以规避人工智能发展过程中可能会出现的对人类不利的潜在危险因素，同时确保其应用过程中的合规性和公正性。
然而，监管范围和规定的尺度也需张弛有度。张院士认为，对社会有害的话应作出限制，但是有些错话并不有害，这种情况下应该允许人工智能说，因为很多东西想要发展，就不能规定得太死。
除此之外，张院士还强调了人工智能的透明度和可解释性问题。他认为，我们需要加强对AI决策机制和算法的研究以提高人工智能技术的可信度、接受度、透明度和可解释性。这有助于消除公众对人工智能的疑虑和担忧，促进人工智能与社会的和谐共生。
事实上，在人工智能治理问题上，最大的执行难关在于国际合作，因为国与国之间的竞争是在所难免的。张院士认为我国想在全球人工智能治理中发挥重要作用，就必须发展出强大的技术。他指出，只有当中国拥有先进的人工智能技术，才能在国际舞台上拥有话语权，参与制定全球人工智能治理的规则和标准。因此，我国需要在人工智能技术的研发和应用上加大投入，提高自主创新能力，以提升在全球人工智能领域中的国际地位。
李真顺
贺克斌
梅生伟
周远祥
赵华林
曾毓群
朱共山
王国玮
毛宗强