博鳌亚洲论坛2024年年会“AIGC 改变世界”分论坛现场。
一年多以来，生成式AI的火爆持续引发科技圈讨论。新一轮技术革命正在酝酿的同时，加速推进通用人工智能时代(AGI)进程成为众多大模型主创团队的目标。
3月27日，在博鳌亚洲论坛2024年年会“AIGC 改变世界”分论坛上，多位专家在评价当前人工智能技术水平时指出，虽然其发展已经取得长足进步，但仍然存在较大技术缺口，甚至直言，现在的人工智能只是一个看似智能的信息处理系统，并不具备真正的理解能力——人类离实现AGI还有较远距离。
当前人工智能的发展状况看似正努力靠近AGI，但事实上还差得很远。人类应该做的是把真正的人工智能带给世界、令其服务于世界，并针对其可能导致的风险提前展开研究。
——中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅
生成式AI不仅仅能做一些语音识别、人脸识别、图像识别，现在它可以去创造和生成，不仅可以生成文字、图像、视频，还可以生成代码、数学公式以及物理方程式等，所以它会带来巨大的技术和范式的改变。
——中国工程院院士、清华大学智能产业研究院院长张亚勤
现状
人工智能还难以理解复杂的内容
3月27日，博鳌亚洲论坛2024年年会在海南继续举行。在当日“AIGC 改变世界”分论坛上，来自学界、企业界的多位专家学者围绕当前生成式人工智能的发展应用状况及其对人类生产生活方式带来的变革展开讨论。
加州大学伯克利分校计算机科学教授斯图尔特·罗素（Stuart Russell）在开场致辞中表示，尽管近几十年来，人工智能发展已经取得长足进步，但仍然存在较大技术缺口，且这种缺口并非通过扩展大模型、增加训练数据就能弥补。具体来讲，当前人工智能系统的文本接受度已经比普通人高出数十万倍，但还是难以理解非常复杂的内容。
中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅认为，现在的人工智能只是一个看似智能的信息处理系统，并不具备真正的理解能力。比如，当前人工智能系统会说“我想”“我猜”等，“它在劝说你，能够给你建议，但是对你说的内容并不是真正的理解。”
他进一步举例，当用户提问“我没有女朋友了，我的家人也不喜欢我，我的领导要把我开除了，我该怎么办？”时，早期AI可能会回答“你最好就去死”，因为绝大多数具备这些特征的人都死了。这个例子意味着，人工智能并不理解何为死亡、何为生命，它只能提供一个具有统计显著性的答案，“人类的价值观在很多场景下并不一定能被穷举，所以目前看似智能的信息处理方式必须改变。”
提醒
人类应研发“可证明的AI”
曾毅指出，当前人工智能的发展状况看似正努力靠近AGI，但事实上还差得很远。人类应该做的是把真正的人工智能带给世界、令其服务于世界，并针对其可能导致的风险提前展开研究。
人工智能飞速发展的同时，相关“恐惧论”也一直存在。谈及面对比人类更强大的机器时如何保持掌控权，斯图尔特·罗素表示，人类应研发“可证明的AI”，即证明其行为能够使人类受益。然而，当前不断扩展的大语言模型就像一个个“黑匣子”，运作机制透明度不高，能实现的目标尚不清晰——这是AI发展的错误方向。要改变这一现状需要国际间通力合作，为技术开发者们提供展示和说明产品的机会。
曾毅则从另一个角度分享了看法。他表示，当人工智能水平超越人类时，其看待人类就像人类现在看待蚂蚁一样，如果人类不保护当代的其他生命，未来人工智能也没有任何理由保护人类。因此，如今人类需要做出的改变不仅仅是把人工智能做得更安全，还应从历史、自然中学习和反思，否则最后给人类带来灾难性风险的不是人工智能，而是人类自己。
尽管如此，曾毅坦言“对未来仍然是乐观的”，原因是一个超级人工智能也应该是超级利他的，人类也许还有机会。要打造超级利他的人工智能，需将大自然演化的规律嵌入到人工智能训练过程中，令其成为自然演化的延伸，关注其他生命，避免给其他生命和世界带来灾难性的后果，“我认为这是人工智能技术研究以及未来人类演化都需要共同进化的方向。”
预测
生成式AI将带来技术和范式改变
“去年这个时候，我们在谈大模型对整个技术产业变革产生的影响，一年之后已经发生了翻天覆地的变化，不仅是技术，对产品、整个生态的影响都很显著。”会上，中国工程院院士、清华大学智能产业研究院院长张亚勤回忆此前参会经历，并分享了有关大模型发展方向的看法。
他指出，大模型与生成式AI的关系，前者是技术，后者是能力，因为有了预训练的、超大规模的、自监督式的大模型，生成式AI才可能具备如此高的能量。
此外，当前大模型存在多个发展方向，包括多模态、自主智能以及边缘智能。其中AI大模型走向自主智能，就可以制定目标、规划任务，实现自我制定路径、自我完成方案、自我编码等。边缘智能意味着大模型未来不仅是在云端，还将运用到手机、PC、机器人、汽车等终端，信息智能也会走向物理世界和生物世界。
“生成式AI不仅仅能做一些语音识别、人脸识别、图像识别，现在它可以去创造和生成，不仅可以生成文字、图像、视频，还可以生成代码、数学公式以及物理方程式等，所以它会带来巨大的技术和范式的改变。”他说。
未来
大模型发展：应用为王，以人为本
高通公司中国区董事长孟樸从应用角度谈到，事实上，人工智能技术带来的变化创新远超人们的想象，“大家不要以为生成式AI都是这些互联网公司或者做通用式大模型企业的事，实际上我们每个人所服务的行业都发生了非常重要的变化。”以通信行业为例，生成式人工智能的应用改善了网络部署，能减少耗电、减少功率的输出、改善电池使用等。
如今，AI时代的应用竞赛已经开始，不少观点认为，大模型和教育天然适配，教育已成为AI落地的最佳应用场景。会上，猿辅导集团党委书记、副总裁、人工智能研究院院长程群也结合行业实践谈到，与各行各业的深度结合和应用是大模型技术演化、技术推进的重要发展方向。
他在会上分享了一个故事。去年底，程群前往四川某偏远山区的一所学校进行调研，得知该校使用了一款大模型产品后，学生辍学情况得到了很大改善。原来，由于山区老师更换频繁，一位老师需兼顾多个学科、力有不逮等，很多学生缺乏学习兴趣选择辍学。大模型产品进入课堂后，它能将知识通过互动方式传递给学生，还减轻了线下老师的负担，极大增强了学生的学习兴趣。
由此，程群认为未来大模型发展要注重两个方面，一是应用为王，二是以人为本。AI大模型未来一定要走向大规模的场景应用，进而推动技术的不断迭代；同时，所有技术都应多关注每一个人、赋能每一个人，特别是偏远地区学生群体，“通过人工智能技术，更低边际成本地让技术流动起来，每个人都能享受到高质量的教育。”
采写：南都记者 樊文扬 黄莉玲 李玲 图源：博鳌亚洲论坛官网
