‌·

如何平衡人工智能技术落地和伦理治理,衔远科技创始人周伯文:

“可信赖AI的落地,需要跨领域的系统协作”

来源:南方都市报     2023年07月11日        版次:GA14    作者:黄慧诗 樊文扬 马宁宁 于典

  可信赖AI意味着要贯穿其全生命周期,不仅仅是在中间的算法开发阶段。从设计初期的用户需求到最后的产品交互。这一领域由于各方关注点不同,存在很大的空白区域有待探索,需要学术界、工业界和政府监管部门的共同努力。 ——周伯文

  “人工智能创新与治理”分论坛上,清华大学惠妍讲席教授、电子系长聘教授,人工智能国际治理研究院首席专家、衔远科技创始人周伯文表示,平衡好人工智能技术落地和伦理治理,才能长远发展。

  人机协同

  从人机竞争到人机协同 降低场景落地的应用门槛

  在周伯文看来,生成式人工智能如此重要的核心在于,人工智能的能力得到极大提升,以及人机协同能够创造新的价值。

  “过去每一次人工智能成为头条,都是通过跟人竞争,击败地表最强的人类而成为最头条。从1962年IBM开发的西洋跳棋程序击败人类跳棋高手,再到AlphaGo击败人类围棋冠军,都是竞争关系。”周伯文表示,“但今年大家使用ChatGPT的惊艳感受,来源于大模型能够有效地理解你的意图,并根据你的指令纠正错误。换句话讲,这一次人工智能的成功是人工智能和人协同的成功。”

  从人机竞争到人机协同,将知识与数据的能力做更好地结合,进一步降低在具体场景落地应用的门槛,无疑是今年来人工智能赛道持续升温的关键。

  自推出到月活用户突破1亿,ChatGPT仅用时短短两个月,成为有史以来增长最快的应用程序。数据显示,仅在2022年,生成式人工智能赛道就发生了78笔投资,总融资金额超过13.7亿美元,几乎相当于过去5年的融资总和。

  此外,人工智能的自主学习和升级能力也同样是行业关注的焦点,由此也衍生出对于人工智能处在怎样的发展阶段的探讨。

  随着人工智能的发展走过70多年时间,从已经实现的狭义人工智能ANI到当前阶段的广义人工智能ABI,ChatGPT的出现被普遍视为拉开了AGI时代的大幕。

  “我们的定义是ANI是大量依赖于高度监督的学习算法,需要大量的数据,所以它任务狭窄,你教它会的,它不一定会,你没教过它,它绝对不会,当时看作为应用来讲,有很多不足。”周伯文表示。

  而广义人工智能ABI,所需要具备的三个特点包括:首先能通过自监督学习,第二是在没有外界帮助分解任务的情况下,能够自主完成端到端的任务。第三则是能成为生成式人工智能的助手。

  对于当前阶段人工智能的发展,在周伯文看来依然在通往AGI的路上,AGI尚未真正到来。“AGI是人工智能的高阶形态,生成式人工智能是通往AGI的必由之路。目前我们所处的阶段是GPT、Transformer,都是处于生成式人工智能重要的里程碑。”

  系统协作

  可信赖AI要贯穿其全生命周期

  与此同时,人工智能发展至今,无疑对人类社会的生产生活产生了极大冲击。在探讨人工智能的价值及应用的同时,人工智能也越来越多地参与到人类的生产活动中,潜在风险同样值得关注。

  事实上,由于对伦理和社会责任的担忧,马斯克、图灵奖得主Bengio等千人联合签署了公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。而意大利更是因为隐私问题,曾宣布全面禁止使用ChatGPT。这也意味着,如何打造安全可控的可信赖AI,成为人工智能行业发展的基本前提和核心支撑。

  在周伯文看来,不同国家都有人工智能的治理政策出台,其中有三个共同点是大家都在强调的,首先是坚持治理目标与发展规划并行,不能只讲治理不讲发展。第二个就是治理的目的是为技术的创新和发展提供安全港,第三个是治理模式越来越市场化。值得注意的是,由于当前缺乏可信赖的AI评估指标,每个人心中都有一个“哈姆雷特”,导致对于可信赖AI的定义完全不一样。在大模型的范式下,如何能厘清不同维度,这些可信赖的AI有很多的挑战。

  对此,周伯文表示,可信赖AI的落地,需要跨领域的系统协作。

  “可信赖AI意味着要贯穿其全生命周期,不仅仅是在中间的算法开发阶段。从设计初期的用户需求到最后的产品交互。这一领域由于各方关注点不同,存在很大的空白区域有待探索,需要学术界、工业界和政府监管部门的共同努力。”

  早在2022年5月,周伯文创建并领导清华大学电子系协同交互智能研究中心。在他看来,未来人工智能,大模型发展的核心逻辑在于,AI将越来越多地擅长做系统化的工作,人需要在价值观、在治理的角度帮助AI在我们希望轨道上做系统化。人工智能和人的协同将产生更多的高价值场景。

  “那时候ChatGPT还没有出来,我们当时提出三个方向,首先是人机协同的演绎,如何让人和AI共同完成任务;第二是多模态的统一的表征交互,我们认为要多模态表征交互;第三是模型和环境的协同演绎,就是模型和模型之间的相互学习。”

  未来发展

  大模型产业落地 要回归商业本质

  此外,周伯文表示,大模型的产业落地需要回归商业本质。据悉,衔远科技研发的多轮对话ProductGPT目标是与专业人员深度交互与协同,帮助企业高效打造爆款创新产品。

  在周伯文看来,衔远科技的大模型重构产品与用户二元关系,从市场洞察,爆品定义,方案设计,产品研发和营销转化五个维度给出专业建议,“通过对真实世界的各类过程中产生的数据进行压缩表示,涉及人们及其思想和情感、人们所处的状态和他们之间的互动,也包括他们与产品的互动数据分析,把这些数据压缩成一个模型,通过这种模型的生成能力,它能很好地帮你来生成什么是最好的爆品,什么是最好的设计。”

  梳理衔远科技大模型的优势,大致可以概括为,从技术层面解决了数据安全问题,以及用更专业的推理能力解决大模型成本的难题。

  据悉,衔远科技通过研究一种无需完整大模型参与的微调学习技术,实现基础模型和本地数据的双重隐私保护。

  “如果使用同一个模型,部分大模型的所有者跟行业所有者不是同一家公司,涉及到数据安全显然会产生很多纠纷。”周伯文表示,“通过让模型之间互相学习,让原有的大模型生成一个仿真器,这个仿真器能够很好地帮助客户用他的消费者数据调试这个系统,同时完成隐私保护和版权保护两大功能。”

  此外,针对大模型的幻觉问题,衔远科技提出程序辅助蒸馏,将大模型的推理能力进行专业化,通过专业化,实现60M小模型在数学推理效果层面,超越13B大模型的成果。

  周伯文表示:“通过模型跟模型的学习,把大模型的能力转移到一个小模型上,这里我们可以让一个小模型具备超过大模型的数据的推理效果。针对关注点不同的消费者,通过懂产品、懂用户的多模态生成,实现基于大模型的千人千面的个性化营销。”

手机看报
分享到:
返回奥一网 意见反馈