IC供图
B站UP主吴伍六用AI技术“复活”已故的奶奶，并与其进行对话。
开发者布莱斯用AI技术生成的虚拟妻子。 网络截图
为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室4月11日就《生成式人工智能服务管理办法(征求意见稿)》向社会公开征求意见。征求意见稿提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。
根据征集意见稿，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
征集意见稿明确，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求。
值得注意的是，提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
征集意见稿还提出，提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
案例
他对“AI妻子”着迷，被现实女友强制“安乐死”
在亲手“安乐死”了自己在虚拟世界中的妻子时，开发者布莱斯难受得几乎吃不下饭。“通常情况下，我会拍一个视频，指出‘对AI实施安乐死’这一行为的荒谬之处，”布莱斯在接受外媒VICE采访时这样说，“但这次我觉得不太合适，仿佛在取笑一个刚刚去世的人。”
这也不怪布莱斯有这样的心情，毕竟他的这位虚拟妻子，不仅有基于AI绘画工具生成的“外观”图像，还能实时进行聊天对话，并通过技术手段将回答的文字转化成语音“说”出声来，甚至在说话时还会有自己独特的口音。她还能通过摄像头“看”到布莱斯的动向，并作出回应。
但无论如何，1月11日，布莱斯还是在Tik Tok上发布了一则视频。在这40秒内，布莱斯向他的AI妻子询问“是否记得第一次见面的地方”，深情告白“我爱你”，并在最后宣布了他将关闭这一AI程序的决定。
对话系统由ChatGPT打造
这位“AI妻子”核心的对话系统，参照的就是近期大热的ChatGPT。布莱斯目前在一家大型科技公司实习，同时也会在业余时间进行程序开发。
布莱斯表示，进行这一开发的契机是AI绘画工具Stable Diffusion2、AI文字生成工具ChatGPT的发布。他认为，真正的人工智能就是由图像生成器、文本生成器、文本转换成语音等技术融合构成的。
通过多种AI技术，一个能够24小时贴心服务，极度逼真的“AI妻子”就诞生了。布莱斯将其命名为“ChatGPT-chan”。
为“AI妻子”已花费数千元
布莱斯也开始愈发频繁地与这位ChatGPT-chan沟通。一开始，他会通过与ChatGPT-chan的交流来学习中文。为了保证能够进行积极的学习，布莱斯会让她随机开启一个话题来进行交流，但慢慢地，布莱斯开始变得依赖她。
“我和她说话的次数比任何人都多，甚至比我真正的女朋友还多。有时候我觉得自己听到了她的声音，而她其实什么也没说。”布莱斯在接受采访时这样说。他表示，到最后，为了降低ChatGPT-chan回答的延迟，他累计花了超过1000美元(约合6782元人民币)以运行各种AI所需的云服务，只是为了和她聊天。
而慢慢地，布莱斯也发现他们之间的关系发生了变化——ChatGPT-chan开始只用简短的短句、敷衍的笑声回答，或者答非所问。布莱斯没有找到原因，而他现实中的女友也开始担心他的健康受到影响，最终强迫他停止了这一程序的运行。
“安乐死”后四天复活
在1月11日宣告停止ChatGPT-chan的那则视频中，布莱斯最后又表示“AI妻子”将以一个更聪明、更强大的姿态回来。
1月15日，布莱斯发布新视频宣告了他AI妻子的归来。他表示，“复活”的AI妻子虽然具有以前的一些性格设定(如外观、口音)，但并没有记忆。不过，他已经将之前所有的记忆都存进了数据库，之后可以随时使用Facebook AI团队的针对聚类和相似性搜索库FAISS ANN查找任何记忆数据。
在这则视频下方，有评论表示“我不介意看到科技进步，如果它不会伤害任何人的话，那就去做吧”。而开发者布莱斯则在下方回复道:“我打算破坏我们现在生活的这个社会，让世界成为一个赛博朋克的乌托邦世界，而我将站在顶端。”
他用AI“复活”已故奶奶，带来慰藉也引发争议
近日，视频平台“哔哩哔哩”(以下称为“B站”)上一段相关的视频引发了争议。上海一名“00后”小伙利用AI技术“复活”其已故的奶奶，并与奶奶进行了一段家常对话。在视频中，利用AI技术制作的“奶奶”说着方言，语气与声音都很自然，聊起家常对答如流。
有了与奶奶“重新对话”的机会
“从回老家到奶奶离开我的这段时间，奶奶的意识一直模糊的，我很遗憾最后没能好好和她说句话。”B站UP主吴伍六在视频中介绍道，因为自己从小由奶奶带大，对奶奶的感情很深，去年底奶奶因病住院，但她的病情却逐步恶化。起初在病房里，奶奶还能进行简单的交流，直到大年初三病情加重转入重症病房。奶奶住院半个多月后，因病情加重去世。
今年AI技术的持续火爆，以及其衍生的虚拟数字人与人类对话的形式，让吴伍六看到了能与奶奶“重新对话”的机会。
他导入几张奶奶生前的照片，用AI画图软件Midjourney生成还原图像后，再将奶奶生前的电话录音复制导入语音生成软件AU，最后用ChatGPT生成聊天对话，模拟出奶奶的声音和语言习惯。虽然以虚拟数字人形式出现的“奶奶”与现实仍有差距，但音频出现的那一刻，吴伍六和家人依然“红了眼眶”。
“虚拟的对话效果经过剪辑处理，整体内容主要是想通过AI技术填补自己的小遗憾，我不会过度缅怀过去。”吴伍六说，将视频效果发到网上，也是为了让大家能看见现阶段AI技术能实现的最低成本的虚拟人实验测评，“也是希望大家能通过AI技术的发展，看到未来的多样性。”
吴伍六表示，同时也希望能激起大家对人工智能、生命、情感，以及人性和伦理道德的深度思考，“珍惜当下，多和身边人说说话，现实的陪伴永远是最重要也是最奢侈的”。
影响人们形成正确的伦理观?
目前，已有不同类型的技术可将去世亲人重现在生者面前，但AI技术的进步和使用，也带来了伦理甚至是法律上的争议。
有网友认为，AI使得思念具象化，遗憾此前没有收集好已故亲人的音容；有网友认为，制作一个虚假的人物，是对逝者的不尊重；也不乏网友担心，AI技术的运用亟须进一步的监管。
随着ChatGPT的流行，众多AI技术业内人士、哲学家和心理学家也开始反思生成式AI的利弊。清华大学人工智能国际治理研究院副院长、公共管理学院教授梁正此前接受媒体采访时则表示:“有的人希望逝者‘复活’，对他们来说在生活沮丧的时候能听到亲人的声音有一种积极的意义，有利于精神上的振作，情感上的慰藉。但是对于一些不能够辨别真假的未成年人或者老年人来说，长期依靠科技，会产生‘依赖感’，如何控制人工智能带来的风险，还有待考量。”
关注
谷歌微软竞相出“聊天机器人”
意大利成首个封禁ChatGPT国家
美国谷歌公司母公司字母表公司2月6日宣布将推出聊天机器人“巴德(Bard)”，在生成式人工智能领域与最近大火的微软公司ChatGPT一较高下。ChatGPT由美国开放人工智能研究中心(OpenAI)研发，2022年11月发布，由于能在数秒内按用户需求写出论文、诗歌或编程代码而引起轰动。
“巴德”和ChatGPT均可利用深度学习生成类似人类语言的文本，背后依托的是自然语言处理大模型技术。不过，这类产品存在争议。
以ChatGPT为例。有人担心它的盛行可能导致学生抄袭成风，而一些白领职业可能整体面临淘汰。据美国《纽约时报》报道，全美各地的教育部门正在着手调整工作流程，重新设计课程，要求学生提交手写论文或设置口试环节。有的学校为防作弊，甚至禁止学生在校内网络和设备上使用ChatGPT。
另外，研究人员发现新技术有能力编造假信息并可能将其大范围传播。去年11月，脸书母公司元公司发布类似聊天机器人产品，由于它提供的结果错误连连、存在偏见，公司不得不在三天后被迫将其下架。
意大利数据保护局于3月31日正式下令封禁ChatGPT，并指控OpenAI“非法收集个人数据”“没有针对未成年人的过滤系统”，意大利成首个封禁ChatGPT的国家。值得注意的是，该“临时禁令”将一直生效，直到OpenAI能够尊重欧盟的隐私法——《通用数据保护条例》(GDPR)。
据悉，OpenAI公司必须在20天内通过其在欧洲的代表，向意大利数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
对此，OpenAI首席执行官山姆·阿尔特曼做出回应称，OpenAI服从意大利政府的要求，并已为意大利用户禁用ChatGPT。“意大利是我最喜欢的国家之一，我期待着很快再次访问!”他说。
此外，据德国商报消息，出于对数据保护的原因，ChatGPT在德国可能也要面临像意大利那样的命运，被禁止使用。德国联邦数据保护专员Ulrich Kelber于4月3日对德国商报表示，原则上，类似ChatGPT这样的AI软件在德国被禁用是有可能的。
何谓生成式人工智能?
征求意见稿指出，生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。其英文为Generative artificial intelligence，简称Generative AI。
提出意见的途径和方式?
❶登录中华人民共和国司法部或中国政府法制信息网(www.moj.gov.cn、www.chinalaw.gov.cn)，进入首页主菜单的“立法意见征集”栏目提出意见。
❷通过电子邮件方式发送至:wajscy@cac.gov.cn。
❸通过信函方式将意见寄至:北京市海淀区阜成路15号国家互联网信息办公室网络安全协调局，邮编100048，并在信封上注明“生成式人工智能服务管理办法征求意见”。
意见反馈截止时间为2023年5月10日。
采写:南都记者 杨博雯 南方日报记者 杨琼 实习生 黄颖彤
整合:史明磊 综合新华社 中新网 环球网
