不仅“上知天文、下知地理”，似乎还能对答如流、出口成诗，甚至还能写剧本、编音乐、写代码——最近，一款名叫ChatGPT的人工智能聊天机器人火爆全球。由此，一系列关于新一代技术变革、人工智能替代人力、巨头企业扎堆入局AI的讨论在互联网上甚嚣尘上，并引发资本市场跟进炒作。    然而，随着越来越多的用户实测结果不及预期，许多人也在重新审视ChatGPT是否真如想象中那么完美。热闹过后，也许是时候开始冷静思考，ChatGPT的发展模式面临哪些不可规避的问题和风险？这对我国人工智能发展有何重要启示？ChatGPT 的“无所不能”和“无能为力”    问：“ChatGPT和其他聊天机器人有什么不同？”    答：“ChatGPT是一种先进的语言模型，具有更强的语言能力和知识范围，能够与用户进行更自然有效的对话。”    正如ChatGPT在回答提问时所言，相较于此前科技企业推出的聊天机器人，ChatGPT在智能化程度上大幅提升，给对话者的感觉也“更聪明”。    2022年11月底，ChatGPT由美国一家名为OpenAI的人工智能研究公司推出，可以实现与用户之间的智能聊天对话，属于偏任务型的多轮对话和问答系统。    “ChatGPT的出现，是人工智能技术发展的一次飞跃。”传播内容认知全国重点实验室首席科学家张勇东表示，其在交互和创作方面展现的出色能力，标志人工智能由决策式向生成式转变。    中国信通院云计算与大数据研究所内容科技部副主任石霖介绍，ChatGPT的技术基于OpenAI开发的GPT3.5系列模型。该模型参数规模据推测达十亿级别，加之在训练过程中引入人类反馈机制技术，使得ChatGPT在回答准确率、道德表现上进一步得到提升。近期，有研究发现，ChatGPT的“聪明”程度足以通过美国行医执照、研究生入学等考试。清华大学计算机科学与技术系教授黄民烈表示，目前ChatGPT的对话能力已超出人类平均水准，未来其能达到的类人对话水平值得期待。    不过，看似“无所不能”的ChatGPT，也会存在“无能为力”的尴尬。    如，目前ChatGPT难以进行高级逻辑处理。在完成“多准快全”的基本资料梳理和内容整合后，ChatGPT尚不能提供综合判断、修改调整、逻辑完善等“画龙点睛”之笔，而这恰恰是人类高级智慧的体现。    此外，用于ChatGPT语言模型训练的数据为2021年底前的数据，因此在一些最新的数据和事件方面它可能会存在滞后。这在一定程度上造成了ChatGPT在内容准确性和知识性上的短板。不少用户反映它经常“一本正经地胡说八道”。    ChatGPT在常识问题和算术题上出现错误，被网友戏称“一本正经地胡说八道”。预训练“机器人”潜藏侵权风险和监管隐忧    以ChatGPT为代表的预训练模型“机器人”，在预训练过程中需要“投喂”海量数据，才能使得模型能够成功理解人类语言并模拟出愈加真实的类人表达方式。    据OpenAI的相关论文透露，ChatGPT的训练集使用了总计约320TB的文字信息，涵盖超4000亿词和约31亿个网页，其中包括来自新闻、博客、社交媒体的内容。    但这种未经授权获取文本数据的预训练方式已引发争议和不满。推特（Twitter）现任首席执行官埃隆·马斯克就于近日宣布，叫停ChatGPT访问Twitter数据库来获取培训数据，声称“需要更多了解OpenAI的治理结构和未来收入计划”。    无独有偶，近日，拥有国际性体育资源的盖蒂图片社对同为人工智能企业的Stability AI提起诉讼，指责其未经许可从其数据库中复制了1200多万张图片，用于建立竞争性业务，并侵犯了该公司的版权和商标保护权。    张勇东表示，类似ChatGPT这样的预训练模型，其训练数据往往来源于书籍、网站等，而其用于训练的语料未经授权，存在版权风险。且这种训练过程往往不对外公开，训练数据也不对外公布，因此版权拥有者并不知情。待模型完成后，生成的内容往往是原始训练数据的某种组合，对外服务过程中就会存在侵犯原始版权的问题。    “这点与搜索引擎的服务机制不同。搜索引擎只是提供原始内容的链接，但ChatGPT则是以自身生成内容的形式提供服务，甚至连模型自己都无法确认是参考或综合了哪些原始素材。”他说。    正因如此，对于人工智能生成内容不能全盘接收，要注意甄别风险、加强监管，正成为业界共识。    近日，OpenAI首席技术官米拉·穆拉蒂在接受媒体采访时坦言，和其他聊天机器人一样，ChatGPT可能会编造事实，也可能会被坏人利用，需要政府部门尽早介入进行监管。    “从长远来看，社会各界应该积极推动制定人工智能生成内容（AIGC）的规范标准。世界各国应该共同努力，基于海量数据研发生产出更加符合全人类道德价值标准的内容。”张勇东说。    他建议，要强化数据源头把控，尤其是对涉及隐私、伦理、道德、政治偏见和种族主义等内容，要进行更严格的数据审查和清洗。    石霖建议，应加快布局人工智能安全标准、伦理规则的研究，针对人工智能新技术可能带来的版权风险、内容风险等推动形成行业自律。同时，还应做好AIGC技术应用的科普工作，提升民众的科学素养和风险认识。炒作“哑火”后思考行业长远发展    ChatGPT的爆红，让OpenAI赚到了第一桶金，也让各路资本争相入局。    2023年1月，微软再次宣布向 OpenAI 投资数十亿美元。据了解，这是目前人工智能领域规模最大的一笔投资。投资机构红杉资本预测，未来AIGC有潜力产生数万亿美元的经济价值。    连日来，A股市场也经历了人工智能概念股大幅波动。但随着监管函的下达，炒作现象逐渐开始“哑火”，更多关于人工智能行业长远发展的思考和理性声音正在出现。    针对人工智能将取代部分人类职业的网络讨论，张勇东直言，人工智能技术距离真正达到类人的程度还有很长一段路要走。目前以ChatGPT为代表的AIGC在逻辑性、可解释性和可溯源性方面都有待完善。    “国际上先进的人工智能发展都不是一蹴而就的，而是有迹可循、不断突破的。”人工智能企业智谱AI首席执行官张鹏表示，“ChatGPT的出现是否意味着人工智能已经‘踩’到了通用人工智能这一终极目标的‘门槛’，还需冷静看待。”    多位行业专家表示，可以预见的是，在“人机共生”的未来时代，人工智能确将解放人类、提高效率，但其身份是“助手”而非“主人”。    而针对ChatGPT爆火引发的对国内人工智能产业的质疑，也需要用更加全面的眼光来看待。    多年来，我国人工智能产业在生态完善、技术研发、应用推广、人才建设等方面不断培育优势：过去十年间专利申请量位居世界第一，核心产业规模超过4000亿元。国际市场分析机构Gartner在研究报告中指出，阿里巴巴、百度、腾讯等科技企业在语言AI技术上的排名进入世界前十位……    “ChatGPT的成功再次给我们提了个醒，人工智能的发展需要在基础研究和技术研发方面不懈坚持。”张鹏表示，过去我国人工智能产业对基础设施和技术的重视和投入不足。未来，如何发挥长处、补齐短板，真正实现我国人工智能领域的关键跃升，值得期待。    展望未来，石霖认为，以ChatGPT为代表的AIGC技术应用，将形成“智能底座+服务”的商业模式。AIGC技术应用还将进一步发挥在数据、算力和算法上构筑的技术壁垒优势，对人工智能的应用推广带来深层次变革。    他指出，AIGC技术应用正在软件代码编写、工业设计、分子结构预测、基因编辑等科研生产领域探索应用场景，帮助缩短研发周期、降低试验成本，也将改变软件、工业、医疗、生物等行业运行模式。    张勇东表示，过去十年，人工智能领域主要围绕更好的感知和理解来发展，比如自动驾驶、数字医疗。未来十年，人工智能领域深层技术有望不断突破，将具备重塑数字化内容生产和消费模式的强大潜力。    深度学习技术及应用国家工程研究中心主任、百度首席技术官王海峰认为，融合大规模知识的深度学习是人工智能发展的重要方向。要联合产学研各方力量，探索协同育人创新模式，建立全方位多层次的人工智能人才培养体系。                        （来源：人民网）

    来自某聊天机器人的回答截图。    就在敲下这行标题之前，我对一位聊天机器人说：“描写一个森林里危险的小木屋。”    不到10秒，屏幕上跳出了如下回答：    “小木屋位于森林的深处，黑暗而幽静，充满神秘感。落叶围绕，树枝刺耳；风吹过小木屋，又落下一片又一片的叶子。野兽的咆哮声从远处传来，让人不寒而栗。小木屋的门紧紧关上，传说这里住着一个神秘的老人，时而可以看到他出现在森林里，时而又不见踪影。”    生动，翔实，引人入胜！    看到这段描写之后，我的脑子里不由自主冒出一个念头。假如我让AI替我写完这篇稿子，编辑会不会也无法发现？    下一个念头是，假如编辑终究察觉到了这一点，会不会把我这位大活人记者请走，稿子都交给AI来写，似乎也不是不可以？    意识到这个可能性之后，冷冷的冰雨在我心头胡乱地拍。    不得不承认，作为一个经常写科普稿件的记者，我对AI创作能力的发展并不陌生，去年也抱着试着玩儿的心态，用AI画过几张图。    或许，有失业危机的不只是我。    2017年，人工智能软件CheXnet就已经能够迅速处理上百张胸部X射线图片，从中找出感染肺炎的病例，它仅仅用了两个月，通过“吃掉”11.2万张胸片，就从医学小白成长为诊断高手。同样是2017年，很多人大概也还记得，排名世界第一的围棋冠军柯洁被“阿尔法狗”战胜。美国科技媒体CNET自去年11月起，就已经开始使用AI进行部分内容的创作，读者们似乎并没有察觉到这一点。    如今，OpenAI公司训练出来的大型语言模型ChatGPT火到出圈，许多人在社交媒体上讨论它，或表达惊讶，或表达忧虑。ChatGPT可以做的事情太多了——帮大学生写论文，帮“社畜”写报告、回邮件，给程序员和律师“打下手”……而大洋彼岸的美国数字媒体公司BuzzFeed已经宣布，将要使用ChatGPT协助创作个性化内容，公司12%的员工将会被裁员。    看，写稿的我可能真的要被AI取代了，就像被珍妮纺织机取代的女工。    机器取代人力，这似乎是一个延续了几百年的话题，在人们讨论之余，旧的岗位或职业消失了，新的职业和新的机遇也在不断出现。5年前我还觉得，搞创作的人对于被AI取代这件事“可以暂时放心”。然而，不过是眨眼间，历史的车轮就碾到我的脸上了。    不能否认的是，在进行更具创造性的工作方面，人工智能暂时还没有取代人类的实力。它的优势更多体现在模仿和学习上，把中规中矩千篇一律的应用文交给它来写，似乎再合适不过了，还可以把人类从重复劳动中解放出来。    我可以把一个消息模板“喂”给它，再丢几个关键词，一篇不需要有什么创造性的新闻消息或许就出现了。起码目前，人工智能还无法写出一篇抒发强烈个人情感的东西——就像我现在所写的这篇。    但我也不敢说“不用担心”这样的话了。人工智能在飞快迭代，迅猛发展。质的飞跃和瓶颈的突破，也许就在下一个5年之后，甚至，5个月之后？    好吧，如果我真的被AI取代了，那我或许可以考虑去当一个用文字“投喂”AI的人，每天写大把大把的文字“喂”给它，好让它拆碎了，拿去给别人写新的。没准儿真的会有这样的新职业出现呢，毕竟，人工智能强大的抓取和深度学习能力，是需要有庞大的数据库作为学习来源的。    在技术进步和时代洪流面前，恐慌毫无意义。我们需要调整的不只是个人的心态，也需要社会为技术发展带来的生产关系变革而托底。    最终，我再次打开了机器人的聊天框，这一次我问它：“未来，人类和AI的相处模式是什么样的？”    “人类和AI可能处于合作关系，实现更高效的生产力，但是也有可能会出现竞争与对立的情况，未来的发展取决于人类和AI之间的协调。”    它说。                       据中国青年报