强大的ChatGPT有哪些缺陷?

2023-03-09 12:32 来源:IT之家   阅读量:5703   

不久前,美国人工智能研发公司 OpenAI 发布了最新的聊天机器人 ChatGPT,它的语言能力几乎达到了真人的水平,预示着人工智能领域又将迎来一场变革。

凯特?达林

原文刊载于《科学焦点》2023.03 期

我记得第一次见到儿子与一个大型语言学习模型互动的场景。那时,他只有 5 岁,但已经能与人工智能进行自然、流畅的对话了,仿佛人工智能是真正的人类似的。看着他与人工智能交谈,我心中五味杂陈。当时的景象历历在目,不仅反映了人类在人工智能领域取得的成就,也让我意识到语言模型潜能无限:它正给人类与机器的互动模式带来革命性改变。

其实,上面这整段话都是由 AI 创作的,它的水平已经和我亲笔写大致相当了。如果你有过与客服机器人打交道的失望经历,恐怕就会好奇,怎么突然之间,我们就有能听懂客户需求、并给出得体反馈的人工智能了?

理解能力令人震惊

如今,即使是最先进的商用聊天机器人,很多时候也依然在使用预先设定好的答案。如果你问亚马逊公司的智能语音助手 Alexa 最喜欢什么饮料,它的回答很可能是亚马逊的某位程序员预先编好的答案。

与上述原理不同,我使用的 ChatGPT 是基于生成式预训练转换模型。这个模型可以在对话中自己生成回答。比如,它不会一板一眼地说自己最喜欢喝什么饮料,而可能会推荐你尝尝沙棘汁。

ChatGPT 由人工智能研发公司 OpenAI 在 2022 年 11 月发布,与谷歌、脸书等公司开发的语言模型类似,这种生成式对话人工智能正在颠覆游戏规则。

ChatGPT 的语言学习模型在互联网上接受过数以十亿计的海量文本训练。基于如此庞大的数据库,ChatGPT 能在输出文本时准确预测使用哪一个字最合适。虽然这不是什么新算法,但它还包含了“转换模块”:通过分析完整的语句和各个句子之间的关系,ChatGPT 可以理解对话的语境。

在此之前,由于无法理解语境,聊天机器人往往听不懂我们的问题,或是一本正经地给出一个逻辑严密但没有意义的回答。对此,我们早就习以为常。

当我的丈夫要求 ChatGPT 以讽刺辛辣的文笔写一段向我求婚的誓词时,ChatGPT 写道:“冷酷无情的机器人科学家凯特?达林,虽然建立情感连接注定徒劳无功,但请你嫁给这位情难自已的人类追求者吧。”可以肯定地说,这句话绝对不是 OpenAI 的人工智能专家提前写好的。ChatGPT 对任务的理解能力简直令人震惊。

存在很多不确定性

转换模块的另一项突破在于,它显著地减少了建立模型所需的时间。如今的科技公司拥有了海量的训练数据、比以往更强的算力,再加上能以更少的时间搭建和训练语言模型。这些条件正在开启对话型人工智能的新纪元。

当然,新的语言模型也有短板。如果被用作商用聊天机器人,语言模型的自主性就不能太强,至少现在还不行。ChatGPT 能言善辩,会写诗,还可以替你写挖苦别人的邮件,但有时,它也会说出一些非常不得体甚至是冒犯他人的话。

显然,神奇的能力与风险并存。OpenAI 确实在尽力调整 ChatGPT 的功能。比如,让人类训练人工智能,给它的对话技巧提供反馈等。不仅如此,ChatGPT 同样包含一些提前写好的回答和插科打诨。但即使如此,要想预判 ChatGPT 在每个情景中可能会说什么,依然是不太现实的。这让 ChatGPT 在许多实际应用中都存在不确定性,还可能造成很多伦理问题。

正如 ChatGPT 在开头所说,我们确实已经在人工智能领域取得了长足的进步,这些技术突破也极有可能意味着“语言模型潜能无限:它正给人类与机器的互动模式带来革命性改变”。但在携手共进的道路上,人类和技术仍应继续保持沟通。

作者介绍

凯特?达林 是美国麻省理工学院媒体实验室的研究员,主要研究机器伦理、人与机器人的互动,为未来的法律、政策制定提供参考。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

热门

一键全自动换电——泰州市首家蔚来第三代换电站在兴化戴南上线
一键全自动换电——泰州市首家蔚来第三代换电站

一辆新能源汽车稳稳地停到蔚来充换电一体站的停车平台上,汽车下部的换电装置自动开启,卸下用完电的电池,换上充足电的...更多>

azg集团多维度赋能品牌,助力打造可持续产业生态
azg集团多维度赋能品牌,助力打造可持续产业

日前,由azg集团与Bubs贝儿联合举办的“Bubs贝儿纯净营养,守护新队友”五一特别场线下亲子活动圆满结束,门...更多>

喜报!中诚信托荣获深交所优秀债券投资交易机构奖项
喜报!中诚信托荣获深交所优秀债券投资交易机构

2月27日,深圳证券交易所组织召开2022年度债券监管发展业务座谈会,并表彰在服务国家重点战略、推进债券市场高质...更多>

银保监会就保险保障基金管理办法公开征求意见
银保监会就保险保障基金管理办法公开征求意见

为促进保险业稳健经营和高质量发展,更好发挥保险保障基金的积极作用,维护保单持有人合法权益,银保监会商有关部门对2...更多>

人民银行:指导银行将个人信贷延期还款政策落到实处
人民银行:指导银行将个人信贷延期还款政策落到

2022年第一季度金融统计数据新闻发布会现场。人民网黄盛摄人民网北京4月14日电(黄盛)今日,中国人民银行(以下...更多>

聚焦

发放消费券、举办消费节、推动线上线下消费融合,近期一批促消费措施密集推出—— 为消费升温积聚合力
乔进双梅代表:一针一线“绣”出文化自信
“这次来北京参会,我带来了17套经过精心设计、改良的具有彝族...更多>
东风旗下七大品牌大幅降价被抢购合资燃油车降价
近日,一组关于“湖北省史上最强购车优惠季开启”的宣传海报引发...更多>
极光揭示汽车资讯行业2022转型升级趋势,汽
3月8日,数据研究机构极光发布《汽车资讯行业转型升级报告》,...更多>
华为全面主导?AITO汽车官微开始使用“HU
,TechWeb观察到AITO汽车官微今日悄悄使用了“HUA...更多>
线索转化率提升超30%!一汽红旗牵手瓴羊破解
面对造车新势力的入局和进攻,老牌汽车厂商如何求破推新? 近...更多>
乘联会:2月头部传统车企销量同比大幅增长,新
乘联会发布2023年2月份全国乘用车市场分析,2023年2月...更多>
消息称佳能EOSR5MarkII相机将推迟至
感谢IT之家网友华南吴彦祖的线索投递! ,佳能现为EOSR...更多>
男士羽绒服怎么挑选质量好如何挑选质量好的羽绒
摘要大家好,小柏来为大家解答以上问题。男士羽绒服怎么挑选质量...更多>
装修要学多久装修经验总结100条怎么才能节约
摘要大家好,小柏来为大家解答以上问题。装修要学多久装修经验总...更多>
ST爱迪尔:被申请破产重整
ST爱迪尔公告,公司于2023年3月8日收到福建省龙岩市中级...更多>