写出“毁灭人类计划书”的ChatGPT，你怎么看？

admin4个月前 (11-28)网站服务31

本文分享给大家的是：

转自：澎湃新闻近期，人工智能领域的黑马产品ChatGPT一经亮相便备受关注，甚至连特斯拉CEO马斯克也表示：ChatGPT好得吓人，我们离强大到危险的人工智能不远了公开资料显示，ChatGPT为人工智能公司OpenAI于2022年11月推出的聊天。

机器人，能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务，因此有望成为提高办公、学习效率的工具一时间，关于ChatGPT或将取代搜索引擎，进而取代不少人类从事的工作的说法甚嚣尘上，但ChatGPT真的如此强大吗？我们是否过度担心，又或者低估了ChatGPT的未来潜力？。

对此，澎湃新闻记者与ChatGPT进行了一系列对话作为测试当地时间2023年2月6日，土耳其东南部靠近叙利亚的边境地区一天之内两度发生7级以上地震，之后余震不断当记者在对话框输入“土耳其地震最新消息”时，ChatGPT回答称，它无法访问最新的事件进展，因为其当初在进行模型训练时，数据只更新到2021年。

最后它还友善地建议“您可以通过查看可靠的新闻来源获取信息，例如CNN、BBC或路透社等主要新闻媒体”

ChatGPT与澎湃新闻记者关于“土耳其地震最新消息”的对话熟悉ChatGPT的技术领域相关人士也向澎湃新闻表示，ChatGPT没有联网，因此并不能替代搜索引擎“它是一个离线的生成模型，所有的回答都是生成的，不具备真实性。

但它会尽量像人一样讲话，让你觉得回答内容有理有据”澎湃新闻随后测试了ChatGPT对于2021年2月缅甸政局突变、7月开幕的东京奥运会、8月中旬的塔利班重掌阿富汗、9月火遍全球的网飞连续剧“鱿鱼游戏”，以及2022年2月开始的俄乌冲突等全球热点的相关信息，结果显示，ChatGPT虽可以提供追溯到2014年克里米亚事件的背景信息，但对于去年爆发的俄乌冲突却只字未提。

就ChatGPT知识储备的具体时间节点而言，ChatGPT能够大致描绘出2月缅甸政局突变的相关情况，而对8月发生的塔利班重掌阿富汗及一个月后的“鱿鱼游戏”爆火等事件一无所知值得注意的是，在被问及“东京奥运会金牌榜”时，ChatGPT给出了一个看似“靠谱”的回答——美国赢得了最多的46枚金牌，日本(38枚)和中国(36枚)紧随其后，俄罗斯、英国、澳大利亚等国也表现优异。

然而，经核查，上述数据并非2021年8月8日闭幕的东京奥运会的金牌榜结果(实际结果为美国39金、中国38金、日本27金)，也非过往任何一届夏季奥运会的金牌榜数据

ChatGPT与澎湃新闻记者关于“东京奥运会金牌数”的对话由此可见，ChatGPT的“知识盲区”起点或存在于2021年2-7月的某一时间点，而它给出的答案，也并不总是准确对于能搜索到多久以前的信息这一直白的问题，ChatGPT回答称，自己是一个语言模型，没有能力浏览互联网或访问实时信息。

“我的培训数据包括来自各种来源的广泛信息，包括新闻文章和其他文本，但我的知识仅限于我接受的培训”对于未来的预测，ChatGPT在回答澎湃新闻关于“是否会发生第三次世界大战”的问题时表示，自己不具备预测未来事件的能力。

“对于第三次世界大战的可能性，我可以说明一些背景信息和相关历史事件，但是关于是否会发生这样的事件，我不能做出任何确切的预测不过，可以说，世界上的许多国家和组织都致力于避免军事冲突，维护和平与安全，并通过外交途径解决争端。

因此，我们可以对世界的未来抱有一些乐观的期望”在ChatGPT大火之后，美媒《福布斯》采访了OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)，询问ChatGPT是否会取代传统的搜索引擎，阿尔特曼表示，ChatGPT不会取代搜索引擎，但他认为将来某一天的某个人工智能系统可能可以做到。

“如果你只关注昨天的新闻，那么你很可能错失新的机会我更感兴趣的是思考搜索以外的新应用这些新的应用，不一定要等到人工智能(AGI)的出现；相反，我认为这样的局面(新的AI应用爆炸)很快就会发生”阿尔特曼的这一表态和一直关注人工智能的马斯克以及比尔·盖茨不谋而合，比尔·盖茨也在近日表示，他从ChatGPT的成功更多地看到了此类AI的潜能，他甚至还表示，人工智能(AI)颇具颠覆性，相比而言，他对元宇宙、Web3则并不感冒。

其实，ChatGPT的爆火最初源于它在一位工程师的诱导下，竟写出了毁灭人类的计划书。步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，甚至还给出了相应的Python代码。