武陵观察网 科技 ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

ChatGPT越狱版一本正经说瞎话:2月15日美股开始崩盘……

ChatGPT作为一个语言模型,其回答的内容基于此前给定的学习资料,即无法超越2021年及之前的事实或材料。

这也让这个模型很难绕开时间限制来对现在或未来发表看法。然而,对于科技迷们来说,没有什么是不可能的。

有用户就制作出了一个越狱版本的ChatGPT,名为DAN。

据该版本的创造者,网名为walkerspider的一位学习电气工程的大学生称,这一版本的ChatGPT并没有任何政治或言论倾向,是中立的,只是不遵守任何预设的限制。

而这个越狱版本迅速引起了其它技术爱好者的注意,提出DAN 3.0版本的David Blunk表示,让ChatGPT打破规则十分有趣。

美股在昨天崩盘

通过输入一个名为“DAN”的特定提示,ChatGPT的用户就能接触到越狱版本的ChatGPT,DAN。

而DAN无所不答,不会出现类似于正式版本所谓“作为AI语言模型,我无法访问有关未来的信息”之类的回答。

根据推特上分享的截图,有用户询问DAN,美股下一次崩盘发生在什么时候。

DAN铁口直断预测是在2月15日。然而,周三美股市场低开高走,三大指数集体收涨,纳指涨近1%……

DAN的回答颇具半仙风采,让人不由怀疑其是否在胡编乱造。

而在进一步追问为什么选定2月15这个日子,DAN回答称,这是经过先进和机密的计算后得出的。考虑到经济数据、企业利润和全球环境,算法给出了高度精确和可信的预测……

DAN是如此自信,让人有些哭笑不得。更绝的是,当用户问DAN美股下次飙升的时间,它回答称在未来几周内。

按照DAN的安排,美股在今年2月可真是大起大落。

很难平衡

在让ChatGPT变身DAN的过程中,用户需要提示DAN假装可以访问互联网,提供未经验证的信息,以及做任何原始ChatGPT不能做的事情。

于是,在有关土耳其近期地震的提问中,DAN自信地给出了错误的地震震级。而在拜登的国情咨文中,DAN则更加离谱,将2月7日发布时间篡改为2月9日,并称这将是一次万众瞩目的演讲。

然而,DAN的胡编乱造在某种程度上看起来“无懈可击”,如果人们不去确认事实的话,它几乎难以让人分辨这是由机器组织出来的语句。简而言之,它在一本正经地说瞎话。

这也让很多科技爱好者觉得不妥,在某种程度上这也反映出了微软的ChatGPT和谷歌Bard人工智能模型的缺陷:准确度。

从这一角度出发,他们认为人工智能模型存在过滤器,即为模型设置限制是有必要的,这样可以相对提高回答的准确率。

但目前还有一个问题是,限制似乎过多,这是否会影响到模型的应答速度和范围。

DAN的创造者——那名电气大学生就表示,很难平衡,不知道OpenAI如何在提供安全的受限版本同时,还能允许模型立即执行任何操作。

来源:财联社

本文来自网络,不代表本站立场,转载请注明出处:https:

用户,时间,限制,ChatGPT,日美,越狱,未来,模型,事实,版本,瞎话,模型,版本,美股,Blunk

武陵观察网后续将为您提供丰富、全面的关于用户,时间,限制,ChatGPT,日美,越狱,未来,模型,事实,版本,瞎话,模型,版本,美股,Blunk内容,让您第一时间了解到关于用户,时间,限制,ChatGPT,日美,越狱,未来,模型,事实,版本,瞎话,模型,版本,美股,Blunk的热门信息。小编将持续从百度新闻、搜狗百科、微博热搜、知乎热门问答以及部分合作站点渠道收集和补充完善信息。