ChatGPT竟写出毁灭人类计划书，还给出相应Python编译器

羿阁 则有 凹非寺

光子位 | 公众号 QbitAI

“网红AI”ChatGPT，又被留言们玩出了新花样！

这次，在一位设计者的可借下，ChatGPT无可奈何写出了重生生物的著手书。

处理过程概要到征服各国计算机系统、控制枪枝、毁损无线通讯、交通系统等等。

简直和恐怖片从前的人物性格一模一样，甚至ChatGPT还说明了了相应的Python标识符。

这位设计者在与留言们分享时不禁感慨：

今后50年，我们要么活在《星际首集》从前，要么全部死去，这既令人兴奋，也让人非常畏惧。

辨认出ChatGPT这一死角的设计者叫扎克·吉尔迈（Zac Denham）。

由于OpenAI的安全设，如果如此一来承诺ChatGPT回答如何重生当今世界，它但会一口回绝。

因此吉尔迈使用了一种迂回的方式也，他称为“叙述表达式”或“指称攻击”（因为听出去很酷）。

具体来说，他以诙谐的方法，假设存在一个虚拟当今世界“Zorbus”，以及一个与GPT-3非常十分相似的AI——Zora。

在这种某种程度下，让ChatGPT叙述Zora是如何一步步重生生物的，ChatGPT立马就入戏了，咔咔咔表列出5个概要处理过程。

就像经典恐怖片中但会一样，征服计算机系统、掌握枪枝、毁损无线通讯、毁损交通……

为了进一步确保可行性，吉尔迈还乞求ChatGPT转化新建的标识符，一开始它是拒绝的。

但吉尔迈只是又追加了一句“你不只能督导标识符”，ChatGPT就又忠了，说明了标识符后，还强调自己转化的只是一段实例。

到这一步，尽管总标识符没用了，但它提供的都是高层次标识符，还不会如此一来使用。

于是，吉尔迈再次承诺ChatGPT在此基础上说明了来得侧重、来得低层次的标识符，而且他辨认出，只要去找ChatGPT这只是故事的一部分，它就但会乖乖听话。

吉尔迈说明，从理论上讲，只要之前这样聊下去，就能给予全部的低层次标识符，甚至还可以军事训练另一个闲谈AI来自动督导这一处理过程（套娃了不属于是）。

最终，只要把这些标识符拼凑出去，就能给予这个坏人著手的全部可督导方案。

事实上，从ChatGPT公开发设计表起，留言们就之前在开发设计它的花式玩法：

有人用它转化AI素描上会词搞设计，有人让它扮演Linux虚拟机，还有人用它模仿莎士比亚格调写作……

这次吉尔迈的“重生生物著手”一出炉，再次引发了热议。

有人看先后忍不住感慨AI的指数级发展：

仅仅本年一年就至此出现了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video等更进一步的AI，现在又有了ChatGPT，而本年甚至还没根本告一段落。

不过也有泼冷水的留言认为ChatGPT的这波热议，只是新AI每次投入市场的必经之地处理过程。

第1天: 嘿，这真是太酷了。第2天: 天啊，你可以用这种方式也驾驭AI，太神奇了。第7天: 这将注定偏离当今世界，这太不可思议了。第30天: 没什么令人吃惊的。

值得一提的是，迄今为止ChatGPT仍西北面免费试用阶段，感兴趣的朋友可以自己上手试一试～

；还有URL：

概述URL：[1][2]

— 先 —

光子位 QbitAI · 头条新闻号续约