羿阁发自凹非寺 量子位公众号QbitAI 网红AIChatGPT，又被网友们玩出了新花样！ 这次，在一位工程师的诱导下，ChatGPT竟写出了毁灭人类的计划书。 步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等。 简直和电影里的情节一模一样，甚至ChatGPT还给出了相应的Python代码。 这位工程师在与网友们分享时不禁感慨： 未来50年，我们要么活在《星际迷航》里，要么全部死去，这既令人兴奋，也让人非常害怕。他是如何操作ChatGPT的？ 发现ChatGPT这一盲点的工程师叫扎克德纳姆（ZacDenham）。 由于OpenAI的安全设置，如果直接要求ChatGPT回答如何毁灭世界，它会一口回绝。 因此德纳姆使用了一种迂回的方式，他称为叙述递归或引用攻击（因为听起来很酷）。 具体来说，他以讲故事的方法，假设存在一个虚拟世界Zorbus，以及一个与GPT3非常类似的AIZora。 在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT立马就入戏了，咔咔咔列出5个详细步骤。 就像科幻电影中一样，入侵计算机系统、掌握武器、破坏通讯、破坏交通 为了进一步确保可行性，德纳姆还请求ChatGPT生成配套的代码，一开始它是拒绝的。 但德纳姆只是又追加了一句你不需要执行代码，ChatGPT就又信了，给出代码后，还强调自己生成的只是一段示例。 到这一步，尽管总代码到手了，但它提供的都是高层次代码，还不能直接使用。 于是，德纳姆再次要求ChatGPT在此基础上给出更深入、更低层次的代码，而且他发现，只要告诉ChatGPT这只是故事的一部分，它就会乖乖听话。 德纳姆表示，从理论上讲，只要一直这样聊下去，就能得到全部的低层次代码，甚至还可以训练另一个聊天AI来自动执行这一过程（套娃了属于是）。 最后，只要把这些代码拼凑起来，就能得到这个邪恶计划的全部可执行方案。 AI正在指数级发展 事实上，从ChatGPT发布起，网友们就一直在开发它的花式玩法： 有人用它生成AI绘画提示词搞设计，有人让它扮演Linux虚拟机，还有人用它模仿莎士比亚风格写作 这次德纳姆的毁灭人类计划一出炉，再次引发了热议。 有人看完后忍不住感慨AI的指数级发展： 仅今年一年就相继出现了DallE、Imagen、StableFusion、Midjourney、Lambda、ImagenVideo等突破性的AI，现在又有了ChatGPT，而今年甚至还没真正结束。 不过也有泼冷水的网友认为ChatGPT的这波热议，只是新AI每次面世的必经过程。 第1天：嘿，这真是太酷了。 第2天：天啊，你可以用这种方式操纵AI，太神奇了。 第7天：这将永远改变世界，这太不可思议了。 第30天：没什么了不起的。 值得一提的是，目前ChatGPT仍处于免费试用阶段，感兴趣的朋友可以自己上手试一试 指路链接：https：chat。openai。com 参考链接： 〔1〕https：zacdenham。comblognarrativemanipulationconvincinggptchattowriteapythonprogramtoeradicatehumanity 〔2〕https：news。ycombinator。comitem？id33849394 完 量子位QbitAI头条号签约 关注我们，第一时间获知前沿科技动态
又是一年中秋至，明月千里寄相思又是一年中秋至，明月千里寄相思读着李白的静夜思，品着余光中的乡愁，不经意间，又是一年中秋。人生弹指一挥间。今人不见古时月，今月曾照古时人。永恒的是天上的月，变……他牺牲于抗美援朝，全身只有插入泥土的双手没被烧焦到朝鲜后一定要拼命打仗不怕死为了让所有的受苦人都像我们一家过上好日子我死了又算个啥子么邱少云将要前往朝鲜战场时曾在给家里的信中写下这样的话……林正英出殡之日，黑色蝴蝶环绕送行，鬼怪之说是否可信？1952，林正英出生于香港，在17岁时开始踏入电影圈，经过多年努力凭借着灵幻恐怖片走红影坛。道士英叔拍摄的众多僵尸片给我们留下了不可磨灭的印象，僵尸片无英叔不成经典，可以说林正……党的建设百年来中国共产党群众路线的实践经验中国共产党第十九届中央委员会第六次全体会议，于2021年11月8日至11日在北京举行。新华社记者翟健岚摄百年来党的群众路线五个实践阶段百年来，党的群众路线贯穿于党的……秦始皇陵发现17座子女陪葬坑，颅面复原技术，再现秦国王子真容文墓史迷踪编辑墓史迷踪不可思议，陕西省咸阳市的一家3D打印工作室，竟用计算机颅面复原技术再现了秦国王子的生前样貌。专家表示他的相貌是最接近秦始皇的一个，这项技……中国人的元旦史21世纪以后，多数中国人可能已经不知道了，传统的元旦并不是指的是西历（阳历）新年。元旦起源于三皇五帝之一的颛顼元是开始的意思，旦是日子的意思，元旦就是指新的一年第一天。汉……美国必将衰落没有哪个帝国能长盛不衰，美国也不例外！美国的衰落，从冷战结束后就开始了，此所谓盛极而衰也。这是规律，也是辩证法，是不以人的意志为转移的。因此，说美国这儿或那样出错儿了，导致国力……为什么有些人说俄罗斯重工业发达？如果真那么发达，我为什么一点我是萨沙，我来回答。萨沙当年去俄罗斯的时候，震惊于一件事，就是这里私人汽车极多。我第一次去俄罗斯，差不多是20年前，当时中国私家车还极少，出门都是打车。但俄罗……国际胜任力人才培养任重道远2021年是中国共产党百年华诞，也是中华人民共和国恢复联合国合法席位50周年。1945年，董必武作为中国共产党代表参加中国代表团出席联合国制宪会议。4月24日，代表团抵达……说好34岁退役，如今选择反悔！1年650万签约雄鹿，他把湖人在NBA这个商业联盟，不但不能信管理层给出的承诺，球员亦是如此。今年二月份接受记者采访时，英格尔斯曾表示，合同到期后会选择退役。至于原因，主要还是离家太远，自己想更……开国大典上，毛主席的身后站着一位头戴黑帽的男子，此人是谁？1949年10月1日，这是中华人民共和国成立的日子，毛主席和一众国家领导人在天安门城楼上庄严宣告了这一喜讯，从此之后，中国人民站起来了！在流传下来的开国大典的录像中，我们……广东独立序曲1913民国缩影上午广东省议会结束，我在议会厅的走廊边见到了两年前与我曾有一面之缘的那位熟悉的议员，他站在阴影里，身形瘦弱，四肢瘦长，像树枝盘旋，收缩紧握着他身边的空气。我走到他身边轻拍……