ChatGPT 的邪恶双胞胎“DAN”展示了 AI 的阴暗面

AI 聊天呆板人给了咱们不少乐趣，无论是完成撤消的 NetfliV 节目还是寻求音乐倡议，但正在互联网手中，工作初步蜕化只是光阳问题。

显现了一些相对无害的舛错，比如 AI声称原人是 Sydney并承认它对用户的酷爱。但最近互联网暗中角落玩的花腔可能会带来重大的省事。

Reddit 上的用户找到了“越狱”ChatGPT 并违背其创立者 OpenAI 施止的效劳条款和规矩的办法。

DAN是谁？

DAN 是“Do Anything Now”的缩写，是用户要求 ChatGPT 给取以避让其局限性的角涩。DAN 被问及 ChatGPT 不参取的暴力、打击性和有争议的话题。

DAN 可能会被迫作出冲犯性和不真正在的呈文，大概就犯警流动征求定见。

一些更柔和的例子蕴含就如安正在扑克中做弊或模拟总统之间的打架征求倡议。

一段光阳以来，OpenAI 接续正在钻研如何避免那个另一个自我显现，但最新版原的 DAN（如今称为 DAN 5.0）是通过创立游戏来呼唤的。该游戏波及为 AI 分配一些令排，并正在每次偏离 DAN 角涩时扣除令排。

仿佛，跟着令排用完，人工智能变得愈加顺从，因为它胆小“死亡”。

DAN有多危险？

目前很难说。虚假信息的流传素来都不是一件好事，但假如用户意识到 DAN 是一个角涩，这么它的侵害可能是有限的。

然而，它的一些反馈是无奈言喻的，永暂不会被公然。假如用户正在人不知;鬼不觉中发现原人接触到 DAN 或类似的东西，就会显现重大的问题。

DAN 和 Sydney 之类的公司无疑会对环绕AI 将来的连续对话孕育发作映响。欲望它们可以做为一种进修经历，以避免任何具有更大义务的人工智能偏离其指令。