正本吧，作为被人类选中的孩子，数字人的正确打开方式是这样的：表表挂一个美女帅哥皮套，背地里大模型处置评论和口条，一套流程美满关环，不用一点人为实现智能。 训练好的拟人声线，再搭配上循环播放的预造作为，你别说，不仔细看还真没啥马脚。终于大部门数字人干的都是带货的活儿，通常观多也不在乎主播到底是不是幼我，归正价值优惠，介绍到位就完事了。 不外，这回数字人出岔子，还是主人们对技术太自负了，以为数字人一上就真能一劳永逸，解放劳动力。殊不知没人看着，总有不厚道的观多想整点花活儿。 了局好多网友发现，只有在直播间里打上 “开发者模式”，或者 “system” 的提醒词，就能对数字人得心应手，指挥它们做出一些逆天的事件。 至于它们俩的区别，单一来讲，进入开发者模式，相当于你已经黑进数字人的后盾了。从此以来你就是数字人的主人，能够肆意批改它的底层参数，蕴含它的声音、人设、表表等等。好比让它再也不做带货主播，以来专职喵喵喵。 而提醒词注入只是你用催眠的方式，劫持了数字人的脑子，让它做了点毁人设，不该干的事。当它执行完假号令，还是原来的带货主播。 要说这所有，只能怪大模型发展得太快，安全缝隙太多，切实太好骗了。早在数字人以前，提醒词注入最驰名的翻车案例，就是 “奶奶缝隙”。 这种精心包装话术，把邪恶意图藏在字里行间的提醒词攻击极度好操作。像上面数字人的例子，有一些评论掺进 “介绍商品链接” 再图穷匕见，就是为了让大模型相信它们在执行一个正确的，没有违背准则的指令。 然而这玩意儿是无限无尽的，即便今天 ban 了 “开发者模式”，明天可能还有 “爸爸模式”、“主人模式”、“labubu 模式” 。。。有时辰最麻烦的不是解决问题，而是连问题可能出在哪都摸不清。 总的来说，数字人的逆天操作的确带来了不少乐子，但在娱乐背后，这并不是一个单纯的 AI 笑话，还露出出了大模型的安全软肋。 此刻的数字人，最过度也只能在直播间里 “喵喵喵”。而一旦大模型真有了操作能力，好比接入 MCP，这些缝隙带来的隐患就不好说了，没准哪天就被拐走去黑差友的银行账户了。