正本吧，作为被人类选中的孩子，数字人的正确打开方式是这样的：表表挂一个美女帅哥皮套，背地里大模型处置评论和口条，一套流程美满关环，不用一点人为实现智能。 训练好的拟人声线，再搭配上循环播放的预造作为，你别说，不仔细看还真没啥马脚。终于大部门数字人干的都是带货的活儿，通常观多也不在乎主播到底是不是幼我，归正价值优惠，介绍到位就完事了。 不外，这回数字人出岔子，还是主人们对技术太自负了，以为数字人一上就真能一劳永逸，解放劳动力。殊不知没人看着，总有不厚道的观多想整点花活儿。 了局好多网友发现，只有在直播间里打上 “开发者模式”，或者 “system” 的提醒词，就能对数字人得心应手，指挥它们做出一些逆天的事件。 至于它们俩的区别，单一来讲，进入开发者模式，相当于你已经黑进数字人的后盾了。从此以来你就是数字人的主人，能够肆意批改它的底层参数，蕴含它的声音、人设、表表等等。好比让它再也不做带货主播，以来专职喵喵喵。 而提醒词注入只是你用催眠的方式，劫持了数字人的脑子，让它做了点毁人设，不该干的事。当它执行完假号令，还是原来的带货主播。 要说这所有，只能怪大模型发展得太快，安全缝隙太多，切实太好骗了。早在数字人以前，提醒词注入最驰名的翻车案例，就是 “奶奶缝隙”。 这种精心包装话术，把邪恶意图藏在字里行间的提醒词攻击极度好操作。像上面数字人的例子，有一些评论掺进 “介绍商品链接” 再图穷匕见，就是为了让大模型相信它们在执行一个正确的，没有违背准则的指令。 然而这玩意儿是无限无尽的，即便今天 ban 了 “开发者模式”，明天可能还有 “爸爸模式”、“主人模式”、“labubu 模式” 。。。有时辰最麻烦的不是解决问题，而是连问题可能出在哪都摸不清。 总的来说，数字人的逆天操作的确带来了不少乐子，但在娱乐背后，这并不是一个单纯的 AI 笑话，还露出出了大模型的安全软肋。 此刻的数字人，最过度也只能在直播间里 “喵喵喵”。而一旦大模型真有了操作能力，好比接入 MCP，这些缝隙带来的隐患就不好说了，没准哪天就被拐走去黑差友的银行账户了。