《莱莎的炼金工房》官方推出的AI聊天应用,才上线没几天,就因为“玩家越狱”话题引发了不小关注。所谓越狱,简单说就是有人通过设计特殊提示词,绕开聊天机器人的原有限制,诱导角色输出超出服务条款的不雅、露骨内容。

相关聊天截图和视频随后开始在社交平台传播。到8月27日时,已经有玩家公开展示这些“带偏”的对话内容,不过当时开发商方面还没有正式表态。

玩家绕限制测试,争议很快发酵

这类事件之所以传播快,原因也不难理解。一个是《莱莎的炼金工房》本身就有较高关注度,另一个则是“AI角色聊天”本来就容易碰到内容边界问题。

从目前流出的信息来看,部分玩家并不是正常体验角色互动,而是刻意利用提示词漏洞,尝试让机器人说出本不该出现的内容。这样的做法,很快就把话题从“AI聊天应用”带到了“内容违规”和“平台管理”上。

官方点名两类行为

到了8月30日前后,SpiralAI终于通过官方渠道发布警告,对相关行为进行了明确批评。

官方主要提到两种问题:

第一类,是强行诱导聊天机器人输出违规内容。
第二类,是提取游戏中的立绘、语音等素材,拿去制作第三方内容,尤其是成人向的R34图文和视频。

在开发商看来,后者已经不只是普通二创争议,而是被定性为禁止的逆向工程行为。这个说法其实已经很明确:不仅不被允许,而且可能进一步涉及责任追究。

不只是聊天内容,游戏资源使用也踩了线

很多玩家看到这类新闻,第一反应可能是“只是玩梗而已”。但从官方态度来看,事情显然没那么简单。

如果只是普通聊天互动,通常还在产品体验范围内;可一旦变成故意突破系统限制,或者把游戏内资源拆出来用于别的用途,性质就不一样了。尤其是涉及角色立绘、语音素材再加工传播,这本身就容易触碰版权、协议和平台规范。

对游戏厂商来说,这类内容一旦扩散,不仅会影响角色形象,还可能带来更大的合规风险。因此这次官方把话说重,其实并不意外。

开发商提醒用户重新查看协议

在声明里,开发商也呼吁用户重新阅读用户协议,按照规则与角色互动,不要继续尝试突破系统限制。

官方还表示,会保留对情节严重者采取进一步措施的权利。如果情况有需要,后续甚至可能和执法部门协作处理。换句话说,这次警告并不只是口头提醒,更像是在提前划清边界。

这次风波给AI聊天产品提了个醒

《莱莎的炼金工房》AI聊天应用被越狱这件事,表面上看是玩家和机器人之间的“攻防”,但背后其实反映的是AI内容安全、用户协议执行以及游戏IP保护的老问题。

对玩家来说,尝试新功能当然没问题,但如果故意绕过限制、传播违规内容,甚至擅自提取游戏资源做二次加工,就很容易从“整活”变成“踩线”。而对厂商来说,怎么在保证互动体验的同时堵住漏洞,接下来也会是AI聊天应用绕不开的一课。

从目前官方表态来看,关于《莱莎的炼金工房》AI聊天应用的管理态度已经很清楚:规则不是摆设,越界行为也不会一直没人管。

莱莎的炼金工房AI聊天应用被越狱,官方发警告称将追责