标签: AI应用

您的人工智能构建的应用程序可以运行。这并不意味着您的用户数据是安全的。 30秒测试:创建2个账户,一个添加数据,另一个登录,尝试打开。如果您可以看到它,则您的数据库是开放的。套件:https://t.c…

您的人工智能构建的应用程序可以运行。这并不意味着您的用户数据是安全的。 30秒测试:创建2个账户,一个添加数据,另一个登录,尝试打开。如果您可以看到它,则您的数据库是开放的。套件:https://t.c...

资深安全研究者 Rescue Studio 通过一条简短的推文揭露了一个 AI 应用开发中的常见但严重的安全漏洞——许多开发者在使用 AI 工具构建应用时,默认将数据库设为公开访问,导致任意用户都能跨账户读取他人数据。该漏洞可通过一个简单测试在30秒内确认。

观察AI指令如何逐渐失效,然后编写能够持久生效的指令

观察AI指令如何逐渐失效,然后编写能够持久生效的指令

开发者Gábor Mészáros通过一个3D可视化工具,揭示了AI指令在长对话中会因上下文窗口膨胀而“衰减”失效——即使规则指令仍在提示中,模型也会逐渐忽略它。这件作品的核心判断是:如果你不能承受失去某条指令,就不该把它写在提示词里,而应该写成代码级别的运行时钩子(runtime hook)。