Anamorpher — Image-Scaling Prompt Injection Lab

Main

• 把它当评测工装：先生成 payload 图片，再比较不同 downscaler 在缩放后是否“显露”隐藏注入指令。

• 对比实现差异：README 提到可在前端对比 OpenCV、PyTorch、TensorFlow、Pillow 等缩放实现。

• 把结果当概率事件：README 提醒结果会波动，并建议每个示例跑约 5 次以获得更稳定结论。

Source-backed notes

• README 将 Anamorpher 定位为图像缩放攻击的生成/可视化工具，同时提供前端 UI 与 Python API。
• README 列出支持的 downscaling 算法（bicubic/bilinear/nearest neighbor）及对比后端（OpenCV/PyTorch/TensorFlow/Pillow）。
• README 的 setup：uv sync，再 uv run python backend/app.py 启动后端，并在浏览器打开 frontend/index.html。

FAQ

• 它适用于纯文本 LLM 吗？：主要不是。README 明确面向多模态系统，利用图像缩放链路隐藏/触发注入指令。
• 结果一定可复现吗？：不一定。README 提示结果会波动，并建议多次运行同一示例做统计。
• 怎么更安全地落地？：只在受控评测环境使用，并把生产预处理链路（缩放库/参数）完整记录，避免误判。