- Introduced `test_cutout.py` to validate cutout pie menu behavior, image lasso options, and mesh detail calculations. - Added `test_mesh.py` to ensure correct tangent normal rasterization, plane source topology, and depth surface evaluations. - Created `test_mesh_blender.py` to verify material node groups, tangent baking, and local cutout building from Blender images. - Implemented tests for handling alpha regions and ensuring geometry nodes maintain expected behavior.
AnyImage
AnyImage 是一个 Blender 扩展,可以把一张照片、一段视频或一组序列帧快速变成有真实深度的立体面片。
完整使用说明请从文档首页开始;首次使用请依次阅读 安装与首次配置和五分钟上手。
它能做什么
- 在 3D View、Node Editor 与绘画模式中按
Ctrl+V(macOS 为Cmd+V)直接粘贴并 Pack 剪贴板图片 - 不运行 AI,把 Image Empty 转换为可实时调整 Thickness 与 Subdivide 的 Mesh Plane
- 从 Image Empty 套索提取不规则区域,通过 Poisson 或 Teddy / Chordal Axis 生成封闭 Balloon,并可用 BEN2 分析轮廓、MoGe-2 添加可调深度;源 Empty 保持不变
- 用 Image Box / Lasso / Line / Polyline 直接清理 Image Empty;按
F反选,也可用 BEN2 细化选区 - Image 编辑会直接更新未共享的图片;图片被多个 Image Empty 共用时,只为当前 Empty 分离编辑结果
- 用 Image Perspective 勾勒四个角点,把透视四边形矫正为矩形裁切图,并沿用源 Image Empty 的空间朝向
- 一键把 Image Empty 转换为立体面片:让 AI 估算深度,或直接用原图作为深度
- 把单张 Image Empty 转换为透视纹理网格,并自动匹配原对象的 Transform 与 Offset
- 一键去除图片背景,生成透明前景图
- 用三档 ONNX 模型将图片、视频或序列帧逐帧放大 4 倍
- 支持视频与序列帧输入,逐帧处理,动画也能得到逐帧对应的立体面片
- 主要转换操作集中在右键菜单,剪贴板图片可直接用系统粘贴快捷键导入
安装
- 下载对应系统的扩展压缩包
- 打开 Blender,进入
Preferences > Extensions - 点击
Install from Disk,选择下载的压缩包 - 在扩展偏好设置中确认 Storage Root 与 Device(保持默认即可);Device 默认取本机 最快的 DirectML provider;Apple M4 或更新芯片可选 MPS/CoreML,其他 Mac 只提供 CPU
- 选中 Image Empty,在右键
AnyImage子菜单中点击Set Up AI Environment…;也可以从扩展偏好设置进入
扩展不内置 uv 或 AI 运行库。Set Up AI Environment… 会先说明下载内容、约 600 MB 的下载量、约 1 GB 的磁盘占用和预计等待时间,并可勾选 Use Mirror。确认后会下载并校验固定版本的 uv,自动安装轻量的 ONNX Runtime 环境,再下载 MoGe-2 ViT-S Normal、BEN2 Base 和默认高清模型 Real-ESRGAN General WDN x4v3;不安装 PyTorch,也不下载各模型的 Python 源码包。Use Mirror 只切换 uv、Python 和 Python 包的下载源,模型仍使用自己的下载源与备用镜像规则。
Environment Bootstrap 使用连续的 0–100%:uv 为 1–20%、Python 为 20–50%、packages 为 50–98%,最终验证为 98–100%。三个阶段显示真实的 1/3、2/3、3/3,下载占各阶段的 84–87%;开始与最终验证不显示编号,单阶段状态不显示 1/1。MoGe-2 与 BEN2 属于 post-install,各自使用独立进度,不计入 Environment 的这轮 0–100%。任一必需模型在两个来源都下载失败时,安装任务会明确报错;Environment 本身仍会保留。
选中 Image Empty 后,AnyImage 会显示在右键菜单最上方。Mesh / Depth / Surface 转换为一组,Remove Background 与 Upscale 作为图片处理归为下一组,环境入口位于最后。Environment 或必需模型未就绪时,点击 Convert to Depth Plane…、Convert to Surface…、Remove Background 或 Upscale 会打开对应准备对话框:Environment 未安装时入口显示 Set Up AI Environment…,安装 Environment 与默认模型;Environment 已安装但默认模型缺失时入口显示 Download Required Models…,只补齐缺失模型。全部就绪后,菜单入口改为 AI Environment Settings…,并打开 AnyImage 扩展偏好设置。
其他 AI 模型统一在 AnyImage 扩展偏好设置中按需下载。Balloon Lasso Tool 的本地几何功能始终可用;AI 未就绪时,只禁用 Tool Settings 中的 Contour、Depth 与 Depth Model,并在同处根据状态显示 Set Up AI Environment… 或 Download Required Models…。共享的 AI 状态检测直接检查 Environment 和 Storage Root 的 models/ 文件,不会仅因打开菜单或设置而启动 Job Server。
快速上手
粘贴剪贴板图片
复制图片后,在 3D View、Shader Editor、Compositor 或 Geometry Nodes 中按 Ctrl+V;macOS 使用 Cmd+V。AnyImage 会根据当前上下文创建 Reference Image、带材质的 Plane、图片节点或笔刷 Texture,并将图片 Pack 到当前 .blend。完整说明见粘贴剪贴板图片。
转换为普通图片平面
选中 Image Empty 后,右键选择 AnyImage > Convert to Mesh Plane。该操作不运行 AI,会创建带图片材质和 O Mesh Plane Geometry Nodes 修改器的基础四边形。Thickness 与 Subdivide 都在修改器中实时生成;Subdivide 使用二分级别(3 为短边 8 段),Thickness = 0 时结果为真正的单面。操作会立即执行;创建后可在 Last Operation 中调整 Shadeless 和 Keep Original,调整时保持源图片的世界位置、旋转与缩放。完整说明见 Mesh Plane。
转换为立体面片
- 在 3D 视图中选中一个 Image Empty(空物体,显示方式为 Image)
- 右键打开
AnyImage子菜单,选择Convert to Depth Plane - 在对话框中选择:
Depth from:Original直接用原图,DA3使用现有 DA3 流程,MoGe-2生成 metric depth、normal 与有效区域 maskResolution Scale使用1–100%,按原图长边计算 Process Res;结果会限制在252–1008并自动对齐到 14 的倍数Remove Background默认关闭;开启后在转换期间使用 BEN2 删除背景Shadeless使用O Shadeless节点组显示不受场景灯光影响的贴图颜色Keep Original默认关闭,位于分割线下方;开启后保留源 Image Empty
- 点击确认,稍等片刻就得到带位移的立体面片。
O DA3 Depth Plane与O MoGe2 Depth Plane都使用颜色图片的Alpha > 0.5划分前景范围,范围外由Background Depth控制。
编辑图片选区
在 3D Viewport 左侧工具栏选择 Image Mask 工具组。Box 拖出矩形,Lasso 手绘轮廓,Line 清理有向直线的一侧,Polyline 逐点构建多边形。点击另一张 Image Empty 时只切换选择;点击当前 Active 图片、空白处或非图片物体时,才开始编辑当前图片。没有 Active 图片时会提示先选择 Image Empty,切换其他工具会取消当前绘制。
绘制中按 F 切换反选:默认保留选区内,反选后保留选区外。Line 按住 Ctrl 以 5° 吸附;Polyline 可单击起点圆环或按 Enter 完成。Refine Selection 只用于 Box / Lasso:先用 BEN2 将几何选区收紧到其中的前景,再应用反选。结果直接替换当前 Empty 的图片,按最终非零 Alpha 紧裁切,并更新显示尺寸与 Image Offset;对象 Transform 不变。透明区保留源 RGB,避免纹理过滤产生黑边。未形成有效区域的单击会静默结束;有效选区没有可见像素时只显示警告,不修改图片。
四点透视矫正
Image Perspective 是 Image Mask 工具组之后的独立工具,位于该组与 Balloon Lasso 之间。四个角可以按任意顺序点击,完成后会在源图片坐标中自动求出不交错的凸四边形,并以原图 X/Y 方向确定输出旋转。绘制时显示白色虚线和半透明选区面,Backspace 删除最近一个角点,右键或 Esc 取消;切换其他工具也会立即退出。首次点击遵循同一选择规则。Perspective 不依赖当前 View 的相机内参,因此透视和正交 View 都可以使用。
第四个角点按下时会在 Viewport 中央显示带蓝色边框的矫正图片预览,中央显示当前比例,下方显示鼠标操作提示;鼠标同时移到 Viewport 中心,为左右两个方向保留相同的调节空间。水平移动连续调整宽高比,按住 Ctrl 吸附到 1:1、4:3、3:4、16:9、9:16,下一次左键确认并创建;Backspace 返回第三点,右键或 Esc 取消。初始比例取四边形两组对边的平均长度比。预览使用一次生成的 512 × 512 临时图片,移动鼠标时只改变 UI 显示比例。
确认后,工具把选区透视矫正为矩形图片,按最终非零 Alpha 范围裁切并 Pack 到 .blend。结果 Empty 保持源图的朝向和深度,以四边形在源图上的 bounding box 近似确定中心与显示范围,不再尝试从当前 View 反解真实空间矩形。四边形完全位于源图范围外,或矫正结果没有可见 Alpha 像素时,只显示警告且不创建结果。输出最长边不超过 8192 px,总像素不超过约 16 MP。
Image Perspective 是 deform 工具,不提供 Refine 或反选。它与其他 Image 工具共享选图、绘制样式、紧裁切和 Empty 写回逻辑。
完整操作说明见 Image 编辑工具。
Cutout 基础面与四种形状
在 Object Mode 的 3D Viewport 左侧工具栏选择 Cutout,沿 Image Empty 绘制后可从四个方向选择 Cutout、Balloon、Depth Balloon 或 Depth Surface;双击会选择完整图片。Pixel Size 控制规则三角格点密度。未启用 Refine Selection 时,几何只跟随套索,忽略原图 Alpha;启用后才使用 BEN2 Alpha 收紧几何选区。自交轨迹按非零环绕规则填充:同方向的重叠区域保留,只有反方向抵消的内环形成孔洞。未 Refine 的普通选区可以越过图片边框继续生成网格,但必须与原图可见像素相交;启用 Refine 后,框外部分会随最终 AI Alpha 被裁掉。基础面内部使用均匀六角格点,平滑轮廓作为约束边界;小选区会自动缩短边界采样间距,避免在较大的 Pixel Size 下被误判为空,同时不增加内部格点密度。Cutout 的 Thickness 以场景距离沿图片平面法线对称加厚,前盖、背面和轮廓侧壁均保持朝外。套索和 Refine Alpha 只决定几何轮廓;四种结果的材质颜色使用当前 Empty Image 的未裁切副本,深度与法线也分析完整图片,因此选区抗锯齿不会再次降低材质边缘 Alpha。若当前图片来自 Upscale,AI 分析会回溯到放大前的原图,颜色仍保留高清版本。未启用 Refine 且关闭 Normal 时,Cutout 与 Balloon 会直接在 Blender 内完成遮罩、轮廓提取和建面,不启动 BlendJob。Normal 默认关闭;启用后才通过 MoGe-2 生成 normal 纹理,并改用 Job。Depth Surface 直接使用 MoGe-2 原生的 object-space normal;Cutout、Balloon 与 Depth Balloon 会依据成品网格的平滑 TBN 另行烘制像素内容不同的 tangent-space normal。启用 Refine 时,Job 提供 BEN2 修正后的几何 Alpha;轮廓提取与建面仍由 Blender 完成。Depth Balloon 与 Depth Surface 因需要深度分析继续使用 Job,是否额外写入 normal 同样由 Normal 控制。
完整说明见 Cutout。
O Image Depth Surface 将 O Smooth 的 Repeat Zone、双域边界采样和法线权重节点直接展开在主节点图中,并固定按 Pin Sharp = 1、Pin Boundary = 1 计算,不暴露这两个参数;Iterations 默认 1、最小可设为 0。Depth Continuity 默认 0,采用最宽松的断层阈值。Thickness 保持正面的深度表面不动,只向背面挤出。
套索生成 Balloon
选中单张图片的 Image Empty,右键打开 AnyImage 子菜单并选择 Balloon Lasso Tool。Blender 会激活 3D Viewport 左侧工具栏底部、位于独立 Image Perspective 之后的 Balloon Lasso;Image Mask 工具组与 Add Cube 之间保留一个间隔。Balloon 使用 Poly Build 的绿色图标、Annotate 同款铅笔光标,Tool Header 与状态栏共同提示当前工具状态,不再用黄色外框或强制修改 Shading、Overlay。Blender 的公开 Workspace Tool API 不支持按 Active Object 动态隐藏工具,因此图标在 Object Mode 中保持可见,但只有 Active Object 是 Image Empty 时才能启动 Stroke。
按住左键沿目标轮廓绘制,松开后生成一个带原图 UV 的封闭网格。每次拖动都是一个独立完成的顶层 Extract Balloon Operator,工具本身继续保持激活,下一次拖动会创建另一个 Balloon;因此 Ctrl+Z 只撤销最近一次生成,Ctrl+Shift+Z 重做。每次生成后源 Image Empty 都保持选中和 Active。未绘制时没有持续 Modal 拦截事件,视图导航和其他原生快捷键由 Blender 正常处理;绘制中可用右键或 Esc 取消当前轨迹。选择左侧工具栏中的其他工具即可离开 Balloon Lasso。
Mode、Thickness、Resolution (m)、Reuse Material、Contour、Depth和启用Depth后出现的Depth Model显示在 Tool Header / Tool SettingsS:调用 Blender 原生 Radial Control 调节 Thickness;通过zoom_path把默认1.0映射为约 100 px 的交互圆,软上限为5.0,不设硬上限D:调用 Blender 原生 Radial Control 调节 Resolution;通过独立zoom_path把默认0.1 m映射为约 100 px 的交互圆,数值越小网格越密
Resolution (m) 会根据 Scene Unit Scale 换算为网格使用的世界距离,因此不同单位设置下仍代表相同的物理采样间距。Poisson 模式使用尺度无关的求解判断,支持 0.02 m 等较密采样。两个 AI 选项默认关闭;Contour 使用 BEN2 Alpha 严格大于 0.5 的最大连通前景重建轮廓,Depth 使用所选 MoGe-2 模型。MoGe 的物理距离会先减去稳健拟合的基面,再换算为不受绝对拍摄距离影响的相对起伏;近侧与远侧信号都保留,不削顶、不截平。
Depth Balloon 使用局部 X 作为深度轴,并创建 <Balloon> Base Plane Single Arrow Empty。Empty 的旋转定义基面朝向,沿自身局部 Z 移动则调整 middle level。默认深度校准为 修正深度 = (0.5 × 相对基面深度 + 原始 Balloon 最大半厚度) × Depth Strength;原始最大半厚度来自生成后的固定网格,不受修改器 Thickness 影响。这在 Thickness = 1 时等价于旧参数的 Depth Strength = 0.5 和两倍半厚度基面偏移。节点再以 Smoother Step 中心程度插值修正厚度与修正深度;Thickness 只控制厚度分支,Depth Strength 只控制深度分支。Double Sided Depth 默认关闭,使背面维持稳定厚度。
MoGe normal 会转换成适配 Balloon UV 的 tangent-space normal.png,由统一的 O Image Layer 材质补回网格分辨率未能表达的细节;Normal Scale 默认 1,Bump Scale 默认 0,未连接 normal 时使用 [0.5, 0.5, 1.0, 1.0] 中性值。Balloon 材质通过 Custom Properties 直接保存源 Image datablock 引用,不依赖材质名或节点组名识别;勾选 Reuse Material 时优先复用同一 Image、同一材质类型的标记材质。Depth Balloon 共用一张原图尺寸的 normal,后续套索会把自己的有效区域合并进去,重叠区域采用最新结果。旧材质仍保留节点识别回退。当前只支持静态图片。
去除背景
选中 Image Empty 后,右键打开 AnyImage 子菜单并选择 Remove Background,完成后 Empty 会自动
换成透明前景图。
高清放大
选中 Image Empty 后,在右键 AnyImage 菜单中点击 Upscale。它使用扩展偏好设置中选择的模型进行 4× 放大,支持单图、Movie 和 Image Sequence,并保留源 Alpha。
转换为透视网格
选中单张图片的 Image Empty,右键打开 AnyImage 子菜单并选择 Convert to Surface。可选择 MoGe-2
ViT-S、ViT-B、ViT-L 或 DA3 Small、Base,其中 MoGe-2 ViT-S 为默认模型。AnyImage 会按模型输出的
相机内参与三维点建立透视网格,并匹配原 Empty 的可见尺寸、Offset 与 Transform。Server 通过统一的
Surface 输出流程构建 DA3 与 MoGe-2 源网格:MoGe-2 使用深度断层 mask,DA3 保留 confidence 与边拉伸
数据。两者再由独立的 Geometry Nodes
修改器完成剔面、快速重拓扑、Relax 与 UV 重投;顶层 Iterations 可设为 0。开启 Remove Background
时,BEN2 Alpha 只要大于 0 就视为前景;三角形三个顶点必须全部为前景,任一顶点 Alpha 为 0
都会删除该面并且不再交给 Geometry Nodes;Surface 材质使用生成的颜色图片。匹配相机默认不创建;开启后会作为 Surface 的子级。
MoGe-2 的像素级 normal 会作为 object-space normal 贴图接入 O Image Layer,并与原图
Bump 合并;网格本身不写入 custom normal,因此重拓扑降低顶点数后仍能保留细腻的法线细节。
当前此功能仅支持单张图片。
MoGe-2 ViT-S、ViT-B、ViT-L、DA3 Small、DA3 Base、BEN2 与 Upscale 使用的 Real-ESRGAN General WDN x4v3、SAFMN Real x4、Real-ESRGAN x4plus 全部使用 ONNX。模型执行、相机与深度恢复、
点云重投影和网格生成均不依赖 PyTorch。Windows 使用 DirectML 加速;Apple M4 或更新芯片可使用 CoreML 的 MLProgram 模型格式,较早或无法识别的 Mac 只提供 CPU;provider 不可用时会回退到 ONNX Runtime CPU,
并在任务状态中显示实际 provider。
转换对话框提供模型与 Create Matching Camera、Remove Background、Shadeless;DA3 显示
Resolution Scale,MoGe-2 显示 Resolution Level,
以及分割线下方的 Keep Original。
界面会显示计算所得的实际 Process Res。剔除和重拓扑参数直接在
Geometry Nodes 修改器中调整;Shadeless 与 Depth Plane 共用 O Shadeless 材质节点组。颜色贴图始终使用统一的图片转换产物;Remove Background 只决定是否由 BEN2 修改 Alpha。颜色贴图会按当前场景的 View Transform 选择对应输入色彩空间:AgX、ACES 1.3、ACES 2.0、Filmic、Khronos PBR Neutral 分别使用 AgX Base sRGB、ACES 1.3 sRGB、ACES 2.0 sRGB、Filmic sRGB、Khronos PBR Neutral sRGB;无法匹配当前 View Transform 时回退 sRGB。普通材质的
Bump Scale 会在材质组内乘以 0.001,并按透视表面的深度空间缩放。Surface 与 Depth Plane 的
Layer Color 同时驱动 Principled BSDF 的 Base Color、Subsurface Radius 和 Emission Color,Layer Normal
同时驱动 Normal 与 Coat Normal;Subsurface、Emission、Coat 的其他设置保持默认。Surface attributes
统一使用 o_ 前缀;Server 准备过程显示
Preparing surface data n/6,可看到当前阶段与总步骤;Surface 与 Depth 单帧模型推理都不显示多余的 1/1。
视频与序列帧
AnyImage 支持视频(mp4、mkv、mov 等)和序列帧,会逐帧处理并生成逐帧对应的立体面片。颜色图片与 .depth 按源 Empty Image 的类型载入:普通单图为 IMAGE,Movie/Sequence 即使只处理一帧也仍为 SEQUENCE。处理范围默认
跟随 Empty 上设置的 Image Frames 与 Offset,不需要额外配置。DA3 的转换任务复用同一个 ONNX
Session 逐帧推理,显存峰值不随视频帧数平方增长。Upscale 也会逐帧生成受输出上限约束的 4× 颜色序列并写回 Empty。Debug 只保存模型 API 的直接返回:DA3 多帧输入
保留联合推理,MoGe-2、BEN2 与三档高清模型按各自的单图 API 逐帧保存。高清 Debug 输出 4× RGB prediction*.png,不做强度混合或图片替换;三个模型都由适配层自动分块,因此接受任意图片宽高。
任务结果保存在哪里
任务结果保存在 Runtime Storage Root 的 jobs/ 下,默认是 ~/.anyimage/jobs/。Job Server 接受任务时自动生成 opaque Job ID,并创建同名文件夹;Blender 不预先申请 ID 或目录。Packed Image 和序列帧的临时输入由 Blender 在任务结束后清理,Server 产物直接写入该 Job 目录。普通图片层使用 image.0001.* 起的文件名,导入后沿用源 Image 名称并由 Blender 自动添加 .001;Upscale 单独使用 upscale.0001.png 和 .upscale 数据块后缀。视频或序列帧生成的面片会引用其中的序列帧,请保留对应文件夹,不要随意删除。
每个任务目录中的 job.log 保存任务细节和完整 traceback;Storage Root 下的 server.log 只保留带时间、Job ID 与 Job Type 的生命周期主线,以及 Server 自身异常。
常见问题
- 首次使用需要下载模型;Environment 已安装但默认模型下载慢或失败时,点击
Download Required Models…可补齐缺失项,也可在 AnyImage 扩展偏好设置中逐项重试 - 安装 Environment 时下载状态会显示平均速度;网络适合国内镜像时在确认对话框勾选
Use Mirror,否则保持关闭。选择的来源固定用于 uv、Python 和 Python 包,失败时不会自动切换 - 默认模型下载会在 Hugging Face 与 OmooLab 镜像之间自动回退;某一来源暂时断线不会阻止后续模型尝试另一来源
- 模型直链建连超过 10 秒,或连接后连续 60 秒没有收到数据,会切换到下一来源;不限制总下载时长
- 找不到右键入口时,请确认选中了 Empty,且显示方式为 Image
- 动画面片不动:检查 Empty 的
Image Frames是否大于 1,并确认播放场景帧
技术文档
Blender 侧只负责界面、任务提交与结果导入,AI 与文件输出由独立 Job Server 执行。源码将插件级 runtime.py、menu.py、panel.py 保持在顶层,具体功能与共享图片、材质能力统一放在 operators/;每种任务的结果回写与对应 Operator 放在一起。详细功能见
文档索引,程序设计、调用流程、项目结构与开发命令见
程序设计、开发与许可证。CI 在 main push 与 Pull Request 上运行测试,仅由 v* tag 构建并发布扩展包;文档在 main 的文档相关文件变化时部署。