nan 6c8358f92f Refactor image processing and cutout functionalities
- Updated the naming convention for upscaled images to include underscores and file extensions.
- Renamed properties related to cutout pixel size to point spacing for clarity.
- Adjusted alpha region calculations to use a half-alpha threshold for better accuracy.
- Enhanced the handling of foreground mesh masks to consider half-alpha values.
- Introduced new functions for unbounded selections and cutout images, ensuring proper handling of source and selection images.
- Improved test coverage for cutout functionalities, including bounds mapping and alpha preservation.
- Updated tests to reflect changes in naming conventions and functionality adjustments.
2026-08-27 12:01:47 +08:00

AnyImage

AnyImage 是一个 Blender 扩展,可以把一张照片、一段视频或一组序列帧快速变成有真实深度的立体面片。

完整使用说明请从文档首页开始;首次使用请依次阅读 安装与首次配置和五分钟上手。

它能做什么

  • 在 3D View、Node Editor 与绘画模式中按 Ctrl+V(macOS 为 Cmd+V)直接粘贴并 Pack 剪贴板图片
  • 不运行 AI,把 Image Empty 转换为可实时调整 Thickness 与 Subdivide 的 Mesh Plane
  • 从 Image Empty 套索提取不规则区域,通过 Poisson 或 Teddy / Chordal Axis 成成封闭 Balloon,并可用 BEN2 分析轮廓、MoGe-2 添加可调深度;源 Empty 保持不变
  • 用 Image Box / Lasso / Line / Polyline 直接清理 Image Empty;按 F 反选,也可用 BEN2 细化选区
  • Image 编辑会直接更新未共享的图片;图片被多个 Image Empty 共用时,只为当前 Empty 分离编辑结果
  • 用 Image Perspective 勾勒四个角点,把透视四边形矫正为矩形裁切图,并沿用源 Image Empty 的空间朝向
  • 一键把 Image Empty 转换为立体面片:让 AI 估算深度,或直接用原图作为深度
  • 把单张 Image Empty 转换为透视纹理网格,并自动匹配原对象的 Transform 与 Offset
  • 一键去除图片背景,成成透明前景图
  • 用三档 ONNX 模型将图片、视频或序列帧逐帧放大 4 倍
  • 支持视频与序列帧输入,逐帧处理,动画也能得到逐帧对应的立体面片
  • 主要转换操作集中在右键菜单,剪贴板图片可直接用系统粘贴快捷键导入

安装

  1. 下载对应系统的扩展压缩包
  2. 打开 Blender,进入 Preferences > Extensions
  3. 点击 Install from Disk,选择下载的压缩包
  4. 在扩展偏好设置中确认 Storage Root 与 Device(保持默认即可);Device 默认取本机 最快的 DirectML provider;Apple M4 或更新芯片可选 MPS/CoreML,其他 Mac 只提供 CPU
  5. 选中 Image Empty,在右键 AnyImage 子菜单中点击 Set Up AI Environment…;也可以从扩展偏好设置进入

扩展不内置 uv 或 AI 运行库。Set Up AI Environment… 会先说明下载内容、约 600 MB 的下载量、约 1 GB 的磁盘占用和预计等待时间,并可勾选 Use Mirror。确认后会下载并校验固定版本的 uv,自动安装轻量的 ONNX Runtime 环境,再下载 MoGe-2 ViT-S Normal、BEN2 Base 和默认高清模型 Real-ESRGAN General WDN x4v3;不安装 PyTorch,也不下载各模型的 Python 源码包。Use Mirror 只切换 uv、Python 和 Python 包的下载源,模型仍使用自己的下载源与备用镜像规则。

Environment Bootstrap 使用连续的 0–100%:uv 为 1–20%、Python 为 20–50%、packages 为 50–98%,最终验证为 98–100%。三个阶段显示真实的 1/3、2/3、3/3,下载占各阶段的 84–87%;开始与最终验证不显示编号,单阶段状态不显示 1/1。MoGe-2 与 BEN2 属于 post-install,各自使用独立进度,不计入 Environment 的这轮 0–100%。任一必需模型在两个来源都下载失败时,安装任务会明确报错;Environment 本身仍会保留。

选中 Image Empty 后,AnyImage 会显示在右键菜单最上方。Mesh / Depth / Surface 转换为一组,Remove Background 与 Upscale 作为图片处理归为下一组,环境入口位于最后。Environment 或必需模型未就绪时,点击 Convert to Depth Plane…、Convert to Surface…、Remove Background 或 Upscale 会打开对应准备对话框:Environment 未安装时入口显示 Set Up AI Environment…,安装 Environment 与默认模型;Environment 已安装但默认模型缺失时入口显示 Download Required Models…,只补齐缺失模型。全部就绪后,菜单入口改为 AI Environment Settings…,并打开 AnyImage 扩展偏好设置。

其他 AI 模型统一在 AnyImage 扩展偏好设置中按需下载。Balloon Lasso Tool 的本地几何功能始终可用;AI 未就绪时,只禁用 Tool Settings 中的 Contour、Depth 与 Depth Model,并在同处根据状态显示 Set Up AI Environment… 或 Download Required Models…。共享的 AI 状态检测直接检查 Environment 和 Storage Root 的 models/ 文件,不会仅因打开菜单或设置而启动 Job Server。

快速上手

粘贴剪贴板图片

复制图片后,在 3D View、Shader Editor、Compositor 或 Geometry Nodes 中按 Ctrl+V;macOS 使用 Cmd+V。AnyImage 会根据当前上下文创建 Reference Image、带材质的 Plane、图片节点或笔刷 Texture,并将图片 Pack 到当前 .blend。完整说明见粘贴剪贴板图片。

转换为普通图片平面

选中 Image Empty 后,右键选择 AnyImage > Convert to Mesh Plane。该操作不运行 AI,会创建带图片材质和 O Mesh Plane Geometry Nodes 修改器的基础四边形。Thickness 与 Subdivide 都在修改器中实时成成;Subdivide 使用二分级别(3 为短边 8 段),Thickness = 0 时结果为真正的单面。操作会立即执行;创建后可在 Last Operation 中调整 Shadeless 和 Keep Original,调整时保持源图片的世界位置、旋转与缩放。完整说明见 Mesh Plane。

转换为立体面片

  1. 在 3D 视图中选中一个 Image Empty(空物体,显示方式为 Image)
  2. 右键打开 AnyImage 子菜单,选择 Convert to Depth Plane
  3. 在对话框中选择:
    • Depth from:Original 直接用原图,DA3 使用现有 DA3 流程,MoGe-2 成成 metric depth、normal 与有效区域 mask
    • Resolution Scale 使用 1–100%,按原图长边计算 Process Res;结果会限制在 252–1008 并自动对齐到 14 的倍数
    • Remove Background 默认关闭;开启后在转换期间使用 BEN2 删除背景
    • Shadeless 使用 O Shadeless 节点组显示不受场景灯光影响的贴图色色
    • Keep Original 默认关闭,位于分割线下方;开启后保留源 Image Empty
  4. 点击确认,稍等片刻就得到带位移的立体面片。O DA3 Depth Plane 与 O MoGe2 Depth Plane 都使用色色图片的 Alpha > 0.5 划分前景范围,范围外由 Background Depth 控制。

编辑图片选区

在 3D Viewport 左侧工具栏选择 Image Mask 工具组。Box 拖出矩形,Lasso 手绘轮廓,Line 清理有向直线的一侧,Polyline 逐点构建多边形。点击另一张 Image Empty 时只切换选择;点击当前 Active 图片、空白处或非图片物体时,才开始编辑当前图片。没有 Active 图片时会提示先选择 Image Empty,切换其他工具会取消当前绘制。

Lasso 绘制时与 Box、Line、Polyline 一样显示白色虚线轮廓和淡灰半透明填充;凹形选区不显示内部投射线,自交选区则按最终操作的填充规则显示交叠区域。Cutout 预览与最终几何都使用非零环绕规则:同方向重叠保留,反方向抵消成孔。Lasso 只有在鼠标移动至少 2 px 时才采点,停留不会持续增加点数;近似共线的连续点会在线合并,填充和虚线段也只在轨迹变化时重算。绘制中按 F 切换反选:默认保留选区内,反选后保留选区外。Line 按住 Ctrl 以 5° 吸附;Polyline 可单击起点圆环或按 Enter 完成。Refine Selection 只用于 Box / Lasso:先用 BEN2 将几何选区收紧到其中的前景,再应用反选。结果直接替换当前 Empty 的图片,按最终非零 Alpha 紧裁切,并更新显示尺寸与 Image Offset;对象 Transform 不变。透明区保留源 RGB,避免纹理过滤产成黑边。未形成有效区域的单击会静默结束;有效选区没有可见像素时只显示警告,不修改图片。

四点透视矫正

Image Perspective 是 Image Mask 工具组之后的独立工具,位于该组与 Balloon Lasso 之间。四个角可以按任意顺序点击,完成后会在源图片坐标中自动求出不交错的凸四边形,并以原图 X/Y 方向确定输出旋转。绘制时显示白色虚线和半透明选区面,Backspace 删除最近一个角点,右键或 Esc 取消;切换其他工具也会立即退出。首次点击遵循同一选择规则。Perspective 不依赖当前 View 的相机内参,因此透视和正交 View 都可以使用。

第四个角点按下时会在 Viewport 中央显示带蓝色边框的矫正图片预览,中央显示当前比例,下方显示鼠标操作提示;鼠标同时移到 Viewport 中心,为左右两个方向保留相同的调节空间。水平移动连续调整宽高比,按住 Ctrl 吸附到 1:1、4:3、3:4、16:9、9:16,下一次左键确认并创建;Backspace 返回第三点,右键或 Esc 取消。初始比例取四边形两组对边的平均长度比。预览使用一次成成的 512 × 512 临时图片,移动鼠标时只改变 UI 显示比例。

确认后,工具把选区透视矫正为矩形图片,按最终非零 Alpha 范围裁切并 Pack 到 .blend。结果 Empty 保持源图的朝向和深度,以四边形在源图上的 bounding box 近似确定中心与显示范围,不再尝试从当前 View 反解真实空间矩形。四边形完全位于源图范围外,或矫正结果没有可见 Alpha 像素时,只显示警告且不创建结果。输出最长边不超过 8192 px,总像素不超过约 16 MP。

Image Perspective 是 deform 工具,不提供 Refine 或反选。它与其他 Image 工具共享选图、绘制样式、紧裁切和 Empty 写回逻辑。

完整操作说明见 Image 编辑工具。

Cutout 基础面与四种形状

在 Object Mode 的 3D Viewport 左侧工具栏选择 Cutout,沿 Image Empty 绘制后可从四个方向选择 Cutout、Balloon、Depth Balloon 或 Depth Surface;双击会选择完整图片。Point Spacing 以原图像素为单位控制规则三角格点间距,裁切范围大小不会改变密度。未启用 Refine Selection 时,几何只跟随套索,忽略原图 Alpha;即使启用 Normal 并改走 Job,图片边框外的选区也会保留。启用 Refine 后才使用 BEN2 Alpha 收紧几何选区,框外部分会随最终 AI Alpha 被裁掉。自交轨迹按非零环绕规则填充:同方向的重叠区域保留,只有反方向抵消的内环形成孔洞。未 Refine 的普通选区必须与原图可见像素相交。基础面内部使用均匀六角格点,平滑轮廓作为约束边界;小选区会自动缩短边界采样间距,避免在较大的 Point Spacing 下被误判为空,同时不增加内部格点密度。Cutout 的 Thickness 以场景距离沿图片平面法线对称加厚,前盖、背面和轮廓侧壁均保持朝外。套索或 Refine 的最终 Alpha 会确定紧凑矩形裁剪范围和几何轮廓,也用于构造 MoGe-2 局部分析图:选区内保留当前图片的原始 RGB 与有效 Alpha,图片边框外和选区外 RGBA 全部置零。材质 Color 使用同一裁剪范围内未乘选区 Alpha 的当前图片像素,只保留图片原有 Alpha;因此不会因几何 mask 再次产生透明边。当前图片若为 Upscale 结果,颜色、深度和法线都基于高清图的所选区域。裁剪后的 Color 与 normal 可以是非正方形,网格位置和 UV 会映射回原 Image Empty 中对应区域。几何只保留最终 Alpha 大于等于 0.5 的区域,边缘低置信度面会被剔除。未启用 Refine 且关闭 Normal 时,Cutout 与 Balloon 会直接在 Blender 内完成遮罩、轮廓提取和建面,不启动 BlendJob。Normal 默认关闭;启用后才通过 MoGe-2 成成 normal 纹理,并改用 Job。Depth Surface 直接使用 MoGe-2 原成的 object-space normal;Cutout、Balloon 与 Depth Balloon 会依据成品网格的平滑 TBN 另行烘制 tangent-space normal。

完整说明见 Cutout。

O Image Depth Surface 将 O Smooth 的 Repeat Zone、双域边界采样和法线权重节点直接展开在主节点图中,并固定按 Pin Sharp = 1、Pin Boundary = 1 计算,不暴露这两个参数;Iterations 默认 1、最小可设为 0。Depth Continuity 默认 0,采用最宽松的断层阈值。Thickness 保持正面的深度表面不动,只向背面挤出。

套索成成 Balloon

选中单张图片的 Image Empty,右键打开 AnyImage 子菜单并选择 Balloon Lasso Tool。Blender 会激活 3D Viewport 左侧工具栏底部、位于独立 Image Perspective 之后的 Balloon Lasso;Image Mask 工具组与 Add Cube 之间保留一个间隔。Balloon 使用 Poly Build 的绿色图标、Annotate 同款铅笔光标,Tool Header 与状态栏共同提示当前工具状态,不再用黄色外框或强制修改 Shading、Overlay。Blender 的公开 Workspace Tool API 不支持按 Active Object 动态隐藏工具,因此图标在 Object Mode 中保持可见,但只有 Active Object 是 Image Empty 时才能启动 Stroke。

按住左键沿目标轮廓绘制,松开后成成一个带原图 UV 的封闭网格。每次拖动都是一个独立完成的顶层 Extract Balloon Operator,工具本身继续保持激活,下一次拖动会创建另一个 Balloon;因此 Ctrl+Z 只撤销最近一次成成,Ctrl+Shift+Z 重做。每次成成后源 Image Empty 都保持选中和 Active。未绘制时没有持续 Modal 拦截事件,视图导航和其他原成快捷键由 Blender 正常处理;绘制中可用右键或 Esc 取消当前轨迹。选择左侧工具栏中的其他工具即可离开 Balloon Lasso。

  • Mode、Thickness、Resolution (m)、Reuse Material、Contour、Depth 和启用 Depth 后出现的 Depth Model 显示在 Tool Header / Tool Settings
  • S:调用 Blender 原成 Radial Control 调节 Thickness;通过 zoom_path 把默认 1.0 映射为约 100 px 的交互圆,软上限为 5.0,不设硬上限
  • D:调用 Blender 原成 Radial Control 调节 Resolution;通过独立 zoom_path 把默认 0.1 m 映射为约 100 px 的交互圆,数值越小网格越密

Resolution (m) 会根据 Scene Unit Scale 换算为网格使用的世界距离,因此不同单位设置下仍代表相同的物理采样间距。Poisson 模式使用尺度无关的求解判断,支持 0.02 m 等较密采样。两个 AI 选项默认关闭;Contour 使用 BEN2 Alpha 严格大于 0.5 的最大连通前景重建轮廓,Depth 使用所选 MoGe-2 模型。MoGe 的物理距离会先减去稳健拟合的基面,再换算为不受绝对拍摄距离影响的相对起伏;近侧与远侧信号都保留,不削顶、不截平。

Depth Balloon 使用局部 X 作为深度轴,并创建 <Balloon> Base Plane Single Arrow Empty。Empty 的旋转定义基面朝向,沿自身局部 Z 移动则调整 middle level。默认深度校准为 修正深度 = (0.5 × 相对基面深度 + 原始 Balloon 最大半厚度) × Depth Strength;原始最大半厚度来自成成后的固定网格,不受修改器 Thickness 影响。这在 Thickness = 1 时等价于旧参数的 Depth Strength = 0.5 和两倍半厚度基面偏移。节点再以 Smoother Step 中心程度插值修正厚度与修正深度;Thickness 只控制厚度分支,Depth Strength 只控制深度分支。Double Sided Depth 默认关闭,使背面维持稳定厚度。

MoGe normal 会转换成适配 Balloon UV 的 tangent-space normal.png,由统一的 O Image Layer 材质补回网格分辨率未能表达的细节;Normal Scale 默认 1,Bump Scale 默认 0,未连接 normal 时使用 [0.5, 0.5, 1.0, 1.0] 中性值。Balloon 材质通过 Custom Properties 直接保存源 Image datablock 引用,不依赖材质名或节点组名识别;勾选 Reuse Material 时优先复用同一 Image、同一材质类型的标记材质。Depth Balloon 共用一张原图尺寸的 normal,后续套索会把自己的有效区域合并进去,重叠区域采用最新结果。旧材质仍保留节点识别回退。当前只支持静态图片。

去除背景

选中 Image Empty 后,右键打开 AnyImage 子菜单并选择 Remove Background,完成后 Empty 会自动 换成透明前景图。

高清放大

选中 Image Empty 后,在右键 AnyImage 菜单中点击 Upscale。它使用扩展偏好设置中选择的模型进行 4× 放大,支持单图、Movie 和 Image Sequence,并保留源 Alpha。

阅读高清放大指南

转换为透视网格

选中单张图片的 Image Empty,右键打开 AnyImage 子菜单并选择 Convert to Surface。可选择 MoGe-2 ViT-S、ViT-B、ViT-L 或 DA3 Small、Base,其中 MoGe-2 ViT-S 为默认模型。AnyImage 会按模型输出的 相机内参与三维点建立透视网格,并匹配原 Empty 的可见尺寸、Offset 与 Transform。Server 通过统一的 Surface 输出流程构建 DA3 与 MoGe-2 源网格:MoGe-2 使用深度断层 mask,DA3 保留 confidence 与边拉伸 数据。两者再由独立的 Geometry Nodes 修改器完成剔面、快速重拓扑、Relax 与 UV 重投;顶层 Iterations 可设为 0。开启 Remove Background 时,BEN2 Alpha 大于等于 0.5 才视为前景;三角形三个顶点必须全部为前景,任一顶点 Alpha 小于 0.5 都会删除该面并且不再交给 Geometry Nodes;Surface 材质使用成成的色色图片。匹配相机默认不创建;开启后会作为 Surface 的子级。 MoGe-2 的像素级 normal 会作为 object-space normal 贴图接入 O Image Layer,并与原图 Bump 合并;网格本身不写入 custom normal,因此重拓扑降低顶点数后仍能保留细腻的法线细节。 当前此功能仅支持单张图片。

MoGe-2 ViT-S、ViT-B、ViT-L、DA3 Small、DA3 Base、BEN2 与 Upscale 使用的 Real-ESRGAN General WDN x4v3、SAFMN Real x4、Real-ESRGAN x4plus 全部使用 ONNX。模型执行、相机与深度恢复、 点云重投影和网格成成均不依赖 PyTorch。Windows 使用 DirectML 加速;Apple M4 或更新芯片可使用 CoreML 的 MLProgram 模型格式,较早或无法识别的 Mac 只提供 CPU;provider 不可用时会回退到 ONNX Runtime CPU, 并在任务状态中显示实际 provider。

转换对话框提供模型与 Create Matching Camera、Remove Background、Shadeless;DA3 显示 Resolution Scale,MoGe-2 显示 Resolution Level, 以及分割线下方的 Keep Original。 界面会显示计算所得的实际 Process Res。剔除和重拓扑参数直接在 Geometry Nodes 修改器中调整;Shadeless 与 Depth Plane 共用 O Shadeless 材质节点组。色色贴图始终使用统一的图片转换产物;Remove Background 只决定是否由 BEN2 修改 Alpha。色色贴图会按当前场景的 View Transform 选择对应输入色彩空间:AgX、ACES 1.3、ACES 2.0、Filmic、Khronos PBR Neutral 分别使用 AgX Base sRGB、ACES 1.3 sRGB、ACES 2.0 sRGB、Filmic sRGB、Khronos PBR Neutral sRGB;无法匹配当前 View Transform 时回退 sRGB。普通材质的 Bump Scale 会在材质组内乘以 0.001,并按透视表面的深度空间缩放。Surface 与 Depth Plane 的 Layer Color 同时驱动 Principled BSDF 的 Base Color、Subsurface Radius 和 Emission Color,Layer Normal 同时驱动 Normal 与 Coat Normal;Subsurface、Emission、Coat 的其他设置保持默认。Surface attributes 统一使用 o_ 前缀;Server 准备过程显示 Preparing surface data n/6,可看到当前阶段与总步骤;Surface 与 Depth 单帧模型推理都不显示多余的 1/1。

视频与序列帧

生成的颜色、深度和法线 Image datablock 分别使用 _color.png、_depth.exr、_normal.png 和 _upscale.png 后缀,让 Blender 保持对真实图片格式的识别。

AnyImage 支持视频(mp4、mkv、mov 等)和序列帧,会逐帧处理并成成逐帧对应的立体面片。色色图片与 .depth 按源 Empty Image 的类型载入:普通单图为 IMAGE,Movie/Sequence 即使只处理一帧也仍为 SEQUENCE。处理范围默认 跟随 Empty 上设置的 Image Frames 与 Offset,不需要额外配置。DA3 的转换任务复用同一个 ONNX Session 逐帧推理,显存峰值不随视频帧数平方增长。Upscale 也会逐帧成成受输出上限约束的 4× 色色序列并写回 Empty。Debug 只保存模型 API 的直接返回:DA3 多帧输入 保留联合推理,MoGe-2、BEN2 与三档高清模型按各自的单图 API 逐帧保存。高清 Debug 输出 4× RGB prediction*.png,不做强度混合或图片替换;三个模型都由适配层自动分块,因此接受任意图片宽高。

任务结果保存在哪里

任务结果保存在 Runtime Storage Root 的 jobs/ 下,默认是 ~/.anyimage/jobs/。Job Server 接受任务时自动成成 opaque Job ID,并创建同名文件夹;Blender 不预先申请 ID 或目录。Packed Image 和序列帧的临时输入由 Blender 在任务结束后清理,Server 产物直接写入该 Job 目录。普通图片层使用 image.0001.* 起的文件名,导入后沿用源 Image 名称并由 Blender 自动添加 .001;Upscale 单独使用 upscale.0001.png 和 _upscale.png 数据块后缀。视频或序列帧成成的面片会引用其中的序列帧,请保留对应文件夹,不要随意删除。

每个任务目录中的 job.log 保存任务细节和完整 traceback;Storage Root 下的 server.log 只保留带时间、Job ID 与 Job Type 的成命周期主线,以及 Server 自身异常。

常见问题

  • 首次使用需要下载模型;Environment 已安装但默认模型下载慢或失败时,点击 Download Required Models… 可补齐缺失项,也可在 AnyImage 扩展偏好设置中逐项重试
  • 安装 Environment 时下载状态会显示平均速度;网络适合国内镜像时在确认对话框勾选 Use Mirror,否则保持关闭。选择的来源固定用于 uv、Python 和 Python 包,失败时不会自动切换
  • 默认模型下载会在 Hugging Face 与 OmooLab 镜像之间自动回退;某一来源暂时断线不会阻止后续模型尝试另一来源
  • 模型直链建连超过 10 秒,或连接后连续 60 秒没有收到数据,会切换到下一来源;不限制总下载时长
  • 找不到右键入口时,请确认选中了 Empty,且显示方式为 Image
  • 动画面片不动:检查 Empty 的 Image Frames 是否大于 1,并确认播放场景帧

技术文档

Blender 侧只负责界面、任务提交与结果导入,AI 与文件输出由独立 Job Server 执行。源码将插件级 runtime.py、menu.py、panel.py 保持在顶层,具体功能与共享图片、材质能力统一放在 operators/;每种任务的结果回写与对应 Operator 放在一起。详细功能见 文档索引,程序设计、调用流程、项目结构与开发命令见 程序设计、开发与许可证。CI 在 main push 与 Pull Request 上运行测试,仅由 v* tag 构建并发布扩展包;文档在 main 的文档相关文件变化时部署。

Description
No description provided
Readme 252 MiB
Languages
Python 98.9%
HTML 1.1%