AI 模型动态卸载器 (AI Model Dynamic Offloader)该项目是一款 PyTorch 显存(VRAM)分配器。当 PyTorch 原生的显存分配器面临显存压力(不足)时,它能够实现模型权重的按需卸载(Offloading)。
通过 Level Zero 后端在 Linux 和 Windows 上支持Intel XPU
LLM Scaler Omni 为生成式媒体(多媒体)工作负载提供Intel XPU 镜像。其默认镜像是一个单 XPU 的 ComfyUI 环境,其中集成了针对特定硬件目标优化的 omni_xpu_kernel 二进制文件、支持 XPU 加速的 Comfy Kitchen 后端,以及一个轻量级的 ComfyUI 接入/集成层。
面向 Intel Arc XPU 的统一 INT4 模型加载器:同时支持 wa4 格式与 tint4(torchao) 后端量化的非对称 INT4 格式(tint4),经 omni_xpu_kernel 的 oneDNN INT4 GEMM 原生加速。当前正式版主打 w4a16 后端(int4 权重 + 16bit 激活)。
【
wa4 模型下载】 【
tint4 / torchao 模型下载】
基于 Intel XeSS 的 Windows 视频增强工具箱,提供 视频超分、双倍帧生成、中文 ComfyUI 节点及独立便携版。支持 AI 深度、光流、多帧融合和流式处理,并内置磁盘空间保护与自动安装脚本。
ai-toolkit-xpu 是 ostris/ai-toolkit 的 Intel Arc XPU 适配版,让这套开源扩散模型训练套件在 Arc 独显上直接可用——支持 FLUX、Qwen-Image、Krea 2、SDXL、Wan、LTX-2 等全系图像与视频模型,可训 LoRA / LoKr。核心是 5 个 XPU 补丁加全模型 fp64 修复,无需 oneAPI 编译器。A770 上开启可选 xpu_int8 后端,Krea 2 训练提速约 2.25 倍(24.97 → 11.11 s/it),未装或架构不符会自动回退,训练不会失败。另配一键脚本、中文 Web UI 与全自动资源监控。
Intel XPU 集成适用于 Comfy-Org/comfy-kitchen,并由可选的 omni_xpu_kernel 原生包提供支持。该仓库保留了 Comfy Kitchen 的公共 API 和后端调度模型,并在此基础上添加了一个实验性的 Intel XPU 后端、QuantizedTensor(量化张量)集成、目标感知型伴生轮子(companion-wheel)工具。这个后端代码里没有任何架构判断(搜 bmg/dg2/a770/arch 全部无匹配)——架构无关的纯 Python 适配层,它只通过 kernel 的 Python API 加速。这个项目的压力在于追赶官方 ComfyUI Kitchen 的速度。
ComfyUI-XPUSYS-Monitor 是一款以 Intel Arc 为核心的 ComfyUI 硬件监控插件,在顶部菜单栏以胶囊形式实时展示 GPU、CPU、内存等关键指标,并提供独家的工作流执行成功率预测功能,让你在点击运行前就能预判本次工作流能否顺利完成。同时完整支持 NVIDIA (CUDA) 和 AMD (ROCm) 平台。
【
网盘下载 】【
关联视频】
这是一个面向推理引擎开发的参考验证框架(核心 Python + 头文件-only C++),它把一次 PyTorch 模型执行固化为机器可读的参考规范(Trace IR + .irtensor 张量载荷),自动切出自包含的最小复现 testcase,让你的自定义引擎(CUDA / SYCL / ROCm / CPU,含 Intel XPU)在不依赖 PyTorch 甚至 Python 的情况下,仅读取 .irtensor 输入、吐出输出,再通过数值比较精确报告首个分歧点;它提供 doctor --device xpu 的 XPU 检查、原生 C++/SYCL 引擎、可进 CI 的 inferref_compare(PASS=0/FAIL=1)与 Agent 盲评基准,适合作为 Intel Arc XPU 推理后端的数值回归护城河。
基于
Aila 推理引擎(Arc 原生,SYCL/oneDNN/Level Zero/NF4)的 ComfyUI 插件,提供 VLM 提示词反推、LLM 问答、ASR 转录(可出 SRT)、TTS 合成四合一能力。
【
插件和模型】 【
关联视频】
Blackwood416 开发的
Intel Arc 原生推理引擎:SYCL + oneDNN + Level Zero 技术栈,从 kernel 层面针对 Arc 架构(A770 / B580 等)手写优化,支持 bitsandbytes NF4 4-bit 量化,推理性能优于 llama.cpp 等通用方案。是 ComfyUI-Aila-XPU 插件的推理后端。
【
关联视频】
为 Intel Arc(Alchemist / Battlemage)预编译的
llama-cpp-python SYCL wheel 集合,Windows 免编译直接安装。
【
网盘下载 】
MFV是一个无偏、交叉验证的模型量化格式逆向分析工具。 它的核心立场是"不信任文件名、不信任元数据、不信任直方图"——只以文件物理尺寸、张量结构与解包特征为硬证据,通过 nibble 缺失判据、字节 unique 组合、形状自洽性验证等交叉手段,准确识别各种模型,内置的文件名审计会逐段核验文件名声称与文件证据的一致性,并给出保留作者身份的标准化命名建议;同时提供激活位宽(W×A)推导参考。项目既是一个可直接运行的 CLI 工具,也是以五步分析范式组织的 Agent Skill 包,配套案例库与回归测试脚本。
在 ComfyUI 中加载 GGUF 大模型的节点封装(SYCL 加速 fork),支持纯文本 / 视觉多模态与 JSON Schema 输出,配套 llama-cpp-python-sycl-windows 使用。