首个开源 Agentic 视频制作系统——把 AI 编码助手变成完整视频工作室
更新于 2026-08-10
← 返回汇总把 AI 编码助手变成一套完整视频制作流水线
Claude Code / Cursor / Copilot / Windsurf / Codex 任选其一,用自然语言描述想要什么——Agent 负责调研、写脚本、生成素材、剪辑、最终合成渲染。12 条生产流水线、100+ 工具、700+ 知识与 skill 文件,无代码编排器,你的编码助手就是导演。
另:5.8k forks、74 open issues、145 open PRs;发布当天登顶 GitHub Trending #1 Repository of the Day;项目自带 YouTube 频道持续公开每条成片的完整 prompt、流水线、工具与成本。
多数工具「一个 prompt 一段 clip」,而真实成片需要调研→脚本→素材→剪辑→合成全流程。
所谓免费 AI 视频常是 Ken Burns 式推拉静态图,README 直言这不是「video video」。
无预算控制、无质量门、无决策审计,产生意外账单和幻灯片式成品。
真实制作团队的流程(提案/脚本/分镜/审批)被丢在人工经验里,无法沉淀。
这是全项目最重要的架构决定:你的 AI 编码助手 IS 编排器。Python 只提供工具与状态持久化,所有流程、标准、质量观都落在可读、可改、可审计的文件里。
OpenMontage 能做出「动画化的图」——但它也能免费做出真正的视频:Agent 从免费素材库与开放档案构建语料库,CLIP 语义检索真实运动片段,剪辑进时间线,渲染成片。README 特意划清界限:「That is not the usual 'animate a handful of stills and call it video' trick.」
Archive.org + NASA + Wikimedia Commons + Pexels/Unsplash 免费 key,按主题拉取并建索引
CLIP 模型按镜头意图打分检索真实运动素材,而非堆静态图
按叙事节奏剪进时间线,配乐、旁白、字幕,FFmpeg 合成
对应流水线:Documentary Montage(纪录片蒙太奇)。提示词里显式说 "use real footage only" 即可走免费真实素材路径。
| 流水线 | 产出 | 最适合 |
|---|---|---|
| Animated Explainer | AI 生成讲解视频(调研+旁白+视觉+音乐) | 教育内容、教程 |
| Animation | 动态图形、文字动画、序列动效 | 社媒、产品演示 |
| Avatar Spokesperson | 虚拟形象主持人视频 | 企业沟通、培训 |
| Cinematic | 预告片、情绪向短片 | 品牌片、宣传 teaser |
| Clip Factory | 从长视频批量切排名短片段 | 长内容二次分发社媒 |
| Documentary Montage | CLIP 索引免费素材语料库剪辑蒙太奇 | 视频散文、B-roll、免 API 真视频 |
| Hybrid | 实拍素材 + AI 生成辅助视觉 | 为既有素材增强图形 |
| Localization & Dub | 字幕、配音、翻译既有视频 | 多语言分发 |
| Podcast Repurpose | 播客高光转视频 | 播客营销、audiogram |
| Screen Demo | 精致软件录屏讲解 | 产品 demo、教程 |
| Talking Head | 镜头前真人出镜视频 | 演讲、vlog、访谈 |
# 目录速览 tools/ # 100+ Python 工具:video/audio/graphics/enhancement/analysis/avatar/subtitle pipeline_defs/ # YAML 流水线清单(Agent 的剧本) skills/ # Markdown 技能:pipelines/ creative/ core/ meta/ schemas/ # 15 个 JSON Schema(契约校验) styles/ # 视觉风格 playbook(YAML) remotion-composer/# React/Remotion 合成引擎 lib/ # 核心基础设施:config/checkpoints/pipeline loader
Chat 告诉你 Agent 说了什么,Backlot 展示制作正在做什么——本地面板随流水线运行自动填充:阶段点亮、脚本落成剧本页、场景卡在资产生成时闪烁、每个 Provider 决策和花费都上墙。
资产生成按场景暂停在联系表——takes、prompts、单资产成本、质量分,渲染前先批视觉
生产开始时 Agent 自动打开面板,一切从流水线已写的项目文件推导,无需上报
跑完点 ▶ 重放整场制作,按时间戳可拖拽回看每一步
python -m backlot open # 库——磁盘上所有项目 python -m backlot open <project-id> # 单个制作的实时面板
| 能力 | 免费工具 | 作用 |
|---|---|---|
| 旁白 | Piper TTS(本地离线) | 真人感语音合成,零费用 |
| 开放素材 | Archive.org + NASA + Wikimedia Commons | 档案影像、教育媒体、纪录片质感 |
| 补充素材 | Pexels + Unsplash + Pixabay | 免费 stock(开发者 key 免费申请) |
| 合成 | Remotion(React)/ HyperFrames(HTML+GSAP) | 弹簧动画场景、词级字幕、TalkingHead、动能排版、SVG 角色动画 |
| 后期 | FFmpeg | 编码、字幕烧录、混音、调色 |
| 字幕 | 内置 | 词级时间戳自动字幕 |
两条免费路径:图像视频(Piper 旁白 + 图片 + Remotion 动画)与 真实素材纪录片(Archive/NASA/Wikimedia 剪辑成片)。提示 "documentary montage / tone poem / stock-footage collage + use real footage only" 即可。
Kling(fal.ai) / Kling Official / Runway Gen-4 / Google Veo 3 / Grok Imagine / Higgsfield / MiniMax / HeyGen + 本地 WAN2.1 / Hunyuan / CogVideo / LTX + stock Pexels / Pixabay / Wikimedia
FLUX / Google Imagen 4 / Grok / GPT Image 2 / Recraft / Kling / Local Diffusion(SD) / ManimCE(数学动画) + stock 三家
TTS 5 家:ElevenLabs / Google(700+ 语音) / Kling / OpenAI / Piper(本地);音乐:Suno + ElevenLabs Music/SFX
make install-gpu + WAN2.1 / Hunyuan / CogVideo / LTX2,完全免费# 前置:Python 3.10+ · FFmpeg · Node.js 18+ · 任一 AI 编码助手 git clone https://github.com/calesthio/OpenMontage.git cd OpenMontage make setup # 装依赖 + remotion-composer # 可选:有 GPU 解锁本地免费视频生成 make install-gpu # .env: VIDEO_GEN_LOCAL_ENABLED=true
然后在编码助手里说:
"Make a 60-second animated explainer about how neural networks learn" "Make a 75-second documentary montage about city life in the rain. Use real footage only, no narration, elegiac tone, with music."
Agent 自动研究→出提案→写脚本→生成素材→自审→渲染,所有创造性决策等你拍板。测试:make test-contracts(无需 API key)。
Clip Factory 把长视频批量切成排名短片段;动画讲解批量产出知识类内容
Cinematic 预告片、产品 teaser、Hybrid 为实拍素材加 AI 图形
Podcast Repurpose 把 2 小时播客剪成十几个社媒片段
Animated Explainer 把知识点做成带引证调研的讲解视频
Localization & Dub 一条流水线译配 10 种语言
「YAML 清单 + Markdown skill + Python 工具 + 检查点」的无代码编排范本
Agent-First 无代码编排(YAML + Markdown + Python 工具)是 2026 年 AI 工程新范式,OpenMontage 是视频域先行者——12 流水线 + 100 工具 + 700 知识文件的规模壁垒一旦形成,后续开源竞品难复制。
Ollama / LM Studio 支持「coming soon」,落地后全本地化流水线成形
加工具 = 继承 BaseTool 自动注册;加流水线 = YAML + director skills,扩展成本低
YouTube 持续公开带完整成本/prompt 的成片,信任背书在积累
本地确定性规则模拟 OpenMontage 的提案阶段——输入你的视频想法,即时匹配 12 条流水线之一,输出制作计划:阶段流程、预期成本区间、所需 API keys、渲染引擎与平台规格。零 LLM、零网络,纯规则即点即出。
关键词 + 意图信号命中 12 条真实流水线,附 README 出处理由
按公开成片案例标定($0.02–$3),拆解每条计费项
Remotion vs HyperFrames 决策矩阵 + 平台输出 profile