开源仓库iterative/dvc15,739 Stars

DVC

数据与模型版本管理工具,为机器学习项目提供可复现流水线

适合需要版本管理大规模数据和模型的机器学习和数据科学团队。它把Git的版本控制思维用于数据文件,结合流水线编排和实验跟踪,让项目从数据到模型的每一步都可复现、可比较、可共享。

bo老师判断:推荐

用途和边界相对清楚,可以先从小样本开始。

...互动状态已更新

这个工具提供了哪些能力

点开任一能力,看清怎么用

每个能力展开后是三件事:它会给你什么、你需要准备什么、哪些必须由你把关。

常见场景:数据文件太大不能被Git直接管理;需要追踪每次实验的参数、指标和产物并方便对比;多个数据处理和训练步骤需要增量重算而非每次全跑;团队需要共享同一份数据集并在各仓库间版本锁定引用

覆盖阶段分析验证

第一次这样开始

把仓库地址直接交给 AI

先让 AI 说明环境和风险,再完成最小安装验证。开始前想清楚要用哪个能力、把对应材料备在手边——每张能力卡展开后有具体清单。

第一次直接复制

帮我安装这个库:https://github.com/iterative/dvc
安装前先告诉我需要什么环境,安装后帮我跑通一个最小示例。

别这样用

这些判断,仍然由你负责

  • 把大文件直接提交到Git而不是只用DVC跟踪其.dvc元数据
  • dvc exp apply前未保存当前工作区未提交改动导致覆盖
  • 在多仓库间import数据后忘记用dvc update同步上游新版本

技术依据

查看能力拆解、验证范围与来源

处理机制

  1. 01

    内容寻址缓存与对象数据库

    DVC 的数据版本管理、流水线复现、实验跟踪、远端同步和数据导入五张能力卡,都依赖同一个横向机制:内容寻址缓存(content-addressable cache)。这个机制解释了为什么 DVC 能用轻量 Git 元数据管理大文件、为什么 push/pull 是云无关的、以及为什么多个能力能共享同一份本地存储。

已核对范围

  • 只读上游快照 本地只读快照,commit f74c1c0e709de61f571905802bc0c75035dc6ef2
  • README.rst、dvc/repo/experiments/init.py、dvc/repo/experiments/run.py、dvc/repo/experiments/queue/base.py、dvc/repo/metrics/show.py
  • dvc/commands/experiments/init.py(exp 子命令清单)、dvc/repo/experiments/refs.py、dvc/repo/experiments/stash.py
  • README.rst、dvc/repo/imp.py、dvc/repo/impurl.py、dvc/repo/impdb.py、dvc/repo/get.py、dvc/repo/geturl.py、dvc/repo/update.py、dvc/repo/datasets.py
  • dvc/stage/imports.py(syncimport/updateimport)、dvc/repo/openrepo.py
  • README.rst、dvc/repo/add.py、dvc/repo/init.py、dvc/dvcfile.py、dvc/cachemgr.py
  • tests/unit/testdvcfile.py、tests/func/testadd.py 的存在与命名
  • README.rst、dvc/repo/reproduce.py、dvc/stage/init.py、dvc/stage/loader.py、dvc/stage/run.py、dvc/dvcfile.py

仍待核对

  • 未运行 dvc exp run/dvc exp show/dvc exp apply
  • 未验证 workspace/tempdir/celery 三种 queue 的实际隔离与并发
  • 未验证 hydra sweep 的实际展开
  • 未验证 Studio live metrics 的上传链路
  • 未验证 exp ref(refs/exps/...)与 Git 提交的交互
  • 未运行 dvc import/import-url/get/update
  • 未验证跨仓库数据注册中心的实际拉取与版本锁定
  • 未验证 dvc update 拉取上游新版本的行为

原仓库

iterative/dvc

读取版本

f74c1c0e709de61f571905802bc0c75035dc6ef2

许可

Apache-2.0

最近核对

内容 2026-07-10
Stars 2026-07-11

已完成范围验证

科研之我见

AI 科研全流程怎么搭,我梳理出三个核心入口

每天开工先固定阶段入口、材料入口和验证入口,把庞大的科研全流程收缩成一段可执行、可检查的任务。

查看内容

文献 · 验证

paper-qa

从本地论文和文档中检索证据并生成带精确引用的科研答案

查看内容

文献 · 分析 · 写作

grobid

把学术论文PDF解析成结构化TEI XML,提取元数据、全文结构和参考文献

查看内容

设计 · 分析 · 验证

CausalPy

用贝叶斯方法做准实验因果推断,含10+方法和稳健性诊断套件

查看内容