nvidia-docker #

因为 GPU 属于特定的厂商产品，需要特定的 driver， Docker 本身并不支持 GPU。 以前如果要在 Docker 中使用 GPU，就需要在 container 中安装主机上使用 GPU 的 driver， 然后把主机上的 GPU 设备（例如：/dev/nvidia0）映射到 container 中。 所以这样的 Docker image 并不具备可移植性。

Nvidia-docker 项目就是为了解决这个问题， 它让 Docker image 不需要知道底层 GPU 的相关信息，而是通过启动 container 时 mount 设备和驱动文件来实现的。

NVIDIA Container Toolkit #

NVIDIA Container Toolkit（以前称为 NVIDIA Docker）是一个更全面的工具集，包括了 NVIDIA Container Runtime，以及其他工具和库，使得在 Docker 和其他容器平台上能够方便地部署和管理 GPU 加速的容器应用。

Toolkit 主要包括以下几个组件：

• libnvidia-container: 一个库，用于构建和运行 NVIDIA GPU 加速的容器，无论宿主机的配置如何。
• nvidia-container-runtime: 实际的容器运行时，可以集成到 Docker 和其他容器平台。
• nvidia-docker2: 一个便捷的包，包括 Docker 插件和 nvidia-container-runtime，简化了使用 Docker 运行 GPU 加速容器的过程。

• NVIDIA/nvidia-container-toolkit
  • NVIDIA/nvidia-docker
    • The nvidia-docker wrapper is no longer supported, and the NVIDIA Container Toolkit has been extended to allow users to configure Docker to use the NVIDIA Container Runtime.
  • NVIDIA/nvidia-container-runtime
    • This project has been superseded by the NVIDIA Container Toolkit.