NVIDIA Brev#

NVIDIA Brev 平台提供了跨众多云提供商（包括 Amazon Web Services 和 Google Cloud）可用 GPU 实例的一站式菜单，所有实例都已设置好 CUDA、Python 和 Jupyter Lab。

Brev 实例设置#

借助 Brev RAPIDS 快速入门，您只需几个步骤即可开始使用 RAPIDS，这里有两种选择：

  1. Brev GPU 实例 - 快速获取跨大多数云提供商的 GPU，以便您完成工作。

  2. Brev 可启动项 - 快速创建一键启动的可重用实例，您可以根据您的 MLOps 需求进行定制。

选项 1. 设置您的 Brev GPU 实例#

  1. 导航到 Brev 控制台，然后点击“创建您的第一个实例”。

Screenshot of the "Create your first instance" UI

  1. 选择“容器模式”。

Screenshot showing "Container Mode" highlighted

  1. 附加“NVIDIA RAPIDS”容器。

Screenshot showing the "NVIDIA RAPIDS" container highlighted

  1. 配置您自己的实例。

Screenshot of the "Create your Instance" UI with an NVIDIA T4 GPU highlighted

  1. 然后点击“部署”。

Screenshot of the instance creation summary screen with the deploy button highlighted

选项 2. 设置您的 Brev 可启动项#

  1. 前往 Brev 的可启动项创建器（需要账户）

  2. 点击 Compute（计算），并根据 GPU 类型、GPU 数量、云提供商和/或您的预算选择您的 GPU。在选择实例之前，最好先了解您的 GPU 需求，或用此来确定选择哪个实例。选择后，点击 Save（保存）

  3. 点击 Container（容器）。添加 Container（容器） 时，您可以使用 NVIDIA RAPIDS 容器，使用 Docker Compose 并编辑我们的示例 yaml 文件，以便在进入容器之前预安装任何额外的 conda 或 pip 包。

  4. 如果您只需要标准 NVIDIA RAPIDS 安装，请选择 Container Mode > NVIDIA RAPIDS Container（容器模式 > NVIDIA RAPIDS 容器）。如果使用基础容器，您可能需要预安装 Jupyter。如果使用 Notebooks 容器，则不要预安装 Jupyter，否则会破坏您的实例。

  5. 如果您需要一个定制的环境，在 NVIDIA RAPIDS 之上添加额外包，请使用 Docker Compose。使用 Docker Compose 时，您可以上传一个 docker-compose yaml 文件。这里有一个 docker-compose 示例文件，docker/brev/docker-compose-nb-2412.yaml，您可以将其用作基础。使用该文件时，不要预安装 Jupyter，因为它已经安装了。

  6. 点击 Save（保存）

  7. 点击 Files（文件） 并添加任何可公开访问的单个文件或 github 存储库。点击 Save（保存）

  8. 在 Ports（端口） 中，请打开端口 8888、8787 和 8786。将端口 8888 命名为 jupyter，以便 Brev 可以将其视为基于 Jupyter-Lab 的实例并提供一个 Open Notebook（打开笔记本） 按钮。点击 Save（保存）

  9. 命名您的可启动项，然后保存您的可启动项！

  10. 当您准备使用您的可启动项时，选择您的可启动项，然后点击 Deploy Launchable（部署可启动项）

访问您的实例#

有几种方法可以访问您的实例：

  1. 直接从 Brev GUI 访问 Jupyter Lab

  2. 使用 Brev CLI 连接到您的实例……

  3. 使用 Visual Studio Code

  4. 通过终端使用 SSH

  5. 使用 Brev 隧道访问

  6. 与他人共享服务

1. Jupyter Notebook#

要创建和使用 Jupyter Notebook，请在页面部署后点击右上角的“打开笔记本”。

Screenshot of the instance UI with the "Open Notebook" button highlighted

2. Brev CLI 安装#

如果您想通过 Visual Studio Code 或 SSH 终端访问您启动的 Brev 实例，您需要根据这些说明或以下代码安装 Brev CLI

sudo bash -c "$(curl -fsSL https://raw.githubusercontent.com/brevdev/brev-cli/main/bin/install-latest.sh)" && brev login

2.1 使用 Visual Studio Code 安装 Brev CLI#

要从 VS Code 连接到您的 Brev 实例，请打开一个新的 VS Code 窗口并运行

brev open <instance-id>

它将自动打开一个新的 VS Code 窗口供您使用 RAPIDS。

2.2 通过终端使用 SSH 安装 Brev CLI#

要从终端访问您的 Brev 实例，请运行

brev shell <instance-id>
本地端口转发#

假设您的 Jupyter Notebook 在 Brev 环境中运行在端口 8888 上，您可以使用以下 SSH 命令将此端口转发到您的本地机器

ssh -L 8888:localhost:8888 <username>@<ip> -p 22

此命令将本地机器上的端口 8888 转发到远程 Brev 环境中的端口 8888。

或者转发到端口 2222（默认端口）。

ssh <username>@<ip> -p 2222

将 username 替换为您的用户名，如果 ip 不同，将 ip 替换为列出的 ip。

访问服务#

运行命令后，打开您的网页浏览器并导航到您的本地主机。您将能够像在本地运行一样访问在您的 Brev 环境中运行的 Jupyter Notebook。

3. 通过隧道访问 Jupyter Notebook#

“部署”部分将显示您的 Jupyter Notebook 正在端口 8888 上运行，并且可以通过可共享的 URL 访问，例如：jupyter0-i55ymhsr8.brevlab.com。

点击链接或将 URL 复制并粘贴到您的网页浏览器地址栏中，直接访问 Jupyter Notebook 界面。

4. 共享服务#

如果您想与他人共享此服务的访问权限，可以点击“共享服务”按钮。

您还可以通过点击“编辑访问”来管理访问权限，控制谁可以使用此服务。

检查您的笔记本是否具有 GPU 能力#

您可以通过运行 nvidia-smi 命令来验证您是否拥有请求的 GPU。

Screenshot of a notebook terminal running the command nvidia-smi and showing the NVIDIA T4 GPU in the output

测试您的 RAPIDS 实例#

您可以通过导入 cudf 并创建一个 GPU dataframe 来验证您的 RAPIDS 安装是否正常工作。

import cudf

gdf = cudf.DataFrame({"a": [1, 2, 3], "b": [4, 5, 6]})
print(gdf)

资源和技巧#

  • Brev 文档

  • 请注意：Git 未预安装在 RAPIDS 容器中，但在容器运行时可以使用以下命令进行安装：

apt update
apt install git -y