CUDA 设备管理

文件
文件	cuda_device.hpp

类
结构体	rmm::cuda_device_id
	CUDA 设备标识符的强类型。 更多...
结构体	rmm::cuda_set_device_raii
	RAII 类，在构造时将当前 CUDA 设备设置为指定设备，在析构时恢复之前的设备。 更多...

函数
cuda_device_id	rmm::get_current_cuda_device ()
	返回当前设备的 cuda_device_id。 更多...
int	rmm::get_num_cuda_devices ()
	返回系统中的 CUDA 设备数量。 更多...
std::pair< std::size_t, std::size_t >	rmm::available_device_memory ()
	返回当前设备的可用和总设备内存（以字节为单位）。 更多...
std::size_t	rmm::percent_of_free_device_memory (int percent)
	返回当前 CUDA 设备上可用设备内存的大约指定百分比，向下对齐到最接近的 CUDA 分配大小。 更多...

详细描述

函数文档

available_device_memory()

std::pair<std::size_t, std::size_t> rmm::available_device_memory ( )

inline

返回当前设备的可用和总设备内存（以字节为单位）。

返回

以 std::pair 形式返回当前设备的可用和总设备内存（以字节为单位）。

get_current_cuda_device()

cuda_device_id rmm::get_current_cuda_device ( )

inline

返回当前设备的 cuda_device_id。

当前设备是指调用线程执行设备代码的设备。

返回

cuda_device_id 用于表示当前设备

get_num_cuda_devices()

int rmm::get_num_cuda_devices ( )

inline

返回系统中的 CUDA 设备数量。

返回

系统中的 CUDA 设备数量

percent_of_free_device_memory()

std::size_t rmm::percent_of_free_device_memory ( int  percent )

inline

返回当前 CUDA 设备上可用设备内存的大约指定百分比，向下对齐到最接近的 CUDA 分配大小。

参数

percent

要返回的可用内存百分比。

返回

建议的初始设备内存池大小（以字节为单位）。