您好,我正在尝试使用光线调整进行超参数优化。下面是我的代码实现。
然而,我被卡住了,即使没有任何错误消息,也无法找回结果。
@ray.remote
def main:
do_somthing
return loss
def ray_pick_best_hypter(config):
runs = 10
loss_avg = np.mean(ray.get([main.remote(config,run=x) for x in range(runs)]))
tune.report(loss_avg=loss_avg)config = load_config()
analysis = ray.tune.run(ray_pick_best_hypter, config=config,progress_reporter=reporter)下面的代码运行良好,但我想运行多个实验并获得平均值。
def ray_pick_best_hypter(config):
loss_avg = ray.get([main.remote(config,run=x))
tune.report(loss_avg=loss_avg)代码中的问题是什么?
发布于 2021-07-22 17:52:57
您似乎正在从您的可培训项目中启动多个分布式培训流程。每次调用main.remote()都会启动一个新的分布式任务。由于您同时启动了其中的10个,它们将尝试并行运行。但是,每个试验的默认资源分配通常只有1个CPU -因此无法调度远程任务。
解决这个问题的方法是传递resources_per_trial={"cpu": 11} --这样每个远程任务都有自己的CPU可以运行。
https://stackoverflow.com/questions/68478430
复制相似问题