init_workers详解

前置知识,ray前置知识 我将用此文来详细介绍veRL中有关single_controller和SPMD的相关内容。本文不涉及ppo训练相关,只是记录一下理解veRL架构实现的核心。

实现single_controller方法的核心有以下方法:

  • Worker
  • RayResourcePool
  • RayWorkerGroup
  • RayClassWithInitArgs

实现SPMD的有以下方法:

  • register
  • dispatch_fn和collect_fn
  • execute_fn
  • func_generator