在Ray上扩展Python：从笔记本电脑到集群

我在Ray上扩展Python工作负载，使重任务使用所有可用核心，而不是仅使用一台机器。我掌控整个过程：分布式训练和超参数搜索、批处理和流数据处理、低延迟模型服务，以及在集群中并行化现有代码。原则很简单：你可以在不重写的情况下从笔记本电脑迁移到集群。现有功能变成远程任务和参与者，逻辑保持不变。

通常我得到的代码可以运行，但速度太慢或数据太少。我分析时间的实际去向，决定哪些应该是任务、参与者或数据集。我在你的硬件或云中部署Ray，添加自动扩展，使空闲节点不产生费用，并使故障可恢复。对于训练，我使用Ray Train和Ray Tune，对于管道使用Ray Data，对于在线推理使用Ray Serve，配合智能批处理和副本。

你将获得可读的代码，一个无需我参与的部署，以及关于成本和扩展限制的清晰说明。我会修复瓶颈，而不是添加框架：如果多进程足够，我会这么说。