Acerca del servicio
TraducidoEscalo cargas de trabajo de Python en Ray para que las tareas pesadas utilicen todos los núcleos disponibles en lugar de una sola máquina. Yo manejo todo el proceso: entrenamiento distribuido y búsqueda de hiperparámetros, procesamiento de datos por lotes y en streaming, servicio de modelos de baja latencia y paralelización de código existente en un clúster. El principio es simple: te mueves de la laptop al clúster sin reescribir. Las funciones existentes se convierten en tareas remotas y actores, la lógica permanece igual.
Normalmente obtengo código que funciona pero que se ejecuta demasiado lento o con muy pocos datos. Perfilo dónde va realmente el tiempo, decido qué debería ser tareas, actores o conjuntos de datos. Despliego Ray en tu hardware o en la nube, añado escalado automático para que los nodos inactivos no cuesten nada y hago que las fallas sean recuperables. Para el entrenamiento utilizo Ray Train y Ray Tune, para las tuberías Ray Data, para la inferencia en línea Ray Serve con agrupamiento inteligente y réplicas.
Obtienes código legible, un despliegue que funciona sin mí y notas claras sobre costos y límites de escalado. Arreglaré un cuello de botella en lugar de añadir un marco: si el multiprocesamiento es suficiente, lo diré.
Normalmente obtengo código que funciona pero que se ejecuta demasiado lento o con muy pocos datos. Perfilo dónde va realmente el tiempo, decido qué debería ser tareas, actores o conjuntos de datos. Despliego Ray en tu hardware o en la nube, añado escalado automático para que los nodos inactivos no cuesten nada y hago que las fallas sean recuperables. Para el entrenamiento utilizo Ray Train y Ray Tune, para las tuberías Ray Data, para la inferencia en línea Ray Serve con agrupamiento inteligente y réplicas.
Obtienes código legible, un despliegue que funciona sin mí y notas claras sobre costos y límites de escalado. Arreglaré un cuello de botella en lugar de añadir un marco: si el multiprocesamiento es suficiente, lo diré.
