anyscale.com

5个月前更新 2,031 0 0

使用 Ray 可扩展的 AI 和 Python 应用程序。

收录时间:
2023-12-27
anyscale.comanyscale.com

简介

Anyscale是一个基于Ray(全球最广泛采用的AI计算引擎)构建的生产级AI计算平台,由Ray的创始团队打造。它帮助AI开发者在大规模数据密集型工作负载中构建、训练和部署基础模型,支持在任意云平台上弹性扩展GPU计算资源。Coinbase、Runway、Character.ai、Tripadvisor等知名企业均在Anyscale上运行关键AI工作负载。

核心功能

  • 多模态数据管护:大规模处理视频、图像、文本和音频数据,构建高质量训练数据集
  • 分布式模型训练:跨GPU集群编排模型训练,支持弹性扩展和GPU可观测性,可轻松扩展至数千节点
  • 批量嵌入生成:大规模并行计算文本嵌入,用于搜索、检索或训练下游任务
  • 后训练与RLHF:原生支持SkyRL和veRL等后训练框架,运行LLM推理和强化学习训练
  • GPU资源池化:跨AWS、GCP、Azure、Nebius和CoreWeave整合GPU资源,动态调配计算能力
  • 多框架支持:原生集成PyTorch、vLLM、SGLang、XGBoost等主流AI框架
  • 企业级安全治理:支持SSO、SAML、SCIM和审计日志

定价

Anyscale采用按用量计费模式,提供$100免费起始额度供新用户探索平台。主要计费方式包括:

  • 用量制计算费用:按实际GPU和CPU使用量计费,是主要收入来源
  • 企业合同:提供批量折扣和定制方案,适合大规模AI团队

用户可以直接使用Python API启动分布式任务,无需管理基础设施。平台还提供数十个代码模板,帮助开发者快速上手。

适用人群

Anyscale主要面向需要大规模训练和部署AI模型的机器学习工程师、AI研究团队和企业MLOps团队。特别适合构建基础模型、处理多模态数据、需要在多云环境灵活调度GPU资源的AI团队。

总结

作为Ray计算引擎的商业化平台,Anyscale将分布式AI计算从复杂的工程挑战转变为简单的Python API调用。它让团队能够专注于模型创新而非基础设施管理,通过GPU资源池化和多云执行实现计算效率最大化。Ray生态超过5亿次下载和4.1万GitHub Stars的社区基础,为Anyscale提供了坚实的技术支撑。

数据统计

相关导航