Ray相关学习资料推荐| 新手必读

最近Ray中文社区的同学经常要Ray的相关学习资料,本文汇总了到目前为止比较推荐的阅读资料给大家,希望对Ray的新手用户有所帮助。


Ray官方文档

首推的是Ray官方文档。Ray的官方文档内容很全面,涵盖了Ray所有模块的介绍、快速开始指南、API详细用法、典型应用Case和生态集成等。阅读Ray的官方文档不宜通读,需要从粗到细地去学习。对于新手来说,推荐首先阅读index页面和getting-started页面:

https://docs.ray.io/en/latest/ray-overview/index.html

https://docs.ray.io/en/latest/ray-overview/getting-started.html

刚开始了解Ray的同学需要对下面这张架构图有概念:

这张图展示了Ray的架构分层:最底下是「Cloud」,在文档中对应“Ray Clusters”的内容,即Ray如何运行在各种云计算基础设施(K8S、AWS等)之上,以及如何将一个Ray的作业(应用)运行到集群上;中间是「Ray Core」,即Ray的分布式框架核心模块,在文档中对应“Ray Core”;最上面是「Ray AI Libraries」,是基于Ray Core封装的各种上层框架,解决数据处理、训练、模型服务等场景,对应文档中的多个部分:“Ray Data”,“Ray Train”,“Ray Tune”,“Ray Serve”,“Ray RLlib”等。

注意:Ray AI Libraries在2.7.0版本以前叫“Ray AI Runtime” ,但后期做了软件架构优化,现在更名为Ray AI Libraries,大家需要注意下自己使用的Ray版本。

官方文档的结构如下(2.9.0版本为例):

image

Tips

Ray官网当前的slogan是 “Ray is an open-source unified framework for scaling AI and Python applications. ”,这里强调Python生态,但Ray同时支持**Java和C++**分布式应用,推荐两篇老文章:

https://medium.com/distributed-computing-with-ray/build-distributed-java-applications-with-ray-90b381eff564

Modern Distributed C++ with Ray | Anyscale (中文版 C++ 分布式编程来了

教程: Ray Educational Materials

这是一套Ray的教程,内容不多但很精华,并且由于是用Notebook的形式呈现,非常适合新手学习,快速了解Ray的核心用法和能力。该教程是由Anyscale公司开发,地址为:

教程中主要是对Ray Core的核心用法作了详细介绍,除此之外还有Ray上的几个经典案例:批量推理、大规模模型训练、模型Fine-tuning和模型服务等。

Ray电子书

image

Ray目前有两本英文出版物,推荐这本Learning Ray阅读,书的作者是Ray社区多年的核心开发,并且由O’Reilly出品,质量可以保障。本书有电子版可以直接下载:

为了方便,我们也将电子书上传到了语雀上:

Learning Ray 电子书 |英文版 · 语雀 《Learning Ray 电子书 |英文版》

本书的代码也有Notebook版本提供,但电子书的问题是内容和代码不会随最新版本而更新,当前版次是基于Ray 2.2.0 编写的,随书Notebook工程地址:

白皮书

Ray有两本白皮书,即「Ray Core白皮书」和「Ray AIR白皮书」,它们分别是在2022年10月和2022年8月编写,当时的版本大概是2.0左右。相比上面几个阅读物,白皮书会包含更多的Ray底层设计与实现相关内容,适合参与Ray项目的开发者或者对Ray内部运行原理感兴趣的同学阅读。

Ray Core白皮书

image

英文原版地址:

docs.google.com/document/d/1tBw9A4j62ruI5omIJbMxly-la5w4q_TjyJgJL_jN2fI/preview

英文原版语雀下载地址:

Ray2.0架构白皮书|英文版 · 语雀 《Ray2.0架构白皮书|英文版》

中文社区小伙伴@andy.qin翻译的中文版地址:

Ray2.0架构白皮书|中文版 · 语雀 《Ray2.0架构白皮书|中文版》

Ray AI Runtime白皮书

image

英文原版地址:

docs.google.com/document/d/1bYL-638GN6EeJ45dPuLiPImA8msojEDDKiBx3YzB4_s/preview

英文原版语雀下载地址:

Ray AIR白皮书 | 英文版 · 语雀 《Ray AIR白皮书 | 英文版》

进阶&更多

如果通过以上阅读材料已经对Ray有了全面的掌握,可以关注更多内容。

Ray官方博客:

Ray中文社区微信号:

image

Ray中文论坛:

https://ray.osanswer.net/

Youtube视频:

https://www.youtube.com/@anyscale/playlists

推荐Ray Summit 2023合集:

image

B站视频:

推荐今年的Meetup合集: