2024 年 9 月 30 日-10 月 2 日，Ray Summit 2024 将在美国旧金山举行。作为 Ray 社区的年度盛会，今年 Ray Summit 的主题是“Where Builders Create the AI Future”，蚂蚁集团也将受邀在会上介绍我们的最新工作——基于 Ray 的分布式 AI Agent 框架。
蚂蚁之于 Ray：第二大贡献者，150 万 CPU 集群部署
蚂蚁是最早参与 Ray 项目并将其实际应用到生产场景中的公司，从 2017 年成立 Ray 团队至今，已为社区贡献了大量代码，是 Ray 社区第二大的贡献者，同时在国内承担了 Ray 中文社区的运营工作。
Ray 作为通用计算引擎，在蚂蚁内部已应用于各种计算场景，例如AI在线服务、离线数据处理 AIFlow、图计算引擎 Geaflow、媒体计算引擎 Mellow、在线学习 Mobius、函数计算 FC、科学计算框架 Mars、运筹优化等等。截至今年，Ray 在蚂蚁已稳定运行着 150 万 CPU 核数的计算资源规模。
在今年 Ray 社区达到 1000 位贡献者之际，Anyscale 的 Co-Founder Robert Nishihara 也专门发文肯定了蚂蚁在其中杰出的贡献，并且预告了我们今年要在 Ray Summit 上介绍的最新工作——基于 Ray 的分布式 AI Agent 框架。
基于 Ray 的分布式 AI Agent 框架
在 Agent 应用生产化过程中，我们观察到其具有很多独特需求是传统服务型应用和计算型应用无法提供满足的。此次演讲的议题便是用于构建分布式 AI Agent 应用的离在线一体化框架 Ragent。
Ragent 的演讲将于 10 月 2 日 1:45PM - 2:15PM （美国时间）展开，地点位于 “Yerba Buena Salon 4” 会议厅，期待大家在现场和直播间中的参与！
讲师介绍：
陈齐翔，毕业于复旦大学计算机学院，在分布式系统、System4ML 领域发表多篇 A 级会议/期刊论文，目前就职于蚂蚁集团 Ray 团队担任软件工程师，是 Ragent 框架的主要作者。
另外两位核心贡献者由于个人原因无法亲临现场，他们分别是：宋顾杨、练俊文。
Ray Summit 更多亮点抢先看
本届 Ray Summit 最大的亮点自然是 10月2日由 OpenAI 带来的 KeyNote，他们将分享其在生成式 AI 及多模态数据领域所取得的最新进展，以及对下一波 AI 浪潮的见解。
OpenAI 也是 Ray 的深度用户，所以能看到刚刚离职的 OpenAI 前 CTO Mira Murati 也在 Keynote Speaker 的名单上，不确定这个行程是不是会有变化。
除此之外，下面这些演讲也非常值得关注：
Beyond Black Boxes: Evaluating AI Agents
-
时间 & 地点： 10月1日 11:45 AM - 12:00 PM PDT，Lightning Stage 会议厅
-
亮点分析： Agent 的能力很大程度上取决于所使用的评估方法，越准确、全面的评估方法越能提升 Agent 的能力，且 Agent 领域非常新颖，本就缺少足够多足够成熟的评估方法，值得期待
Running Ray on the world’s first open source super cloud: Akash Network
- **时间 & 地点：**10月1日 12:15 PM - 12:30 PM PDT，Lightning Stage 会议厅
- 亮点分析： Ray 的众多优点使其尤其适合中小型企业使用，而开源项目又备受中小企业青睐。此次 ThumperAI 公司带来的演讲便是其完全使用开源软件实现的解决方案 Akash Network，推荐给想学习 AI 项目如何完整落地实践的同学
Llama 1 2 3. On the way to open intelligence
- 时间 & 地点： 10月1日 1:00 PM - 1:30 PM PDT， Golden Gate Salon A 会议厅
- 亮点分析： Meta 将分享在构建 state-of-the-art LLM 的路上所面临的机遇和挑战，没理由不听。
The State of vLLM 2024
-
时间 & 地点： 10月1日 1:00 PM - 1:30 PM PDT， Yerba Buena Salon 10 会议厅
-
亮点分析： vLLM 已成为模型训练必不可少的优化技术，在这次演讲中来自 UC Berkeley vLLM 团队的成员将从功能、性能、社区等多个角度介绍 vLLM 的最新进展。
Building Unified Large-Scale Data Processing Pipelines for Multimodal Models Using Ray
-
时间 & 地点： 10月1日 1:45 PM - 2:15 PM PDT， Golden Gate Salon B 会议厅
-
亮点分析： 多模态数据具有数据量大、信息复杂的特点，为数据处理技术带来更多挑战。字节将介绍他们如何利用 Ray 解决视频数据处理中的问题。
还有很多有创意、有技术深度的演讲这里不一一列举，期待大家进一步发掘。Ray Summit 2024 官网：https://raysummit.anyscale.com/
作为本次代表蚂蚁去发表演讲的讲师，后续我会为大家带来大会的回顾盘点，欢迎持续关注～
END
自 2017 年以来，Ray 中文社区已经在国内举办 10+ 场 Meetup，其中 2023 年北京站线下参与人数 200+，在线观看人数 2000+。
Ray 中文社区计划在 11 月底或 12 月初，举办 2024 年首次 Meetup，现面向社区征集议题，欢迎有意向的讲师扫描下方二维码进行议题申报：
Ray 中文社区
Ray 是 UC Berkeley RISELab 针对机器学习领域开源的一种新的分布式计算引擎，用于构建在任何规模下运行的分布式应用。在国内，Ray 中文社区是由蚂蚁集团和 Anyscale 共同运营的针对中国技术爱好者的宣传沟通渠道。
-
Ray 中文问答： https://ray.osanswer.net