Meta Quest下月将率先搭载AI功能，超越苹果Vision Pro

近日消息，Meta公司透露，计划在即将到来的一个月内，为其Quest VR头戴设备引入创新的AI功能，此举有望使Quest在虚拟现实领域的AI应用上取得对苹果Vision Pro的领先优势。

Meta 计划将目前在 Ray-Ban 智能眼镜上使用的 AI 功能引入到 Quest 中，但初期仅作为实验性功能推出。

此前有报道称苹果的 Vision Pro 今年甚至可能永远都不会搭载人工智能功能。科技博主 John Gruber 表示，Vision Pro 的处理器性能不足以支持 AI，尽管其搭载的 M2 芯片理论上具备足够强大的算力。

据称，M2 芯片的算力已经被用于处理诸如遮挡和物体检测等实时任务，几乎没有剩余空间留给 AI。但彭博社记者 Mark Gurman 则持不同意见，认为 Vision Pro 将在明年推出 AI 功能。

而 Meta 方面，该公司计划从 8 月开始在美国和加拿大地区率先推出 Quest 的 AI 功能，这项名为“Meta AI with Vision”的功能允许用户通过 Quest 的透视模式（Passthrough）对所见事物进行提问。Meta Quest 此举无疑抢占了先机，在 AI 与 VR 的结合上迈出了重要一步。

Meta Llama 3巅峰之作：4050亿参数开源模型，定档7月23日震撼发布

近日消息，有内部消息透露，Meta公司正计划在7月23日发布其最新版本的开源AI模型Llama 3-405B。这个新版本的模型参数规模达到了惊人的4050亿个，远远超过了此前80亿和700亿参数的版本，被誉为迄今为止最强大的开源大语言模型之一。

Meta 公司今年 4 月发布 Llama 3 AI 模型时，扎克伯格就在采访中透露正在训练 4050 亿像素的密集模型，但当时没有透露太多的信息。

报道称 Llama 3-405B 是一个多模态 AI 开源模型，能够理解图像、文本等多种媒体内容。查询社交媒体等公开信息，发现已经有开发者使用该 AI 模型。

Meta革新分布式RoCEv2网络架构：无缝串联数万GPU，赋能千亿参数量级AI模型训练

近日消息，Meta公司最近公布了一篇博客文章，揭示了他们为应对大规模分布式人工智能训练的网络需求所采取的创新举措。具体而言，该公司构建了一套基于RoCEv2协议的高性能AI网络基础设施。

这一选择旨在优化数据传输效率与降低延迟，RoCEv2（Remote Direct Memory Access over Converged Ethernet version 2）协议利用以太网技术实现远程直接内存访问，大大提升了AI模型训练场景中的网络吞吐量，是Meta面对AI时代基础设施挑战的重要布局。

RoCEv2 的全称是 RDMA Over Converged Ethernet version 2，是一种节点间通信传输方式，用于大部分人工智能容量。

Meta 公司已成功扩展了 RoCE 网络，从原型发展到部署了众多集群，每个集群可容纳数千个 GPU。

这些 RoCE 集群支持广泛的生产型分布式 GPU 训练工作，包括排名、内容推荐、内容理解、自然语言处理和 GenAI 模型训练等工作负载。

Meta 公司为分布式 AI 训练专门建立了一个专用的后端网络，能够独立于数据中心网络的其他部分进行发展、运行和扩展。

训练集群依赖于两个独立的网络：前端（FE）网络用于数据摄取、检查点和日志记录等任务，后端（BE）网络用于训练。

训练机架连接到数据中心网络的 FE 和 BE。FE 的网络层次包括机架交换机 (RSW)、结构交换机（FSW）等，其中包含存储仓库，为 GPU 提供训练工作负载所需的输入数据。

后端结构是一个专门的结构，它以无阻塞的架构连接所有 RDMA 网卡，无论它们的物理位置如何，在集群中的任意两个 GPU 之间提供高带宽、低延迟和无损传输。

为了应对 LLM 模型训练对 GPU 规模的需求，Meta 设计了聚合训练交换机（ATSW）层，将多个 AI 区域互连起来。此外，Meta 还优化路由、拥塞控制等方面，以提升网络性能。