Mesh LLM:iroh 上的分布式 AI 计算

Mesh LLM:iroh 上的分布式 AI 计算

Mesh LLM 是一个基于 iroh 点对点网络构建的分布式 AI 计算项目,旨在将大模型推理任务拆解到多台设备上协同运行。根据已公开的测试数据,该方案在跨 2 个节点的环境中,运行 Qwen 235B A22B MoE 模型(235B 总参数,22B 激活参数)时,实现了约 16 个 token/秒的生成…

为何应用光电子公司(AAOI)凭借不断扩大的光通信订单积压,能够充分把握超大规模人工智能网络的需求机遇

为何应用光电子公司(AAOI)凭借不断扩大的光通信订单积压,能够充分把握超大规模人工智能网络的需求机遇

光通信组件制造商应用光电子公司(AAOI)已获得超过3.24亿美元的800G和1.6T光模块订单,这些订单来自超大规模AI数据中心客户。Rosenblatt Securities重申买入评级并将目标股价定为220美元,认为公司垂直整合制造模式有望在执行交付过程中控制成本并改善盈利。

Robinhood平台上投资者持有的5只热门AI股票

Robinhood平台上投资者持有的5只热门AI股票

Robinhood平台根据其超过2700万用户持仓数据,公布了投资者最常持有的五只AI相关股票,包括Nvidia、Microsoft、Meta Platforms、Alphabet和SpaceX。该榜单反映了散户投资者对大型科技品牌和AI基础设施公司的偏好,同时也提示了过度集中于少数龙头股带来的组合风险。