DeepSeek是一款基于AI技术的智能搜索引擎,结合深度学习与自然语言处理,提供精准、高效的搜索体验。探索DeepSeek,感受未来智能搜索的无限可能!
计算得出,并且这里M3 Ultra算的是整机价格,而H100只是单独一块卡。
而且高达512GB统一内存的这种大显存设定,非常适合跑R1这样的MoE模型。
所以有网友在推特上喊话EXO Lab,表示想看8台Mac Studio联机的表现。
EXO Lab则回应说,有没有谁来搞个2T参数的MoE模型,顺便又期待了一波R2。
据苹果介绍,装有M3 Ultra的Mac Studio,可以在本地运行600B参数的大模型。
如开头介绍,针对这样的配置和价格,EXO Labs的创始人Alex Cheema算了这样一笔账:
也就是说,M3 Ultra平均下来每GB内存的价格仅有H100(并且还是没被炒上天的官方价格)的5.9%,和M2 Ultra相比也降低了28.7%。
也就是说,不管是和H100比,还是和前一代的M2 Ultra比,M3 Ultra上单位速度的成本都要更高,相当于牺牲了一部分速度换取更高的容量。
但是如果考虑到以R1为代表的MoE模型的运行特点——总参数量大,但运行时激活参数量相对较小,对内存速度的需求,相对容量而言重要性要低一些。
所以这样看来,M3 Ultra搭配稀疏MoE模型,依然是一对不错的搭档。
除了M3 Ultra版Mac Studio,苹果最近还上线了一波其他新品。
iPad Air则采用M3芯片,分11寸和13寸两个尺寸,起售价分别是4799元和6499元(128GB,WLAN版),最高价分别为9999和11699元(1TB,蜂窝版)。