想跑点大模型，现在最划算的方案是什么？

三月七

就研究些和ai相关的应用，感觉调用和token都会挺多的。要求也不高，能跑个40B，或者72B左右的模型就很满足了。

我有几个简单的想法：
1.租个VDS/杜甫，新一点的CPU支持AVX512的，大内存用CPU跑。
2.租GPU资源。但是感觉太贵了，没有什么便宜的路子。
3.直接调用付费API。
4.自己组一台电脑，内存和CPU拉满给很大。大力出奇迹。

不组GPU那是因为确实组不起

5.苹果电脑加钱配大内存？

大佬们有啥想法吗

redneck

多买几台国补的mac mini

三月七

redneck 发表于 2025-7-29 22:08
多买几台国补的mac mini

我看不是说exo框架其实性能一般吗

haowan

Eureka

垃圾佬的拼好卡：V100 16G
裸板咸鱼卖500

迪士尼

阿里云的其实也不贵 训练也合适