Λngel
2024-11-06T15:19:16+00:00
rt，想跑llama-7b，只使用推理部分，硬件跟不上，只能租阿里云了吗[s:a2:大哭]，有租过的大佬可以教教吗，月租大约多少米[s:ac:瞎]
租服务器跑大模型
oBulletRapture
[img]https://img.nga.178.com/attachments/mon_202411/12/-4qiozQtwfm-2ns3K2sT1kSg0-sg.jpg.medium.jpg[/img]实验室绿植镇楼
HIROKI
直接上谷歌的啊，便宜大碗
unseen
7b还租个毛服务器，买块显卡不就行了。16g显卡能跑满血了
unseen
而且就算要租服务器 为啥月租？按小时租不是更划算？难不成你要二十四小时不停？
AxTro
只跑推理的话，建议直接调用api，非常便宜
tejan
[quote][tid=42426653]Topic[/tid] Post by [uid=60537183]CQYJB[/uid] (2024-11-12 23:20):
rt，想跑llama-7b，只使用推理部分，硬件跟不上，只能租阿里云了吗[s:a2:大哭]，有租过的大佬可以教教吗，月租大约多少米[s:ac:瞎][/quote]国内蛮多平台也可以租呀，价格也不算贵，我之前用的AutoDL，你可以瞅一瞅
rt，想跑llama-7b，只使用推理部分，硬件跟不上，只能租阿里云了吗[s:a2:大哭]，有租过的大佬可以教教吗，月租大约多少米[s:ac:瞎][/quote]国内蛮多平台也可以租呀，价格也不算贵，我之前用的AutoDL，你可以瞅一瞅