SORA
2024-11-13T12:48:55+00:00
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQskcg-jj86ZdT3cSmr-jz.jpg[/img]
rt，找的朋友的朋友帮忙配的，提的要求就是不打游戏，没有外观需求，只跑ai画图，尽量价格低点，他说这就是能缩的缩到极致了，但我看了几个帖子发现有比我同显卡价格还低的，而且听说只跑ai要么4060ti16g，要么4070tis以上，本人纯小白不太懂，请各位大佬们帮帮忙[s:ac:goodjob] 正在读研的穷医学生，没有实验室也没有钱，网还不行所以租显卡就算了
跑ai用12G显存不够的，我4070天天爆显存，只能开内存缓冲，然后速度慢的一批，一张图5分钟以上，所以4070tis起，4060ti16g的那个速度你接受不了的，建议你u用12400f或者5600，内存用ddr4，预算全加显卡上
新版ComfyUI跑flux，8G显存可以直出1088x1920，还搭个lora, 开高细节插件，占用内存也降低到了30G。
100块的p104算力6T，跑一张全高清，18分钟。
所以如果只推理跑图，可以选最近还在量产都在推的4060 8G冤种卡，用核显做显示输出省一点显存。
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQke1-gvabZ1sT3cS1hc-u0.png[/img]
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQke1-bcjrXmT3cSu8-1hc.png[/img](昨晚炼的新模型)
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQke1-c9xiXmT3cSu8-1hc.png[/img]
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQke1-1rvsXoT3cSu8-1hc.png[/img]
[img]https://img.nga.178.com/attachments/mon_202411/17/9aQke1-5bbsXpT3cSu8-1hc.png[/img]
4070tis算力44T，4060ti算力22T，基本上按比例换算，fp8硬件加速再加30%～50%吧，
模型11G，T5 9G，杂七杂八加起来3G，想满速确实要24G显存，
但是T5可以加载在内存，用CPU跑语言模型，也即半全速只需要11G加3G左右，怎么也超过12G了，
12G或以下就是中低速了，也即把11G模型再次分割加载跑，速度降低一个数量级。
8G显存则是再次分割，模型有五十几层，最低速就是一层一层跑，也即11G的模型，分割成五十几层，送一层进显存，跑完抽出来回到内存，再从内存抽一层送去显存跑，来回重复五十几次，最终跑完五十层。
最最低速，就是显卡只支持fp32模拟，比如10系，用fp32模拟fp8跑，所以最终就是一张1080P分辨率，跑18分钟。
训练则是要16G效果更好，现在有很多新模型。比如训练sd3.5m的lora，峰值就会有13.7G左右，差一点都跑不起来，虽然过了峰值会回落到7.8G，但是不是16G过不了初期的峰值就爆显存了。
所以想无脑一键炼丹，少报错。得16G或以上。
也即4060TI 16G或4070TIS 16G，不要考虑任何 16G显存以下鸡肋40系卡。
内存最好64G，虽然32G也不是不能凑合用，就是多跑点虚拟内存而已，预算极度压缩才选32G，稍微富余点必选64G内存。
最优解其实是等50系，现在装电脑很冤种。
Reply to [pid=795320716,42477954,1]Reply[/pid] Post by [uid=63168676]YMUDX[/uid] (2024-11-17 21:03)哦哦感谢感谢[s:ac:goodjob]
Reply to [pid=795323236,42477954,1]Reply[/pid] Post by [uid=64879851]赛博画师[/uid] (2024-11-17 21:22)哦哦感谢感谢，因为我只用过笔记本4060跑sd[s:ac:哭笑]效率可以说没有，所以打算换台式但没啥经验，看来我还得上大内存32g不太行，因为不知道明年50系会是啥价格再加上自己穷学生一个所以打算年前能换就换了 正好有一笔奖学金，很难留到明年hhh
你cpu主板用那么好干嘛。
12490f+七彩虹h610=918
玖合3200 16*2=173
比你的组合省了1700多，跑ai差不了多少
Reply to [pid=795337659,42477954,1]Reply[/pid] Post by [uid=13310153]la2ygoo[/uid] (2024-11-17 23:17)
感谢感谢我去看看，纯小白一点不懂[s:ac:委屈]