深度学习显卡需求?

ShdwWalker-avatar

ShdwWalker

有钱无脑90吧。预算紧张就60?
deathcrafter-avatar

deathcrafter

如果实验室有服务器只是本机调试一下的,挑个便宜的就行
wizardman-avatar

wizardman

根据我穷困潦倒的经验(我的实验室也没钱买A100),没办法在算力和大显存兼得的情况下,一般是优先大显存,性能弱一些只是跑得慢,显存少了直接爆显存是没法训练的,除非你得想办法优化网络或者做subdivision或者降低batch,但这个吧,前一个你可以直接去拿成果发论文,后两个会影响精度[img]http://img.nga.178.com/attachments/mon_201209/14/-47218_5052bc4cc6331.png[/img]
有错的还请赐教
ThatTortle-avatar

ThatTortle

无脑显存[img]http://img.nga.178.com/attachments/mon_201209/14/-47218_5052bc4cc6331.png[/img]
TurkSweaty-avatar

TurkSweaty

没显存,beachsize都不能调大,影响结果
Gigavenger-avatar

Gigavenger

能跑起来的模型是四小时出结果和六小时出结果的区别,跑不起来的模型就难说了[s:ac:哭笑]
N1kNaks-avatar

N1kNaks

[s:a2:冷笑]用老黄的运算卡啊~K20~K80啥啥的~12G显存~怎么也够了吧~还便宜~就是没视频输出口~
DanTheMan-avatar

DanTheMan

深度学习到底能学到什么呢?
ImNotToxic-avatar

ImNotToxic

3090。
Joy-avatar

Joy

自用3090 但是觉得上双80ti更好,价格提升50%显存一样但是核心数翻倍。对题主来说还是选显存大的吧,反正运算也快不了多少
! macro-avatar

! macro

Reply to [pid=566245419,29449204,1]Reply[/pid] Post by [uid=63369903]馒头又大又白[/uid] (2021-11-15 17:45)很多层高维参数,用来拟合一个分段的高位面
RiverDragonz-avatar

RiverDragonz

[quote][pid=566272101,29449204,1]Reply[/pid] Post by [uid=483705]yoshiki123[/uid] (2021-11-15 19:43):

80ti不能交火把?30系只有90可以[/quote][s:ac:哭笑]可能是模型并行的高人 显存等效算只有这一条路

而且其实也不需要nvlink 也就慢一点
Joy-avatar

Joy

Reply to [pid=566272101,29449204,1]Reply[/pid] Post by [uid=483705]yoshiki123[/uid] (2021-11-15 19:43)
深度学习不需要sli,现在的深度学习框架都支持data parallel,只会损失一丢丢性能和显存
unoffcaly.net-avatar

unoffcaly.net

如果显存不够batchsize调低不如不做 所以。。
建议3060或者等3070s
Henry-_--avatar

Henry-_-

这东西就和内存一样

高频确实快,但是容量不够了爆内存等于扯淡

所以看你模型显存需求
SleeperSpace-avatar

SleeperSpace

[quote][pid=566266931,29449204,1]Reply[/pid] Post by [uid=62569686]ZZWEI[/uid] (2021-11-15 19:19):

自用3090 但是觉得上双80ti更好,价格提升50%显存一样但是核心数翻倍。对题主来说还是选显存大的吧,反正运算也快不了多少[/quote]80ti不能交火把?30系只有90可以
Fasteddie731-avatar

Fasteddie731

这个得看你做哪个方向的,60显存大一些,但是70浮点高
kazmio-avatar

kazmio

贼穷K40
略穷K80
一般3060
富有3090
行货特斯拉卡公费给报吗
DrnknDsrdr-avatar

DrnknDsrdr

显存重要 运算速度无非是多跑一会儿 比跑不起来好多了