syrup
2024-11-15T03:52:05+00:00
个人玩家玩ai选L20还是5090。
L20计算能力比4090差多少
[img]https://img.nga.178.com/attachments/mon_202411/15/9aQkdy-k2apZbT1kSfq-sg.jpg[/img]
L20是去年制裁后和4090d同期出的卡，规格比4090d刀掉的更多。大概是接近4080s规模的AD102核心配上刀掉近一半的tensor core，加48g显存，你可以近似的把它当成48g的4080s。
跑llm推理肯定是选l20，它可以跑4bit的70b模型。相比之下，5090用来训练或者跑小一些的模型的推理会比l20好。
这个是制裁之后为了符合制裁标准新切的卡，4090是超过制裁要求的。这卡优势就是大显存，看你需不需要。
不是找个四槽PCIE的工作站主板插四张魔改的22G的2080ti吗
真玩AI去找玩AI的地方问，来游戏论坛做啥[s:ac:晕]
AI训练无脑选L20 L40，5090因为有通用算力，额外功耗比纯推理卡高很多(训练几个月额外电费会让你大跌眼镜)，而且显存小是硬伤，很多模型训练不了，5090这种自己玩玩还是可以的，属于全能旗舰，但是推理并不出彩
算力基本一样的4090和rtx6000ada，显存从24提到48，售价高了三倍，l20给你48显存，算力能是个什么水平