在本地跑一个大模型,从0到能用

为什么要在本地跑模型? ChatGPT、Claude、Gemini 这些在线服务已经很强了,但总有一些场景让你想把模型放在自己机器上: 隐私数据:公司内部文档、个人日记、未公开代码,不想上传云端。 网络不稳定:出差、校园网、偏远地区,在线服务可能随时掉线。 成本控制:高频调用时,本地显存一次性投入,

折腾模型ai
王苏洋 教程 2