Edge0宣布开源Edge0-145B和Edge0-120B两个模型,同时放出统一推理框架和部署工具,称145B是首个能在个人电脑上本地运行的开源模型。消息一出,本地AI社区先兴奋,再质疑。 145B跑在笔记本上意味着什么 参数越大,能力通常越强,但内存和带宽要求也越高。145B模型即使量化到4b