小白兔〤奶糖 发表于 2024-12-22 19:10:21

想本地部署一个大语言模型

只测试了ollama，下载了上百G的大模型，测试结果都是流模式输出，有没有又快又非流模式输出的？
如果想让大语言模型给上百万字的文本文件总结文章大纲、西纲等要如何弄？

木已凉兮 发表于 2024-12-22 19:31:34

秀起来~
页: [1]
查看完整版本: 想本地部署一个大语言模型