AnythingLLM

推荐一下，这个工具，结合ollama可以跑本地大模型，私人AI助理。

ollama搭建大模型运行环境，然后anythingLLM可以协助做本地文档的处理，向量化，RAG，以及实时搜索互联网信息之后让大模型输出。

去年有阵子我在PC上用它跑过荀子，做中医学习和解答。

要说它好到哪里去吧，其实也没特别强。从我AnythingLLM用我的日记喂它后尝试提取信息，发现效果并不是很如意。后面就没在用了。
但毕竟从0到1了，未来可期。

LM Studio

我去年试用的时候不是用的ollama，而是用的LM Studio，因为这货支持MLX，能发挥Mac的性能。
https://lmstudio.ai

惊艳世界的大模型，干出了大模型界拼多多的性价比。
去年摆弄的时候我还在用千问本地大模型的，今年可以用DeepSeek了。
等空了的时候又可以摆弄摆弄去了。

因为我使用WebStorm和Rider，所以可以装CodeGPT插件，然后使用本地部署，理论上是这样。

GitHub copilot已经退订了，不过由于24年开始，出了好多国产免费代码助手，现在用MarsCode感觉也足够好了。都没必要自己搭建了。

技术内容转载请注明来源，个人日记不允许转载，欢迎指出任何有错误或不够清晰的表达。可以邮件至 mousebomb@gmail.com