跳转到主内容
新派编程网 - 新潮编程理念,全新技术课堂!

标签:llama

使用 Ollama+LlamaIndex 搭建本地 RAG 应用
把注意力计算丢给CPU,大模型解码吞吐量提高1.76~4.99倍