一、之前整理了一些大模型的Demo，汇总如下
1、ChatGPT
https://github.com/neohope/NeoDemosChatGPT
2、Llama2
https://github.com/neohope/NeoDemosLlama2
可同步看一下中文版Llama2
https://github.com/ymcui/Chinese-LLaMA-Alpaca-2
3、阿里千问
https://github.com/neohope/NeoDemosQwen
4、清华ChatGLM
https://github.com/neohope/NeoDemosChatGLM
二、建议看一下llama.cpp
1、llama.cpp
https://github.com/ggerganov/llama.cpp
2、python的llama.cpp封装
https://github.com/abetlen/llama-cpp-python
3、千问的qwen.cpp实现
https://github.com/QwenLM/qwen.cpp
4、ChatGLM的chatglm.cpp实现
https://github.com/li-plus/chatglm.cpp
三、还有量化
https://github.com/AutoGPTQ/AutoGPTQ
四、当然还有langchain
https://github.com/langchain-ai/langchain
五、如果有余力，看一下Transformer实现
https://github.com/huggingface/transformers