《51CTO-夏曹俊-LLama实战本地CPU推理大语言模型-C++开发实战》人工智能夸克网盘｜学习资源

创建时间：2026-07-28 14:15:01

大小：4.1 GB

简介：51CTO-夏曹俊-LLama实战本地CPU推理大语言模型-C++开发实战，共36个视频文件约4.1GB。从环境搭建开始，演示了基于130亿参数模型的推演程序，手把手带你配置git、msys2、Visual Studio 2022、cmake、conda，讲ggml格式和pth转ggml的bin，量化到Q4_0。还专门讲了Chinese-LLaMA-Alpaca中文模型的下载、LoRA权重合并，以及用Transformer和Web界面推理。深入代码层面分析了ctx-size上下文、batch-size、repeat-penalty重复惩罚、温度、top-k/top-p等参数，最后用QT做了图形化推理交互程序。