AI基准测试

面向本地LLM推理和XGBoost训练的开源AI/ML基准测试工具

该帖子介绍了一个开源基准测试套件，允许用户通过单条命令，在本地CPU/GPU上测试大语言模型（如Ollama支持的3B至14B参数模型）的推理性能，以及XGBoost模型的训练与推理性能。测试结果会自动生成交互式HTML报告和Streamlit在线仪表板，并可与参考系统进行比较。