SmolLM2-1.7B
SmolLM2是一系列轻量级的语言模型,包含135M、360M和1.7B参数的版本。这些模型能够在保持轻量级的同时解决广泛的任务,特别适合在设备上运行。1.7B版本的模型在指令遵循、知识、推理和数学方面相较于前代SmolLM1-1.7B有显著进步。它使用包括FineWeb-Edu、DCLM、The Stack等多个数据集进行了训练,并且通过使用UltraFeedback进行了直接偏好优化(DPO)。该模型还支持文本重写、总结和功能调用等任务。
PatronusAI/glider-gguf是一个基于Hugging Face平台的高性能量化语言模型,采用GGUF格式,支持多种量化版本,如BF16、Q8_0、Q5_K_M、Q4_K_M等。该模型基于phi3架构,拥有3.82B参数,主要优点包括高效的计算性能和较小的模型体积,适用于需要快速推理和低资源消耗的场景。产品背景信息显示,该模型由PatronusAI提供,适合需要进行自然语言处理和文本生成的开发者和企业使用。