Skip to content

民间版中文羊驼模型 v2.1

Compare
Choose a tag to compare
@airaria airaria released this 13 Apr 04:58
· 393 commits to main since this release
  • 🚀 合并脚本更新,支持从HF格式LLaMA权重+Chinese-LLaMA/Alpaca LoRA权重合并到HF格式的模型权重

  • 🚀 添加了两种新的部署方式:

    • 添加了基于text-generation-WebUI的部署指南,无需合并模型即可本地化部署
    • 添加了直接使用Transformers进行推理的脚本,可方便快速体验模型效果,无需安装其他库或Python包,支持CPU/GPU
  • ⚠️ 移除了权重合并脚本中的--model_size参数:合并模型时不再需要提供该参数,脚本将自动推测模型大小。