1. 快速安装text gen webui扩展

为什么重要:错误安装会导致功能异常甚至系统崩溃

  1. 打开GitHub仓库 → 下载最新release版本
  2. 将解压文件夹放入extensions目录
  3. 重启WebUI服务检查加载状态
实测建议:Windows用户推荐使用7-Zip解压,避免文件权限问题

2. 关键参数优化设置

为什么重要:默认参数可能无法发挥硬件最大性能

  1. 调整max_new_tokens控制生成长度(建议200-500)
  2. 设置temperature值平衡创意与逻辑(0.7-1.2最佳)
  3. 启用auto_devices自动分配GPU资源
避坑:不要同时启用多个lora适配器,内存占用会指数级增长