调用大模型 API 的两种方式(单轮与流式)

用 SDK 或 HTTP 调用大模型服务的两种方式:一次性返回完整结果,以及流式逐段返回;包含鉴权方式、参数说明和常见错误码。

技术笔记 / 人工智能AIAPI大模型流式输出

LLaMA-Factory 微调参数怎么设:按影响程度分三层

把 LLaMA-Factory 可视化界面的参数按影响程度分三层讲清楚:模型与模板、微调方法与量化、批大小与学习率、LoRA 的 rank 与 target、截断长度与显存,并给出显存不足时的处理顺序。

技术笔记 / 人工智能大模型微调LoRALLaMA-Factory

站内搜索

没有找到内容!