登录社区云，与社区用户共同成长
邀请您加入社区
大规模预训练和指令微调在构建通用语言模型方面取得了显著成功。然而，构建通用视觉-语言模型仍然面临挑战，这主要源于由于视觉输入所带来的丰富输入分布和任务多样性。尽管视觉-语言预训练已经被广泛研究，视觉-语言指令微调仍然是一个未被充分探索的方向。本文基于预训练的 BLIP-2 模型，对视觉-语言指令微调进行了系统且全面的研究。我们收集了 26 个公开数据集，涵盖了广泛的任务和能力，并将它们转换为指令微
Anthropic公司在其Claude Code平台上推出了一项创新功能——Sub Agents（子智能体）。这一功能标志着AI助手从通用型向专业化的重要转变，为开发者提供了更精细、更高效的任务执行解决方案。
前面提到大语言模型发布时通常会推出基础版与对话版两个版本。其中，基础模型是经过大规模语料无监督预训练的模型，这类模型虽然学习了大量通用知识，但没有经过任何行为指导；而对话模型则是专门为用户交互构建的，通常采用提问与回答的格式，它是在基础模型的基础上，通过指令监督微调与基于人类反馈的强化学习进行优化得到的，能够与人进行对话，并且输出的结果更加符合预期、更易于控制，也更加安全。想让大语言模型理解并生成
SFT（监督微调）是提升大语言模型理解人类意图的关键步骤。SFT在预训练后，通过"指令-回复"对训练模型，使其学会生成有用、结构化的回答。流程包括：准备高质量数据、添加特殊标记区分指令与回复、使用监督学习优化模型。SFT让模型从单纯"学语言"进阶到"学听话"，但仍有局限，如无法处理内容偏好和安全性问题，需结合RLHF进一步优化。随着AI大
要回答“YOLOv8微调继续训练时，损失值及mAP50-95是否应与之前最后一轮基本一致”的问题，需结合。（学习率、数据增强、batch size等），继续训练的第1轮损失和mAP应与之前最后一轮。（如损失突然上升0.1以上，mAP下降0.03以上），则可能是。（仅受数据随机性影响，如batch组成、数据加载顺序）。恢复后训练的第1轮，如总轮次的第301轮），（如学习率突然翻倍）导致的异常。（如优
追本溯源的说，相较于finetuning，prompt-tuning是更符合人类学习知识、完成任务的习惯的，人类在完成任务的时候并不需要如此大规模的数据来支撑，我们可以通过比较简短的指示，类比、匹配不同的任务融会贯通的学习。一种可能的方法是让该矩阵遵循以下分解：Ml=BlAl其中B和A的规模如下图所示，这样的设计首先保证了M的维度仍然是d*k不变，但通过子维度r的添加，实现了对A和B的秩的限制，从
在人工智能飞速发展的当下，预训练（Pre-Training）与微调（Fine-Tuning）已成为推动 AI 模型不断进化的关键技术。这两项技术相辅相成，共同为模型在多样化任务中的出色表现奠定基础。接下来，就让我们深入探究预训练与微调的奥秘。
LLM 微调经验分享：从数据到部署的全流程实践指南
本文是对论文 Can Gradient DescentSimulate Prompting 这篇文章的阅读笔记，其中也穿插了一些与模型知识冲突相关的分析。
摘要：本文介绍了如何利用LoRA技术在Mac上微调FlanT5小模型，无需显卡或云端资源。LoRA的优势在于轻量（仅训练0.1%-1%新参数）、可插拔适配器和避免灾难性遗忘。文章详细展示了环境配置、数据处理、模型训练和推理测试的全流程代码实现，并在M3 MacBook上3分钟内完成5轮训练。虽然演示效果受限于小模型和数据集，但验证了LoRA+M系列芯片的可行性，建议有条件的用户尝试更大模型以获得更
