登录社区云,与社区用户共同成长
邀请您加入社区
然而,全面微调这类模型的成本仍然高昂,通常需要大量的计算资源、内存以及任务特定的数据。参数高效微调(PEFT)作为一种新兴的解决方案,通过仅更新模型的一小部分参数,使得大模型能够高效地适应下游任务。。我们首先分析了传统微调所面临的资源与可及性挑战,指出过拟合、灾难性遗忘和参数低效等关键问题。