三张图理解蒸馏、微调、RAG专业名词
一只产品汪啊
2025-03-05 16:54:55
📍蒸馏≈模型瘦身术，微调≈定向特训，RAG≈开外挂查资料。
✅蒸馏：就像学霸同学把老师讲题的方法偷偷记下来，回家教给基础差的同学。这样基础差的同学也能学会解类似的题，但不需要老师亲自教。用在AI里就是：把大模型（学霸）的知识简化后复制给小模型（普通学生），让小模型能在手机、平板这种低端设备上工作。
✅微调：假设数学课学得一般，但英语特别差的学生，专门花时间补英语。AI里就像给通用型AI（什么都会但不精通）猛补某个领域（比如医疗知识），让它变成该领域的专家。只需要用这个领域的少量资料训练就行。
✅RAG：考试时遇到不会做的题，偷偷翻开小抄（公司内部资料库），看完答案后再用自己的话组织答案。AI里就是：大模型回答问题的时候，先快速搜索公司自己积累的资料（比如产品手册、客户档案），再结合自己的知识回答问题。相当于给AI配了个"作弊神器"，但本身大脑没变。
0
阅读：0
