该研究让OpenAI的text-davinci-003模型以self-instruct方式生成52K指令遵循(instruction-following)样本,以此作为Alpaca的训练数据。下面是研究团队测…
斯坦福OpenAIAlpaca
机器之心Pro 2023-03-15
梦晨 金磊 发自 凹非寺量子位 | 公众号 QbitAI一夜之间,大模型界又炸出个big news!斯坦福发布Alpaca(羊驼,网友口中的“草泥马”):只花100美元,人人都可微调Meta家70亿参数的LLaMA大模型,效果竟可比肩1750亿参数的GPT-3.5(text-davinci-003)。而且还是单卡就能运行的那种,甚至树莓派、手机都能hold住!还有一个更绝的“骚操作”。研究所涉及到的数据集,是斯坦福团队花了不到500美元用OpenAI的API来生成的。所以整个过程下来,就等同于GPT-3.
斯坦福OpenAILLaMAAlpaca
ThinkInAI 2023-03-14
Copyright © 2024 aigcdaily.cn 北京智识时代科技有限公司 版权所有 京ICP备2023006237号-1