品玩6月6日讯,新加坡国立大学近日发表论文,发布模型 Goat。这款模型相比GPT-4有着更强的基础运算能力。
虽然GPT-4等大语言模型有诸多亮眼的表现,但他们目前仍然很难处理基础算数工作。而Goat 在LLaMA 模型的基础上进行了微调,使其在算术方面有更好的表现,在基础运算工作方面超过了Bloom、OPT、GPT-NeoX等大模型产品。
据论文显示,研究团队将运算工作分为可学习和不可学习两种,并通过基础算术原则将不可学习的工作再分解为一系列可学习的工作。而多次试验显示,这种分解步骤有效的提高了算术工作的准确性。