Program-as-Weights (PAW) 是一种新的编程方法:你用大白话描述一个函数,它就会用一个40亿参数的编译器把这个描述编译成一个很小的神经程序,然后交给一个6亿参数的解释器在本地运行。效果跟直接调用320亿参数的大模型差不多,但内存占用只有它的五十分之一。 这个可信吗

这个概念在学术和工程原理上是完全可信且合理的,并非“空头支票”。来自哈佛、康奈尔与滑铁卢大学的研究团队发表了论 … 阅读更多