30 亿参数的模型,16 位精度下光权重就要 6GB——还不算提示词、中间结果和操作系统抢占的内存。iPhone 要在共享内存里跑它,还要不发热、不卡顿、不耗干电池。苹果给出的工程答案值得所有做...
Birch 2周前 60 0
显示验证码
没有账号?注册  忘记密码?