opencl-alloc-error

OpenCL Image 申请失败

问题描述

在使用 MNN 部署 ViT 的过程中，出现了这个报错：

Alloc Image 3 x 49152 error, code:-40

解决方案

这个问题是因为这个图像的尺寸超过了本设备 OpenCL 支持的最大尺寸，Adreno 630 的最大尺寸是 16384x16384，所以这个图像的尺寸 3x49152 超过了这个限制。这个尺寸出现的地方在 ViT 生成 QKV 的时候，这个尺寸是 768x2304，使用 RGBA 四通道 Image 时，reshape 之后的尺寸就是 3x49152。解决方案：

1. 修改 MNN 的代码，将这个尺寸调整到小于 16384x16384。但是需要修改后续的计算代码
2. 在导出模型时，不要将三个矩阵合并成一个矩阵进行计算，而是分开计算，这样就不会出现这个问题
3. Buffer 不会出错，可以使用 Buffer 代替 Image 进行计算，但是 MNN 没有自动 fallback 的功能，需要手动修改代码