标签

周报推理框架ncnnMNNllama.cpponnxruntimeonnxruntime-genaiexecutorchTVMC++STLAlgorithmsEffective STLContainersFunctorIteratorAnyNet魔法数字彩蛋DeepSeekT9输入法MoELLMGPUCUDA性能优化VectorStringarmcosplayvideo summarizationclipc++std::threadsLinear AttentionTransformerAttention大模型tpu-mlirONNXONNX RuntimeExecuTorchQwenLayerNormbfloat16RMSNorm数值精度Linuxglibc交叉编译动态链接加载器LLaMa2综述多模态大模型transformerVision Encoder内存泄漏深度学习openclVision TransformerViTWhisperTTSRKNNTPU-MLIR端侧推理AI 系统MHAMQAGQAself-attentionsoftware engineeropenclawbing-search-apiTokenizersHuggingFaceTransformersPythonPyTorchDelta Rule并行计算deepseekVLMQwen2.5-VLFlashAttention2WebGPUVulkanMLXQualcommRAGNPU高通Benchmark
avatar
何榜文
端侧 AI 推理、算子优化与论文细读的记录。
文章
52
标签
94
分类
8
Follow Me
公告
One week is 2% of a year
最新文章
端侧 AI 推理框架周报（2026-06-21 ~ 2026-06-28）
端侧 AI 推理框架周报（2026-06-14 ~ 2026-06-21）
论文速读：在移动 NPU 上跑通端到端 RAG——高通 Hexagon 的 Benchmark 答卷
端侧 AI 推理框架周报（2026-06-07 ~ 2026-06-14）
端侧 AI 推理框架周报（2026-05-17 ~ 2026-05-23）
分类
标签
llama.cpp Benchmark 周报 bfloat16 self-attention PyTorch 数值精度 GQA TPU-MLIR opencl DeepSeek 动态链接 Vision Transformer Transformers HuggingFace video summarization MNN bing-search-api software engineer LLM transformer GPU 彩蛋 arm STL executorch 性能优化 clip ncnn AnyNet RMSNorm 高通 Transformer 大模型 FlashAttention2 glibc 综述 ViT Vector cosplay
归档
网站信息