线性回归
apache
注解
极限编程
鸿蒙系统
汽车安全
笔记
EPICS
教育电商
寒武纪面试
SylixOS
数学
MySQL集群搭建
ras
金融学
如何修复网站漏洞
skill command
银行家算法
上位机
MMoE
mnn
2024/4/12 4:57:38
亚马逊云科技推出Amazon AppFabric，SaaS安全不断加码
亚马逊云科技近日宣布推出Amazon AppFabric来增强公司在软件即服务（SaaS）应用程序方面的现有投入。Amazon AppFabric是一项无代码服务，可以为客户提高安全性，管理水平和生产力。只需在亚马逊云科技管理控制台上点击几下࿰…
深入MNN：开源深度学习框架的介绍、安装与编译指南
引言
在人工智能的世界里，深度学习框架的选择对于研究和应用的进展至关重要。MNN，作为一个轻量级、高效率的深度学习框架，近年来受到了众多开发者和研究人员的青睐。它由阿里巴巴集团开源，专为移动端设备设计，支持跨平…
推理端框架简介 高通SNPE 神经网络处理引擎 阿里巴巴 MNN 腾讯 FeatherCNN 端侧推理引擎 卷积计算优化 卷积计算优化
高性能计算(High performance computing， 缩写HPC) 指通常使用很多处理器（作为单个机器的一部分） 或者某一集群中组织的几台计算机（作为单个计 算资源操作）的计算系统和环境。 有许多类型的HPC 系统，其范围从标准计算机的大型集群，到高度专用的硬件。 大多数基于集群的H…
【MNN学习六】基于Android的MNN编译安装
目录
一. MNN编译安装 (Android编译)
二. 测试benchmark (Benchmark工具) 一. MNN编译安装 (Android编译)
1. 编译选项
cmake_minimum_required(VERSION 2.8)project(MNN)# complier options
set(CMAKE_C_STANDARD 99)
set(CMAKE_CXX_STANDARD 11)
enable_language(ASM)
# …
MNN Session 创建执行器（六）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
Pytorch模型转成ONNX和MNN
简介
本文介绍Pytorch模型转成ONNX和MNN模型，ONNX和MNN框架不做详细介绍。
PyTorch转ONNX
需要安装好pytorch环境和onnx包
pip install torch
pip install onnx以mobilenet为例，下载好mobilenet.py和预训练模型mobilenet_v2-b0353104.pth，…
MNN createSession 之创建流水线后端（四）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
MNN createFromBuffer（一）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
移动端推理引擎通用性小测
移动端推理引擎通用性小测
推理引擎
引擎公司Commit id(或Tag)链接使用方法MNN阿里巴巴2.6.0https://github.com/tensorflow/tensorflow/tree/v2.13.0-rc1https://mnn-docs.readthedocs.io/en/latest/start/overall.htmlTensorFlow Lite谷歌v2.13.0-rc1https://github.com/te…
MNN-YOLOv8 c++ 推理+交叉编译
使用 https://github.com/wangzhaode/yolov8-mnn.git 进行图片检测推理
1,下载MNN 2,ubuntu编译MNN cd MNN\ mkdir build && cd build && cmake .. -DMNN_BUILD_OPENCV=ON -DMNN_IMGCODECS=ON && make -j8
3,新建CLion共享动态库工程 新建src,includ…
MNN 执行推理（九）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session 之维度计算（五…
【MNN学习二】模型压缩与量化
目录
1. 量化的作用
2. 编译
3. 量化工具的使用 1. 量化的作用 量化将网络中主要算子（卷积）由原先的浮点计算转成低精度的Int8计算，减少模型大小并提升性能
2. 编译
(1) 编译宏 编译MNN时开启 MNN_BUILD_QUANTOOLS 宏，即开启量化工具的编译
(2) 编译产物 量化模型的工…
MNN源码阅读之推理流程（一）——Interpreter
第一次阅读整个深度学习的开源框架，一边阅读，一边做笔记。不当之处，望斧正。
开始正题！ 根据MNN源码所提供的demo PictureRecognition.cpp可以了解推理的流程。
根据模型文件创建解释器Interpreter。根据ScheduleConfig配置创建…
MNN createSession 之 Schedule（三）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
MNN：从入门到源码剖析（一）
MNN简介
MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。MNN来自阿里巴巴，对标腾讯的NCNN，OPEN AI LAB的Tengine。粗略看来，在复杂度（完整度）上，Tengine >…
香橙派--编译MNN报错，关于汇编的嵌套展开
先看报错：
/home/orangepi/MNN-master/source/backend/cpu/arm/arm64/bf16/ARMV86_MNNPackedMatMulRemain_BF16.S:158: Fatal error: macros nested too deeply再看代码：
PostTreatLH8:FMAX v9, v15, v16, v17, v18FMAX v9, v19, v20, v21, v22FMAX v9…
[C++][ubuntu]MNN在ubuntu18.04源码编译流程
1、先编译protobuf
安装依赖
sudo apt update sudo apt install libprotobuf-dev protobuf-compiler cmake git -y
下载源码：
wget https://github.com/protocolbuffers/protobuf/releases/download/v3.19.4/protobuf-all-3.19.4.tar.gz tar -zxvf protobuf-al…
pytorch训练图像分类模型,并部署到MNN
1. Pytorch分类器网络
# 定义一个简单的分类网络
class SimpleNet(nn.Module):def __init__(self):super(SimpleNet, self).__init__()# 三个卷积层用于提取特征# 1 input channel image 90x90, 8 output channel image 44x44self.conv1 nn.Sequential(nn.Conv2d(in_channels…
【MNN学习五】在Android上部署MobileNetSSD之一
目录
一. 烧写Android系统
二. 安装Android-NDK
三. 连接Android设备和Linux主机
四. 部署MobileNetSSD到Android (5. Compile and execute demo) 一.
【MNN学习一】基于Linux的MNN编译安装，模型转换以及benchmark测试
目录
一. MNN编译安装 (MNN编译)
二. 编译模型转换工具MNNConvert (MNNConvert)
三. 下载模型并使用MNNConvert (模型下载&转换)
MNN框架C++和Python API Demo
简介
MNN是阿里巴巴的一个深度学习框架，在端侧推理和训练性能优秀。本文通过一个简单的分类模型，来给出一个简单的C和Python Demo，让大家快速上手。 MNN 文档地址：https://www.yuque.com/mnn/cn MNN Github地址：https…
onnx和mnn调用pytorch模型
1. 训练代码
pytorch自身部署较麻烦，一般使用onnx和mnn较为实用
训练模型的代码：
import torch
import torch.nn as nn
import torchvision
import torchvision.transforms as transforms
import torch.optim as optim
from torch.optim import lr_…
MNN框架学习（一）：编译及使用
1.编译MNNConvert工具： 需要预先安装protobuf > 3.1.0， protobuf > 3.0 gcc版本高于4.9
cd MNN/
# 生成使用flatbuffer格式定义的数据结构
./schema/generate.sh
# 创建工程的编译路径
mkdir build
# 进入工程的编译路径
cd build
# 打开编译转换…
MNN入门教程-编译与安装
本文主要介绍Ubuntu系统中，MNN的编译与安装流程。 1. 依赖环境
cmake（建议使用3.10或以上版本）protobuf（使用3.0或以上版本）gcc（使用4.9或以上版本）
执行代码：
apt-get install c…
怎样从Buffer加载AI模型
我们在进行CNN模型推理的时候，需要预先从DDR或者ROM中加载AI模型。大家平时一般用的是create from file的形式，为了保护自己的模型IP，一般会在模型上面做一些混淆。下面我们介绍另外一种方式，create from buffer。在编译算法sdk的…
【MNN学习四】基于MNN的MobileNetSSD测试
目录
1. MobileNetSSD网络模型下载
2. Caffe转MNN
3. 将MobileNetSSD_deploy.caffemodel.mnn进行量化
4. 在RK3399 CPU上测试MobileNetSSD (Benchmark 测试方法)
mnn-llm: 大语言模型端侧CPU推理优化
在大语言模型(LLM)端侧部署上，基于 MNN 实现的 mnn-llm 项目已经展现出业界领先的性能，特别是在 ARM 架构的 CPU 上。目前利用 mnn-llm 的推理能力，qwen-1.8b在mnn-llm的驱动下能够在移动端达到端侧实时会话的能力，能够在较低内存…
NCNN 模型推理详解及实战
一，依赖库知识速学
aarch64
aarch64，也被称为 ARM64，是一种基于 ARMv8-A 架构的 64 位指令集体系结构。它是 ARM 体系结构的最新版本，旨在提供更好的性能和能效比。与先前的 32 位 ARM 架构相比，aarch64 具有更大的寻址空间、更多的寄存器和更好的浮点性能。
在 Linux …
conan入门(二十九):对阿里mnn进行Conan封装塈conans.CMake和conan.tools.cmake.CMake的区别
去年写过一篇博客《conan入门(十九):封装第三方开源库cpp_redis示例》，当时通过自己写conanfile.py,实现了对第三方库cpp_redis的conan封装。当时使用的conan 1.45.0 时过一年多，conan版本也经过了很多次升级，最新的版本是2.x，不过…
60、使用MNN+DBNET进行二维码检测
基本思想：顺手转了个模型，可以方便进行条形码和对应的数字检测，以方便下一步进行条形码识别和ocr进行数字检测(这里只检测暂不识别，识别暂定下一篇) cmakelists.txt
cmake_minimum_required(VERSION 3.16)
project(untitled22)
s…
MNN createRuntime（二）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
MNN Session::resize 之流水线编码（五）
系列文章目录 MNN createFromBuffer（一） MNN createRuntime（二） MNN createSession 之 Schedule（三） MNN createSession 之创建流水线后端（四） MNN Session::resize 之流水线编码&am…
【深度学习】MNN ImageProcess处理图像顺序，逻辑，均值，方差
文章目录 介绍Opencv numpy等效的MNN处理 介绍
MNN ImageProcess处理图像是先reisze还是后resize，均值方差怎么处理，是什么通道顺序？这篇文章告诉你答案。
Opencv numpy
这段代码是一个图像预处理函数，用于对输入的图像进行一系…
实时检测并识别视频中的汽车车牌
对于基于摄像头监控的安全系统来说，识别汽车牌照是一项非常重要的任务。我们可以使用一些计算机视觉技术从图像中提取车牌，然后我们可以使用光学字符识别来识别车牌号码。在这里，我将引导您完成此任务的整个过程。 要求：
import cv2import numpy as npfrom skimage impor…
MNN学习笔记（八）：使用MNN推理Mediapipe模型
1.项目说明
最近需要用到一些mediapipe中的模型功能，于是尝试对mediapipe中的一些模型进行转换，并使用MNN进行推理；主要模型包括：图像分类、人脸检测及人脸关键点mesh、手掌检测及手势关键点、人体检测及人体关键点、图像嵌入特征…
深度学习——第6章 浅层神经网络（NN）
第6章 浅层神经网络（NN） 目录 6.1 神经网络模型概述
6.2 神经网络正向传播
6.3 神经网络反向传播
6.4 W和b的初始化
6.5 总结
上一课主要介绍了一些神经网络必备的基础知识，包括Sigmoid激活函数、损失函数、梯度下降和计算图。这些知识对…
arm平台上的MNN编译与运行
1.编译准备
在GitHub - alibaba/MNN: MNN is a blazing fast, lightweight deep learning framework, battle-tested by business-critical use cases in Alibaba下载code->downloadZIP
unzip MNN-master.zipcd MNN-mastervim CMakeLists.txt
将其中的MNN_BUILD_DEMO、MN…
从端到端打通模型端侧部署流程（MNN）
从端到端打通模型端侧部署流程（MNN）MNN框架：MNN的官方介绍：MNN的架构：问题解决：MNN使用样例:MNN部署：一般流程：创建会话:运行会话:获取输出：流程汇总总结MNN框架…