虚谷高瓴 发表于 2020-4-17 12:25:13

求助,如何利用OpenCL实现神经网络加速推理

  之前尝试过网络结构、模型量化/剪枝来加速神经网络运算,现在才接触到FPGA并行计算的特性并利用OpenCL来实现加速运算。刚上手,卡在了模型参数提取并送入FPGA当中运算这一步,在线求解。

  我的新手操作如下:

  http://i2.tiimg.com/702072/099c8ed67241a461.png

  训练神经网络

  http://i2.tiimg.com/702072/30d308a5142dc201.png

  然后得到的模型

  后面参数提取和输入FPGA好像有点错乱了。。。。。。

xayy0502 发表于 2020-4-19 13:25:01

FPGA在并行计算和可编程方面确实有很大的发展空间,但是其实我也没有涉猎,LZ加油

xayy0502 发表于 2020-4-19 13:26:24

FPGA在并行计算和可编程方面确实有很大的发展空间,但是其实我也没有涉猎,LZ加油

xayy0502 发表于 2020-4-19 13:27:07

FPGA在并行计算和可编程方面确实有很大的发展空间,但是其实我也没有涉猎,LZ加油

wx_pvKfTQFk 发表于 2020-4-19 14:57:48

到参数提取这一步后,要将多维数组处理为一维数组,才能送入到 OpenCL 当中进行执行。

老克 发表于 2020-4-19 15:14:50

神经网络算法的 OpenCL 实现,可以看下
https://img-bbs.csdn.net/upload/202004/19/1587278415_107146.png
然后要对算法进行编译,生成必要的aocx二进制文件,才可以放到 FPGA 上进行执行。
楼主多操作几次就熟练了。

回眸一笑003 发表于 2020-4-19 18:12:14

我目前也正在学习FPGA的开发设计,给楼主推荐一个免费资源,FPGA线上培训 可以看看有没有能用的

http://chuantu.xyz/t6/729/1587289287x3703728804.png
页: [1]
查看完整版本: 求助,如何利用OpenCL实现神经网络加速推理