用于从人工神经网络分配中间数据的设备和方法
发布时间：2025-04-19 09:13:50 人气：13
用于从人工神经网络分配中间数据的设备和方法
专利类型：
发明授权
申请(专利)号：
CN202110476883.3
申请日：
2021-04-29
授权公告号：
CN113592082B
授权公告日：
2025-04-18
申请人：
意法半导体股份有限公司; 意法半导体(鲁塞)公司
地址：
意大利阿格拉布里安扎
发明人：
专辑：
信息科技
专题：
计算机硬件技术
主分类号：
G06N3/063
分类号：
G06N3/063
国省代码：
IT0VAABZ
页数：
20
代理机构：
北京市金杜律师事务所
代理人：
张昊
优先权：
2020-04-30 FR 2004337;2021-04-13 US 17/229,161
主权项：
1.一种用于针对全局存储器区域中的存储器分配确定由人工神经网络的层生成的中间数据块的放置的方法,所述方法包括：限定所述全局存储器区域中的每一层的所述中间数据块的多个可能放置；为每个中间数据块的每个可能放置指定优先级顺序；开发从所述神经网络的第一层到最后一层的每一层的所述中间数据块的放置的初始序列,从将被放置的所述中间数据块的所述多个可能放置中选择所述初始序列的每个放置,所述初始序列允许限定所述全局存储器区域的计划大小,所述初始序列被设置为候选序列；根据所述中间数据块的所述优先级顺序和与每个中间数据块相关联的相应层的所述人工神经网络中的深度在堆栈中存储每一层的所述中间数据块的未选择放置；从所述初始序列的给定放置开发与所述初始序列相比进行修改的至少一个放置序列,所述开发包括通过存储的未选择放置来修改所述给定放置；依照通过修改序列获得的所述全局存储器区域的计划大小小于所述候选序列的所述全局存储器区域的计划大小,将所述修改序列设置为所述候选序列；以及使用一旦开发了每个修改序列就被设置为所述候选序列的放置序列作为用于所述存储器分配的所述中间数据块的放置。
摘要：
本公开提供了用于从人工神经网络分配中间数据的设备和方法。根据一个方面,一种用于为存储器分配确定由神经网络生成的数据块在存储器区域中的放置的方法,包括：开发块的放置的初始序列,从多个可能放置中选择每个放置,初始序列被限定为候选序列；通过存储的未选择放置,根据初始序列的给定放置的取代开发放置的至少一个修改序列；以及如果通过该修改序列获得的存储器区域的计划大小小于候选序列的存储器区域的大小,则该修改序列成为候选序列；一旦开发了每个修改序列,针对分配的块的放置是被限定为候选序列的放置序列的放置。
查看法律状态
相似专利
[1] 用于确定针对神经网络的全局存储器大小的方法和设备. L·福里奥特;P·德马雅.中国专利:CN111723923A,2020-09-29
[2] 用于从人工神经网络分配中间数据的设备和方法. L·福里奥特;E·普莱巴尼;M·法尔凯托.中国专利:CN113592082A,2021-11-02
[3] 用于确定针对神经网络的全局存储器大小的方法和设备. L·福里奥特;P·德马雅.中国专利:CN111723923B,2024-07-23
本领域科技成果与标准
科技成果
相关标准
未找到相关数据
研究与应用
本专利研制背景
本专利应用动态
所涉核心技术研究动态
期刊共4条
[2] GPU上不同存储器上CUDA程序功耗分析. 华锋亮.信息与电脑(理论版),2016(03)
[3] HPI在多处理系统中的应用. 翟群英,李永全.现代电子技术,2005(05)
[4] gAC:基于GPU的高性能AC算法. 陈虎;彭江锋;施少怀.计算机工程与应用,2012(12)
硕博共1条
[1] 影响CUDA程序功耗的主要因素研究. 华锋亮.西北师范大学,2016
