-
公开(公告)号：CN119440632A
公开(公告)日：2025-02-14
申请号：CN202411471669.9
申请日：2024-10-21
Applicant: 上海交通大学 , 北京微电子技术研究所
Abstract: 本发明公开了一种应用于边缘设备的大语言模型流水线推理架构，涉及大语言模型领域，本发明提出了一种内存高效的流水线执行机制，即PIPELOAD，针对其实际应用提出了Hermes架构由层分析器、流水线规划器和执行引擎三部分组成；层分析器是对给定的Transformer模型中的每一层进行分析，以评估其运行性能和内存使用情况；利用层分析器生成的数据，所述流水线规划器通过改变加载代理数量以生成在不同内存限制下的执行计划；在确定执行计划后，模型推理将根据边缘设备的当前的实际内存约束，在所述执行引擎中，遵从由流水线规划器生成的对应执行计划，按照该计划中的加载代理数量进行执行。本发明有效解决了流水线阻塞的问题和在边缘设备上部署大模型时内存受限的问题。
-
Patent Agency Ranking
公开(公告)号：CN119416866A
公开(公告)日：2025-02-11
申请号：CN202411471734.8
申请日：2024-10-21
Applicant: 上海交通大学 , 北京微电子技术研究所
IPC: G06N3/098 , G06N3/082 , G06N3/0985 , G06F9/50 , H04L67/10 , H04L67/1097 , G06N5/01
Abstract: 本发明公开了一种基于无服务器架构的高效分布式机器学习训练系统，建模模块，用于获取输入的工作负载，以进行建模；资源配置模块，被配置有优化数学模型，用于在建模模块完成建模的基础之上，基于优化数学模型获取最优参数配置；优化数学模型建模无服务器分布式训练的双层参数以及系统级参数与训练延迟、成本和收敛效率之间的关系；K‑REDUCE训练框架，用于触发无服务器函数，无服务器函数依据K‑REDUCE框架进行分布式训练。本发明通过构建数学模型描述参数与性能之间的关系，采用基于剪枝的启发式搜索算法寻找最优参数配置，有效提高训练性能并降低经济成本，动态地调整系统资源，实现最优训练性能。
-
公开(公告)号：CN116228707A
公开(公告)日：2023-06-06
申请号：CN202310180100.6
申请日：2023-03-01
Applicant: 北京时代民芯科技有限公司 , 北京微电子技术研究所
IPC: G06T7/00 , G06V10/764 , G06V10/774 , G06V10/762 , G06T7/187 , G06T7/194 , G06T5/30 , G06T5/00 , G06N3/08 , G06N3/0464
Abstract: 基于核范数最小化和机器学习的芯片缺陷检测方法及系统，方法包括步骤：对采集的芯片缺陷数据，使用基于核范数最小化的背景分离方法将图像前景和背景分离；通过霍夫曼变换识别出前景图像的焊盘位置，将其对应像素置0消除焊盘图像；使用腐蚀、膨胀等图像处理技术处理消除噪点，实现缺陷区域连接；搜寻图像中所有缺陷区域，得到缺陷区域的最小边界框；采用K‑Means聚类的算法对不同种类缺陷图像进行缺陷标注，形成缺陷数据集；利用训练集和测试集，最终形成端到端的深度神经网络芯片缺陷分类集群算法模型。本发明方法能实现实时准确地集成电路芯片表面缺陷识别、分类和定位。
-
公开(公告)号：CN114692499A
公开(公告)日：2022-07-01
申请号：CN202210331280.9
申请日：2022-03-30
Applicant: 北京时代民芯科技有限公司 , 北京微电子技术研究所
IPC: G06F30/27 , G06F119/04
Abstract: 一种基于机器学习的集成电路芯片寿命的评估方法与系统，方法包括步骤：根据寿命试验记录集成电路芯片的真实数据集并建立寿命分布函数；利用寿命分布函数求得相应的仿真寿命值，得到仿真数据集；合并真实数据集和仿真数据集，组成训练优化机器学习回归模型的原数据集；对于所述原数据集中的参数型数据，通过特征提取得到参数型特征向量；将二维结构连接图转换为特征向量，形成芯片的结构特征向量；合并参数型特征向量和结构特征向量，组成全特征向量集输入机器学习回归模型中进行模型融合，得到融合回归模型；利用训练集和测试集，最终形成端到端的芯片寿命预测模型。本发明方法能实现实时准确地集成电路芯片寿命预测与评估。
-
公开(公告)号：CN118795029A
公开(公告)日：2024-10-18
申请号：CN202411074908.7
申请日：2024-08-07
Applicant: 北京时代民芯科技有限公司 , 北京微电子技术研究所
Abstract: 本发明属于半导体失效分析技术领域，具体涉及了一种基于超声波谱机器视觉的倒装焊点检测与寿命评估系统，旨在解决倒装焊点检测与寿命评估误差较大、效率较低的问题。本发明包括：数据采集模块和算法应用模块，数据采集模块用于采集多个焊点的焊点质量数据和寿命相关数据；算法应用模块用于提取每种焊点质量数据的特征数据；提取所述超声波谱的特征数据；采用包括焊点质量数据的特征数据、超声波谱的特征数据和寿命评估指标的训练集，训练得到回归模型；将待测焊点的焊点质量数据输入所述回归模型，进行倒装焊点检测与寿命评估。本发明能够对集成电路芯片焊点多种缺陷进行更精确的检测，进行更高效率、更精确的集成电路芯片焊点寿命估计。
-
公开(公告)号：CN118628356A
公开(公告)日：2024-09-10
申请号：CN202410696711.0
申请日：2024-05-31
Applicant: 北京时代民芯科技有限公司 , 北京微电子技术研究所 , 合肥工业大学
IPC: G06T3/4076 , G06T3/4046 , G06N3/0464 , G06V10/80 , G06V10/82 , G06V10/764
Abstract: 本发明属于图像重建及检测领域，尤其涉及一种基于多尺度融合通道注意力超分辨率重建技术的目标检测系统，旨在解决现有技术的检测存在效率不高、精度不够的问题。本发明包括：目标图像获取单元，用于采集待检测目标的图像并进行预处理，将预处理后的图像作为低分辨率目标图像，并发送至超分辨率重建单元；超分辨率重建单元，用于对低分辨率图像进行超分辨率重建，得到高分辨率目标图像，并发送至目标检测单元；目标检测单元，用于通过训练好的超分目标检测模型对所述高分辨率目标图像进行目标检测，得到目标检测结果；超分目标检测模型为基于卷积神经网络构建的目标检测模型。本发明对小目标和低分辨率目标进行检测，检测精度高，效率高。
-
-
-
-
-
Search Results
6
records
(took 0.024 seconds)
