金融界2024年1月11日消息,据国家知识产权局公告,华为技术有限公司取得一项名为“一种神经网络训练方法、检测方法以及装置“,授权公告号CN113807399B,申请日期为2021年8月。
专利摘要显示,本申请公开了人工智能领域的一种神经网络训练方法以及装置,用于结合知识蒸馏得到多种神经网络,并通过多种神经网络的输出之间的偏差来选择至少一个未标注样本进行标注,并使用标注后的样本进行再次训练,提升模型的训练效率。该方法包括:将数据集中的样本分别作为教师模型、第一学生模型和第二学生模型的输入,得到第一输出结果、第二输出结果以及第三输出结果,通过第一偏差和第二偏差从数据集中筛选出至少一个未标注样本以进行标注,并将至少一个已标注样本更新至所述训练集中,使用更新后的训练集对教师模型进行训练,得到训练后的教师模型,并使用训练后的教师模型对第二学生模型进行知识蒸馏,得到训练后的第二学生模型。