蒸馏技术(Knowledge Distillation, KD)是一种模型压缩和知识迁移的方法,旨在将一个复杂模型(通常称为“教师模型”)的知识转移到一个小型模型(通常称为“学生模型”)中。蒸馏技术的...
ICML 24 | 基于特征基匹配的图蒸馏
Graph Distillation with Eigenbasis Matching「作者」 Yang Liu, Deyu Bo, Chuan Shi「单位」 北京邮电大学「摘要」 随着图数据量的不...