雙通道知識蒸餾的節(jié)點(diǎn)分類方法
小型微型計(jì)算機(jī)系統(tǒng)
頁數(shù): 7 2022-08-01
摘要: 近年來,基于教師-學(xué)生的知識蒸餾框架在圖神經(jīng)網(wǎng)絡(luò)方面取得了較好的表現(xiàn).然而這類知識蒸餾框架仍存在一些問題,如教師模型的知識信息不夠全面,不能很好地指導(dǎo)學(xué)生模型;學(xué)生模型自身學(xué)習(xí)能力較差.為了解決這兩方面的問題,本文提出了基于雙通道知識蒸餾的節(jié)點(diǎn)分類方法.具體而言,該方法引入雙教師模型,分別從拓?fù)浣Y(jié)構(gòu)和特征屬性兩個(gè)方面進(jìn)行學(xué)習(xí),保證了教師模型知識信息的多樣性和全面性.學(xué)生模型采用...