很多论文中为了解释模型的可行性,采用了可视化模型输出的某一层特征图,使用热力图显示,注意基于TransFormer和CNN的模型可视化方法有所不同,PaddleVIT能否集成这些可视化方案呢?
目前已有人实现了这些方法,可以参考这些github连接: https://github.com/hila-chefer/Transformer-Explainability https://github.com/jacobgil/pytorch-grad-cam
很多论文中为了解释模型的可行性,采用了可视化模型输出的某一层特征图,使用热力图显示,注意基于TransFormer和CNN的模型可视化方法有所不同,PaddleVIT能否集成这些可视化方案呢?
目前已有人实现了这些方法,可以参考这些github连接:
https://github.com/hila-chefer/Transformer-Explainability
https://github.com/jacobgil/pytorch-grad-cam