二值化身份感知图卷积神经网络
DOI:
CSTR:
作者:
作者单位:

(1.安徽理工大学 计算机科学与工程学院,安徽 淮南 232001; 2.合肥综合性国家科学中心 人工智能研究院,安徽 合肥 230088)

作者简介:

苏树智(1987-),男,博士,副教授,硕士 生导师,主要从事模式识别、图像处理、图神经网络、深度学习方面的研究.

通讯作者:

中图分类号:

基金项目:

国家自然科学基金(61806006)、中国博士后科学基金(2019M660149)、安徽省重 点研发计划国际科技合作专项 (202004b11020029)、安徽高校协同创新项目 (GXXT-2021-006) 和合肥综合性国家科学中心能源研究院项目 (19KZS203) 资助 项目


Binary identify-aware graph convolutional network
Author:
Affiliation:

(1.School of Computer Science and Engineering,Anhui University of Science & Technol ogy,Huainan,Anhui 232001, China;2.Institute of Artificial Intelligence,Hefei Comprehensive National Science Center,Hefei,Anhui 230088, China )

Fund Project:

  • 摘要
  • |
  • 图/表
  • |
  • 访问统计
  • |
  • 参考文献
  • |
  • 相似文献
  • |
  • 引证文献
  • |
  • 资源附件
  • |
  • 文章评论
    摘要:

    针对有限的内存资源导致图神经网络 (graph neural network,GNN) 无法完全加 载属性图的问题,文中提出了二值化身份感知 图卷积神经网络(binary identify-aware graph convolutional network,BID-GCN)。 该网络通过在消息传 递过程中递归地考虑节点的信息,为了获得一个给定的节点的嵌入,BID-GCN将提取以该 节点为中心的 自我网络,并进行多轮的异构消息传递,在自我网络的中心节点上应用与其他节点不同的参 数。在消息 传递过程中,对网络参数和输入节点特征进行二值化,并将原始的矩阵乘法修改为二值化以 加速运算。 通过理论分析和实验评估,BID-GCN可以减少网络参数和输入数据的平均约36 倍的内存消 耗,并加快引 文网络上平均约49倍的推理速度,可以提供与全精度基线相当的性能 ,较好地解决内存资源有限的问题。

    Abstract:

    To solve the problem that graph neural network (GNN) cannot fully load the entire attributed graph due to limited memory resources,the binary identify-aware graph convolutional network (BID-GCN) is propo sed.In this network,the nodes information is considered recursively during message passing, and then in order to obtain an embedding of a given node,the BID-GCN will extract the ego network centered at that node and perform multiple rounds o f heterogeneous message passing,applying different parameters to the central node of the ego net work to the rest of the nodes.In this process,the network parameters and input node features are bin ary by the network.In addition,the original matrix multiplication is modified to be binary to speed up the operation.Through theoretical analysis and experimental evaluation, BID-GCN can reduce the memory consumption by the average approximate 36 times of both the network parameters and input data,and a ccelerate the inference speed by the average approximate 49 times on the citation networks.It can provide comparable performance to full precision baselines,and can better tackl e the problem of limited memory resources.

    参考文献
    相似文献
    引证文献
引用本文

苏树智,卢彦丰.二值化身份感知图卷积神经网络[J].光电子激光,2022,33(12):1280~1286

复制
分享
文章指标
  • 点击次数:
  • 下载次数:
  • HTML阅读次数:
  • 引用次数:
历史
  • 收稿日期:2022-03-01
  • 最后修改日期:2022-04-04
  • 录用日期:
  • 在线发布日期: 2022-12-13
  • 出版日期:
文章二维码