计算图可视设计

Linux Ascend GPU CPU 模型开发 模型调优 框架开发 中级 高级 贡献者

查看源文件

特性背景

计算图可视的功能,主要协助开发者在下面这些场景中使用。

  • 开发者在编写深度学习神经网络的代码时,可以使用计算图的功能查看神经网络中算子的数据流走向,以及模型结构。

  • 计算图还可以方便开发者查看指定节点的输入和输出节点,以及所查找的节点的属性信息。

  • 开发者在调试网络时,可以通过可视化的计算图,轻易跟踪数据,包括数据维度、类型的变更等。

总体设计

概念设计

概念

说明

根节点、父节点、子节点

我们根据算子名称中的斜线,对节点划分层级。比如节点A ‘Network’ 和节点B ‘Network/Conv2D’,我们称节点A为根节点,称节点B为节点A的子节点,同时节点A也是节点B的父节点。

作用域

每个节点都存在一个作用域,子节点的作用域即为父节点的节点名称,比如算子节点A ‘Network/Conv2D’,它的作用域为 ‘Network’,即父节点 ‘Network’ 的名称。而根节点的作用域为空字符串。

算子节点

节点类型。从保存了计算图的文件中解析出来的原始节点,其对应神经网络代码中一个操作算子,比如Add操作算子。

常量节点

节点类型。表明算子的常量输入。从保存了计算图的文件中解析出来的常量,并根据其他节点的输入,决定它的作用域,比如常量A,原始名称为 ‘Const1’,由于算子节点B ‘Network/Conv2D’ 有一个输入是常量A,则复制一个常量A,并将其名称命名为 ‘Network/Const1’,使其作用域与算子节点B一样。

参数节点

节点类型。表明算子的参数输入。

命名空间

节点类型,也是作用域类型。以算子节点名字中的斜线(/)进行分割而得到的一种节点类型。比如存在一个名字为 ‘Network/Conv2D’ 的节点 A,根据斜线分割,可以产生一个命名空间节点B,名称为 ‘Network’,在图中展示时,A是B的一个子节点,A的作用域即为B的名称。展开B节点后,才可以看到A节点。

聚合节点

节点类型,也是作用域类型。在同一个作用域下,当同一种类型的节点过多时,我们会新建一个聚合节点,用来代替这些类型的节点,而这些类型的节点则作为该聚合节点的子节点折叠起来。

代理节点

节点类型。为了优化图中的连线,当节点A与节点B之间的连线过于曲折,我们会在A的旁边新建一个能够代理表示B的节点C,并连线A和C,表明A的数据流向B,而避免了直接连线A和B,导致布局过乱。

数据边

连线类型。表明数据的流向,用带箭头的实线表示。比如A->B,表明A有数据流向B。

控制边

连线类型。表明算子节点之间执行的依赖关系,用带箭头的虚线表示。比如A–>B,表明A先执行,再执行B。

独立布局

在一些连线比较复杂的场景下,我们将某个节点从原来的连线中提出来,避免其他节点与它相连,相对的在其他节点新建代理节点,使节点与代理节点相连,达到简化连线的关系。比如将参数类型的节点进行聚合,简化了参数节点与其他节点的连线关系。

后端设计

后端的类图如下,主要分为Graph基类和Node两个类,其中MsGraph是继承了Graph基类,用于解析MindSpore ANF的计算图文件。Node类聚合成一张图,与Graph为聚合关系。

类图设计

前端设计

数据将通过Web UI进行绘图并展示,前端采用d3-graph-viz 3.x插件进行绘图辅助。

输入图片说明
图1:辅助功能

如图1所示,提供选择文件、查询节点、查看节点信息、节点输入输出等辅助功能。

计算图主体展示
图2:计算图主体展示

计算图中,根据斜线(/)对节点的名称划分层次,并逐层展示,参考图2计算图主体展示。双击一个作用域节点后,将会展示它的子节点。

接口设计

计算图中,主要有文件接口和RESTful API接口,其中文件接口为summary.proto文件,是MindInsight和MindSpore进行数据对接的接口。 RESTful API接口是MindInsight前后端进行数据交互的接口。

文件接口设计

MindSpore与MindInsight之间的数据交互,采用protobuf定义数据格式。 summary.proto文件为总入口,计算图的消息对象定义为 GraphProtoGraphProto的详细定义可以参考anf_ir.proto文件