节点|深度图神经网络的发展趋势( 三 ) 初创公司|contentcal|彭博|twitte

接下来介绍智慧零售方面的例子，我们往往在购买一些商品时会纠结，我们可以将这些原本购买的东西作为节点，也可以用图神经网络对它进行建模，最终告诉我们这个衣服是不是合适，或者它从美学标准来看打多少分，来进一步提升用户的购买欲望以及提升用户购买合适的准确率。我们有商品推荐，当前的用户所需要购买的商品可以用图神经网络去建模之后，选择跟他相似的用户所购买的商品推荐给他。另一种，选择了一些商品之后，这些商品跟它相似的那些商品，我们往往会倾向于推荐给这些用，进一步的，在智能客服场景，用户跟智能机器人不断交互时，我们之前所说的一些信息以及我们当前所说的一些信息，会由智能机器人通过图神经网络进行分析，最后汇总，来得到比较好的回答，然后进一步提升用户的转化率或者用户的回答率。
我们也想介绍一下智慧物流的一些例子，我们给出来的是图像分类的例子。图像是结构化的数据，但是图像如果我们将它分块之后，非结构化的数据可以用图神经网络，无人物流车需要涉及到一些环境识别的东西，我们去交互周围场景的信息，可以用图神经网络获得一些更好的结论。无人物流车上会有很多激光雷达，采集到的信息天然是以3D点云的存在，可以用图神经网络去进行描述。
前面介绍的图神经网络一些在产业当中的助力，但实际上图神经网络要想真正应用到产业当经当中，有非常大的挑战。第一个挑战，我们之前做学术的时候用到的图级别的规模可能就是一两千个节点，但是在工业场景当中，图级别规模是非常大的，比如Meta，也就是Facebook，他活跃用户是29亿人，如果想对29亿人所做的图进行建模，所需要的对模型的需求以及算力的需求是非常庞大的。涉及到两个基本的问题，第一，虽然训练模型时可以用采样，100个节点，可以采样10个节点来进行训练，这样算起来复杂度是下去了，但是图结构数据有一个非常大的特性，数据与数据之间是具有关联的，如果我们从100个节点中抽10个节点，一定程度上90个节点的关联信息在这时候是丢弃的，它训练的最终我们获得到的人工智能的性能比我们想象得好。但是进一步，如果将整个工业图进行输入，遇到的问题是目前的算力支持可能还需要有进一步的提升。
【节点|深度图神经网络的发展趋势】另外一个是图神经网络，需要向深度图神经网络的进化和演练。如果只有一层图神经网络，当前的节点或者当前的用户只能跟他的邻居进行交互，而这种交互往往是不够的，我们希望他能以自己的邻居为跳板，来接收到更多的信息，或者有很多的节点，他们会汇聚成一种比较高阶的信息，通过图神经网络传递到当前的节点上来，图神经网络必然会需要往深处发展。现在越深的神经网络，表征性越强，就越能对我们的场景进行性能的提升。可能会依赖于邻居的信息，当我们在应用场景时，这个邻居不存在，性能会大幅度存在。过平滑，小时候或多或少做过一些实验，将一滴墨水滴到水杯里，虽然时间推移，无非区分墨水和纯水的区别。网络越加深，信息交互越平凡，信息趋向于一致，信息越同步，越无法用这种深度神经网络对我们的节点或任务做出准确预测。还有过挤压的问题，一个人的邻居是有限的，比如我只有三个邻居，但是我们想要深度神经网络本身接触到更深层的结构，我们的邻居还有自己的邻居，邻居还有自己的邻居，当这种叠加式增长之后，再回到当前节点，这种信息是爆发式的，我们很难去获取一个非常准确的信息。因此，这些问题就导致图神经网络无法向深度进化。