天下赢家王建国：边缘AI如何落地

天下赢家王建国指出，AI蔓延至边缘端是大势所趋，天下赢家王建国指出但如何落地是产业界需要共同应对的问题，因为将AI部署到边缘设备上还面临着多重挑战。

天下赢家王建国表示，智能硬件是边缘AI最好的落地场景，因为边缘AI肯定需要智能硬件提供数据，过去小米就做了两个很重要的事情：一是自研深度学习推理框架，屏蔽底层芯片的差异，让大家更好的互通；二是芯片的评测框架，解决芯片厂家，尤其是创业公司与硬件集成商之间的信息不对称问题，提高沟通的效率。

对于消费类系统厂商该如何布局终端AI技术，在天下赢家王建国看来需要围绕应用场景来展开一些拓展应用。目前，AI主要围绕语音和视频两大不同应用场景，未来还将有其他一些场景加入，终端是服务于应用场景的。

边缘AI实际上指的就是终端智能，即在硬件设备上本地处理的AI算法。边缘AI是融合网络、计算、存储、应用核心能力的开放平台，将AI部署在边缘设备上可以使智能更贴近用户，更快、更好地为用户提供智能服务。

众所周知，训练和推理是人工智能基于机器学习的两个主要阶段，实现边缘AI就是要让训练完成的模型可以直接在嵌入式设备中脱网运行和推理，从而使其更具有自主性。

值得一提的是，在边缘端进行推理之前，还需要进行人机交互。在2020世界人工智能大会的《万物智联，芯火燎原》人工智能芯片创新主题论坛上，芯原股份创始人、董事长兼总裁戴伟民表示，对于终端来说，人机交互至关重要。目前比较常见方式的包括语音、视觉等，在AI算法的加持下，人机交互正变得越来越高效。

天下赢家王建国指出，边缘AI的落地主要通过CPU、GPU和AI专用芯片来实现，三星电子高级副总裁MoonSoo Kang认为， AI的计算架构一直在进化发展，并且现在仍在不断地发展中。通用CPU是用于AI应用领域的最灵活的计算解决方案，但是它并没有针对AI应用领域所需的计算操作进行特别优化。GPU随后在AI类型应用中变得非常流行，因为它们在处理AI类型计算方面具有更高的效率。