机器学习模型部署一、单机部署方式二、分布式部署三、部署自动化编排四、参考文档
机器学习主要是用python来训练的模型,当前主要有以下情况:一、单机部署方式1、普通的模型a)模型本身提供的部署方式b)第三方方式:PMML方式,将模型输出为 PMML格式,由第三方加载PMML模型提供输出,其中java的库很成熟,但PMML在深度学习方面上支持不足2、深度模型a)深度的模型,当前流行的为tensorflow,tensorflow提供serving的部署方式,具体来说就是:一个通用的model服务器框架,一个远程通用的model调用的rpc框架,python2中有对