财经资讯

策略行家 实现标准服务的全面调度和动态部署_科技频道

发布日期:2020-09-17 04:20   来源:未知   阅读:

策略行家云数据中心合作伙伴大会正式拉开帷幕。会上,策略行家信息发布了业界首款智能计算中心计算能力调度软件产品,即新的策略行家人工智能推理服务平台,并利用该平台实现了推理服务资源的敏捷部署,支持统一调度。公司可以轻松地部署AI推理服务,并提高公司的AI交付和生产效率,从而可以实施AI生产环境。

在模型管理方面,策略行家推理平台实现了多源模型的统一调度。通过统一平台管理多源,多场景的模型推理服务,实时控制全局资源,实现模型服务的全面调度和动态部署。同一资源池可以同时支持多种模型服务,资源利用率从40%提高到80%。并且可以实现多种模型的加权评估。通过设置不同预训练模型计算结果的权重,可以有效提高实际业务场景中预测结果的可靠性,构建可靠可靠的智能系统,并有效降低误判率。

与合作伙伴一起建立元脑生态系统,共享人工智能计算,资源和算法的三个核心平台功能,帮助业务用户拥有自己的行业敏锐度,并促进人工智能在各个行业的智能实施。

当前,在进入生产部署阶段时,AI模型的开发面临各种困难和挑战:AI模型需要大量调试和测试,然后才能在线部署。此过程通常需要2-3天; AI在线服务计算资源通常相对固定。对突发需求资源的响应速度慢,并且业务扩展困难; AI模型的来源不同,统一管理也很困难。企业希望将AI模型的训练和开发与推理部署无缝地联系起来,进行有效的资源调度和模型管理,并缩短业务启动周期。

在策略行家的信息发展中,人工智能计算领域一直是策略行家发展的主要目标。通过与领先的人工智能技术公司保持长期和深入的合作,用户改善了Internet上语音,语义,图像,视频,搜索和应用程序的性能。

策略行家推理平台是企业级AI推理服务平台,策略行家推理平台支持本地部署和云云部署,以确保服务可用性和业务连续性,并实现了从开发环境到生产部署的AI模型复杂过程的自动化和快速运行,从而将模型部署时间从原来的2减少为3天。到几分钟

策略行家推理平台已被广泛使用以前由策略行家发起的策略行家培训平台已被广泛使用。该平台采用细化计算资源调度,加速训练数据缓存,分布式训练自动调度等策略,将用户AI计算资源的利用率提高到90%以上,大大降低了利用率。模型开发周期。通过在策略行家启动策略行家推理平台,策略行家资源平台完全支持培训和推理解决方案,从模型开发,培训,部署,测试,发布和服务实现一站式高效交付。智能计算中心是人工智能的新基础架构

Power by DedeCms