对于大部分人来说,AI可能只是一个热点关键词,其背后对应的是,2023年从通用大模型喧嚣到行业大模型集中落地,AI应用创新在下半年呈爆发式涌现。2024年,AI应用正在进一步细化,企业级客户的关注点更偏向于业务本身,这意味着,如何利用AI的应用创新走进垂直细分领域,真正能够提高生产力日益成为新的主题。
神州泰岳成立于2001年,是首批深交所创业板上市企业,致力于成为有持续创新能力的数字经济领军企业。作为业界领先的软件与信息服务提供商,神州泰岳于2018年成立云事业部,自成立之初,神州泰岳便与亚马逊科技合作,为中国企业出海提供云上服务。2023年,随着生成式AI的爆发式增长,神州泰岳进一步加强了在AI能力建设,并持续在游戏、电商、汽车和制造等行业为客户提供了多种的生成式AI解决方案。
神州泰岳云业务首席架构师、解决方案部总经理 张雪冰
据了解,多年的技术创新让神州泰岳积累了在AI领域的核心优势,从NLP自然语言处理、到机器学习,再到如今的大模型和多模型的拓展以及针对于业务客户的RPA和视计算机视觉,共获得了146项的专利和193项的著作权,打造了神州泰岳在AI领域的基础能力。
“我们希望通过在AI领域的基础底座的不断夯实,逐步深耕于行业的场景当中,从而促使大模型在行业产业化的落地。”神州泰岳云业务首席架构师、解决方案部总经理 张雪冰日前接受笔者的采访时表示,在与客户沟通的过程中发现客户对于生成式AI的关注主要体现在三个方面:基础云资源的可用性,特别是CPU/GPU资源;基于用户场景的针对性模型,能够通过简单输入就能便捷得到用户场景的结果,以及提供或是构建、训练、推理和部署任何规模的环境能力;客户根据自身AI的实施能力,需要SI合伙伙伴拥有AI能力去做技术支持和提供符合客户业务的AI解决方案。
而从应用场景的角度看,不同行业的客户,在生成式AI领域所需要主要的生成能力主要围绕着图像生成、企业知识库管理、文本生成和翻译来展开。
在图像生成方面,神州泰岳自研企业级AI文生图平台Stable Diffusion on Amazon Elastic Kubernetes Service (Amazon EKS)。该平台主要用于生成游戏场景、角色、道具等视觉元素设计,支持多用户资源隔离,管理员可进行多模型管理、模型授权和集中式管理,用户仅可使用被授权的模型和生图资源目录。
平台实现了基于提示词生成具体所需场景背景图,图片风格转换和细化草稿功能,在保障出图质量的前提下,提升了公司原画设计师和平面设计师的工作效率,与传统方式相比,设计师效率提升超过 30%。
“把它做成了一个类似于基于原生的一个SD WebUI来做了一个新的,做了一次二次开发的一个过程。”张雪冰表示,神州泰岳把它做了一个技术上的改造和提升,包括从前后端分离开始,到涉及多用户、多部门、项目运营和管理;同时该平台对于客户来讲,会提供一个便捷与运维的管理,让这一套系统统一部署在API,借助Amazon Elastic Kubernetes Service (Amazon EKS)的弹性,让客户能充分最优的使用GPU的实例,极大简化了GPU成本。
在企业级智能知识库方面,以Amazon OpenSearch为基础构建搜索引擎,将Amazon S3存储的原始知识文档进行向量化操作后注入到OpenSearch中,同时结合Amazon SageMaker托管的大语言模型以实现对用户检索需求的准确分析,助力企业从海量多样化文档资料中高效获取信息,同时避免了人力和硬件方面的大量投入。企业工作效率提升75%,有效降低了人力成本。此外,RAG知识库包含了海量的产品设计案例、设计趋势、设计素材、设计规范等,可以减少重复劳动,设计效率提高30%。
这主要是为了解决客户在繁杂的文本或者文档搜索类转成类似于对模型上的搜索,更多的还是在于能提供给企业提供一站式的智能知识库的智能问答,为客户提供精准或标准化的回答。
在智能外呼方面,泰岳智呼产品是基于“大数据+AI”的人机协同智能化SaaS平台,依托于亚马逊云科技强大可靠的算力,打造领先的语言理解与智能对话、拟人化语音合成、垂直领域语音识别、RPA流程自动化、高并发呼叫中心、AI全量质检等核心能力,赋能企业营销数智化升级。
以大模型和AIGC为代表的新一波人工智能浪潮中,泰岳智呼积极推进生成式AI技术的研发与应用,如话术自动生成、生成式质检、对话内容分析、智能对练等,帮助企业降低人力成本,坐席人均产能提升50%以上,外呼接通效率提升8-10倍。
除此之外,神州泰岳还基于Amazon Bedrock集成及多租户计费解决方案。通过CDK开发Amazon Bedrock集成API方案,集成Amazon API Gateway,Amazon Lambda与Amazon Bedrock等服务,利用 API限制和监控不同业务线对基础模型的访问;同时,通过Amazon Lambda聚合分析Amazon Bedrock的基础模型访问日志,根据API、模型、IAM用户等维度进行成本统计分析,实现精细成本管控。使用CDK一键部署,神州泰岳极大地简化了Amazon Bedrock使用集成,开发部署时间节省70%。
可以说,整个神州泰岳的生成式AI的底座能力离不开亚马逊云科技的支撑和赋能。从技术角度来看,亚马逊云科技与神州泰岳共同探讨构建生成式AI应用的关键路径,并提供行业专家、技术专家和架构师等专家资源支持和一系列培训,提升神州泰岳的技术能力。目前,神州泰岳已经获得生成式AI生命周期每个环节相关联的迁移、开发运维、数据与分析、生成式AI、MSP等多项亚马逊云科技能力认证。
在AI工程化落地的最后三公里,神州泰岳充分利用亚马逊云科技遍布全球的基础设施与丰富全面的生成式AI产品包括算力、模型和框架以及应用,为客户提供工程化服务及“最后三公里”实施。
与此同时,基于亚马逊云科技的初步解决方案同步,共同创建客户个性的具体实施方案,例如云桌面生成式AI方案(Soca+Stable Diffusion)、基于Amazon EKS的Stable Diffusion图像生成方案和基于大语言模型知识问答应用落地实践如知识库构建等。
依托亚马逊云科技的技术赋能,神州泰岳结合自身在行业领域的经验积累,打造了专业的服务团队,为企业提供专业的咨询和实施等全流程服务:在选型规划方面,神州泰岳为企业提供基础模型选择、性能评估以及应用迁移的专业咨询服务;针对基础模型,神州泰岳结合特定的行业经验和客户的需求进行模型微调和优化;神州泰岳还可基于Amazon SageMaker训练/Amazon Bedrock集成并快速迭代模型,提升模型性能;最后还引入亚马逊云科技的优良架构,利用其丰富的托管服务加速云原生应用的开发并提供运维支持。
全球某知名家电制造商迫切需要构建一个安全稳定的设计平台,生成产品设计图和营销图片,以提升工作效率。神州泰岳帮助该客户利用Amazon SageMaker训练Stable Diffusion文生图模型,结合亚马逊云科技SOCA横向扩展计算解决方案,打造了安全且高效的文生图工业设计平台。该平台将设计部门的工作效率提升了20%至50%,推动产品加速上市,服务终端消费者。
写在最后
合作6年以来,神州泰岳在亚马逊云科技的帮助下不断学习,逐渐积累和提升技术能力,用最新技术帮助用户去做应用场景的落地及挖掘。得益于深厚的积累,神州泰岳成为国内首批获得亚马逊云科技生成式AI能力认证的合作伙伴。
“我们准备与应答充分,获得ISSI审计5项评价优势点且不需要做任何补充项,这是非常不容易的。”在神州泰岳副总裁兼云事业部总经理刘家歆看来,作为中国首批获得该认证的企业,神州泰岳期待与亚马逊云科技继续深化合作,共同探索更多生成式AI的应用场景,共同开发更多符合行业需求的生成式AI创新解决方案,帮助企业充分释放生成式AI的业务价值。
神州泰岳副总裁兼云事业部总经理刘家歆
刘家歆透露,未来,亚马逊云科技与神州泰岳将在项目实施和解决方案开发等多个层面密切合作,为企业提供完善的打通业务应用最后三公里的工程化能力和定制化解决方案,助力企业高效应用生成式AI技术。
首先,基于神州泰岳已具备的大数据能力和已获得的亚马逊云科技迁移、开发运维、云运维软件、数据与分析、生成式AI等能力认证,为企业提供大数据(数据集)分析与处理、基础模型与模型的服务与实施,并加强培训和认证计划来提升交付能力。
其次,依托神州泰岳的优势行业,结合亚马逊云资源提供的资源与服务,联合打造生成式AI的解决方案,例如游戏制造电商行业文生图、企业的RAG知识库方案、客服外呼系统的智能问答等。