惠普携手星环科技打造“AI+”生产力工具,赋能客户加速业务重构
在数字化转型的浪潮中,各行各业都在寻求通过技术创新来提升业务效率和竞争力。人工智能作为这一转型的核心驱动力,正逐渐渗透到各个领域的日常工作中。面对复杂的硬件配置和软件开发需求,许多企业在实现“AI+”战略时遇到了挑战。为了让具备“AI+”属性的生产力工具得以真正简单、高效、 安全地部署在不同行业的应用当中,惠普面向不同行业用户对于硬件和AI应用软件等实际需求,打造了一系列一站式“开箱即用”的全新Z系列AI一体机,以实现企业效能提升。
半年前,惠普联合星环科技推出了多款一体机,其中面向大模型领域的惠普Z系列大模型服务平台AI一体机,结合星环大模型开发和应用平台Sophon LLMOps的产品能力,可提供包括语料知识精细化处理入库、提示词开发、语料数据标注、大模型微调训练、大模型评估部署到大模型应用构建和应用部署上线的全链路工具能力。
软硬件结合对于大模型技术来讲,它的本质是进一步提升了生产力和生产效率。作为一个效率工具来讲,可以通过AI PC触达到个人,也可以通过工作站触达更垂直的客户。
星环科技联合创始人、副总裁朱珺辰举例表示,企业可以把整合的AI解决方案应用在合同审核上。在传统的流程中,企业内部做合同审核的时候需要经过很长的流程,从销售提交合同,到法务审核、财务审核、业务审核等,这其中还需要处理大量的规则,与此同时企业的业务也在不断地快速变化,其中流程涉及很多部门员工,高成本也是值得思考的考量之一。现在,企业可以通过大模型来实现审核智能化,极大程度地提升经营效果。
中国惠普有限公司个人信息产品部高级计算与解决方案产品部总经理徐鸣补充到,惠普会与星环科技一起来帮客户评估和判断,了解客户需要购买的大模型,所需资金和时间,以及提供预计效果的评估。与此同时,还提供针对其它考量的建议,比如后期的维护成本,模型的进一步训练,以及如何规划产品迭代等。
“通用大模型的语言的投喂是抓取网上所有的海量信息。所以需要巨大的显卡规模,还需要有大量存储。但这些信息对于某一个细分领域的用户收效甚微。可能它不需要什么百亿参数、千亿参数,而是需要训练自己的模型,甚至可以把它定义成一个‘小型的大模型’。星环在这方面恰恰是非常有优势的合作伙伴。我们在不同的场景里面的每一个方案里都会有一个类似星环这样的合作伙伴,大家都是非常专注在一个垂类的。”徐鸣说道。
星环科技联合创始人、副总裁朱珺辰认为,从大模型本身来讲,它的能力具有局限性。“在2022年刚出来的时候,大家觉得大模型什么都能解决,但我们现在对于它的能力和局限性基本都有很清晰的认知。大模型在内容生成上是擅长的,因为它本质上生成下一个的概率模型,但是对于企业来讲,大模型的需求则是有一定准确性的内容。对于企业来讲,除了大模型,企业内部的数据知识库的构建也是必要的。企业不可能把所有的数据全部训练到模型里面去,因此企业内部还需要有像现在的RAG技术(检索增强生成技术),来外置的一个单独的存储系统。除了大模型以外,这里也涉及到对企业私密的数据去做对应的知识库的构建。这需求的是工程构建能力,而星环现在做的很多技术能够把这部分的信息有效的自动化处理和构建,再结合大模型的技术,让大模型的回答都有据可依。”
另一方面,朱珺辰指出,对于云来讲,云的优势在业务弹性大的时候是凸显的。但是,当一个企业考虑部署大模型应用的时候,其实未必那么大的弹性需求。“从持续投入的角度讲,云的综合成本确实很高。即使不是AI,按照以前的大数据估计,它相当于一个相同硬件配置的一个服务器的订阅,这个成本也是较高的。除了一开始硬件的投入,硬件也会有折旧,还需要维护庞大的架构,还需要维护人员的成本,还有基础设施的投入带宽、电力。”
谈到对未来看法的时候,徐鸣表示:“未来不可估量,我们自己内部也使用了惠普Z系列大模型服务平台AI一体机,的的确确地提升了工作效率,我相信其他的用户感觉也是一样的,只要体验过,就会离不开。而当然,AI的本质还是工具,是我们的代理人,也许对于大型企业来说,是一种工具的革命,对于中小企业来说,则是一种革命的工具,我觉得这都是未来AI给我们的一种可能性。”