中软国际模型工厂,打通大模型应用落地“最后一公里”

2023-10-22

10月24日,由中国软件行业协会与中软国际有限公司联合主办的2023中国程序员节在北京展览馆盛大开幕。本届中国程序员节围绕“技术创新与开源合作”年度主题,立足技术前沿、行业视角、产业高度,汇聚各领域大咖聚焦根技术创新、开源合作、AI大模型、平台工具等热门话题,探寻影响中国数字经济发展的新技术、新趋势、新赛道、新业态,洞察行业发展机遇。

图片
中软国际华为业务集团CTO范锴锴出席本次活动,并在“中国程序员全体会议”上发表了主题为《中软国际模型工厂,打通大模型应用落地最后一公里》的演讲。范锴锴在演讲中回顾了近年AI人工智能的发展历程,分享了大模型应用的趋势,强调了大模型与传统软件开发之间的区别,并针对模型工厂的概念、架构、应用场景等方面进行了深入阐述。
图片
▲中软国际华为业务集团CTO范锴锴
范锴锴指出,当下,AI是否能写代码已经不再是关键问题,更重要的是如何利用大模型为用户提供更好的体验和服务。他认为,模型就是代码,模型里面就包含了行业知识,用户通过直接和软件对话,可以获得良好的应用服务,大大提升了用户的体验。范锴锴表示,由此可以看到一个趋势:未来的软件范式是大模型加上知识,然后再加上应用,这样才是一个复合式的企业应用。未来的软件将不再以代码为核心,而是以模型为核心。
大模型应用的前景非常广阔,但就当下而言,大模型落地应用却存在很多困难。例如,哪些场景适合用AI进行优化?业务数据能否支撑大模型精调?如何选择与业务匹配的大模型?如何获得高性价比的算力资源?如何让大模型应用开发更高效?
针对当前大模型应用的困难,中软国际在已有的软件工厂模式基础上,增加模型开发流水线--多形态大模型底座Model Lab,由此提出了“模型工厂”概念,其旨在打通大模型应用落地的最后一公里,简化模型训练和智能应用开发过程,提高开发效率。同时,模型工厂还提供咨询选型、数据建设、模型开发、模型评测和集成部署五大类服务,帮助客户解决大模型落地的五大困难,也可和软件工厂相关的能力结合到一起,给用户提供端到端的解决方案。
图片
▲模型工厂提供规模化的大模型开发服务
在模型工厂中,中软国际总结过往智能应用和模型开发的实践经验,将基于大模型的数字员工类应用开发方法归纳为“三线八步法”。三线指的是业务线、IT线以及AIGC线,在三线的协同作用下,通过“八步”全面推进项目的优化和实施,保证项目的成功和长期稳定运行。

范锴锴表示,模型工厂基于多形态大模型底座可提供大模型开发实施服务。10月20日,中软国际在贵安华为云上屯成功发布AIGC模型工厂、场景案例及“昇腾云+混合云一体机”方案,其中就包括了政务四问大模型和HR大模型。
图片▲中软国际华为业务集团CTO范锴锴
政务四问大模型是以盘古大模型为基础开发的政务应用,可广泛应用于政务服务的各类场景,可实现智能问数、智能问视、智能问服、智能问策等多种服务,可应用在城市治理、政务服务、政策应用、政府办公等多场景,目前已经在南京市城市治理、余姚市智慧交通等成功应用,并在其他城市推广。
HR大模型可实现智能招聘数字员工,赋能招聘全流程,提升工作效率和准确度。通过AI技术,实现了人才库、信息系统和招聘渠道的智能连接,能够进行AI简历匹配和推荐,实现AI辅助面试等。目前,该模型已在中软国际人才招聘中取得显著成效,招聘的简历筛选通过率提高两倍,人均招聘产能也提高了50%。HR大模型已成为企业内部建设数字员工的优秀范例,适用于各种服务类企业的智能招聘需求。
图片
▲通过模型工厂实现的业务价值

模型工厂的推出,精简了大模型的开发和应用流程,打通大模型到智能化应用的最后一公里,真正帮助用户在应用AI大模型开发或重构智能化应用时,省时、省力、省心。未来,通过模型工厂等创新模式和工具的不断完善和发展,AI大模型将在更多领域和场景中发挥更为重要的作用,为社会的数字化转型和智能升级提供强有力的支持。

为了更好的体验,请使用竖屏浏览