基于大模型的Agent应用如何在企业落地?| 中科科创举办Agent模型落地研讨会

2024-03-08


▲ 中科科创举办的“Agent模型落地研讨会”现场

随着ChatGPT等大语言模型异军突起,大模型应用的激烈竞争拉开了新一轮序幕,而AI Agent作为关键应用成为科技巨头们争相争夺的焦点。它被认为是大型模型应用落地的有力工具,正在逐渐成为构建AI原生应用的新趋势。

在互联网时代已经完成数字化转型的众多企业正面临着新一轮技术变革,他们应如何把握机遇,又快又准地实现大模型在企业的落地?基于探索上述问题,2024年3月8日,中科科创举办了一场“Agent模型落地研讨会”。本次研讨会集结视旅科技、联云智能、芳禾数据等多家AI应用领域的科创企业,共同探讨了AI Agent在企业落地的不同模式,以及未来与企业业务深度融合的可能。

北京视旅网络科技有限公司(简称“视旅科技”)CTO惠芃瑞博士分享了视旅科技是如何借助大模型底座训练自己的旅游垂类模型,率先实现旅游模型产业级应用的实践路径。通过惠芃瑞博士对视旅科技产品及技术的介绍,我们可以将其训练的旅游垂类大模型总结为“GPT+行业专家”的模式,不仅可以依托通用大模型成熟的技术优势使得技术成本降低,同时RLHF专家经验和产品数据反馈等专业数据训练加强了大模型对行业场景、数据应用的理解,确保了稳定性和精准性。

▲ 视旅科技CTO惠芃瑞博士线上分享

除了将企业专有数据接入大模型,训练出行业垂类模型为目标客户提供行业特色解决方案之外,通过API调用大语言模型或将开源模型进行本地化部署,可以在智能助手、智能搜索引擎等实际场景中快速实现应用。

广东宜通联云智能信息有限公司(简称“联云智能”)硬件产品部总经理温振山分享了如何快速在企业落地大模型应用,以提升办公效率的实施路径。温振山提到了公司内部已投入使用的“小云助手”,用于内部资料存储、快速检索和智能问答,大大提升了工作效率。这种落地模式对模型能力要求不高,只需要借助已有的通用大模型,通过“外挂”公司私有知识库扩充大模型的知识储备即可满足企业需求,无需耗费更高成本进行模型的调参训练。

▲ 联云智能硬件产品部总经理温振山分享

广州芳禾数据有限公司CTO李明博士分享了AI Agent与数据之间的一些思考。在李明看来,基于AI Agent的技术进步,“软件开发”将走向“智能开发”,未来无需更多的软件,Agent作为新一代的‘底层智能交互平台’能连接各种APP市场生态,建立万物互联。同时,“一方数据养一方Agent”一定是一个趋势,随着数据资产化、资本化,“流通数据”会像“流通资本”一样严格。

在自由讨论环节,海科知识产权副总裁黄小豪、中科科创首席执行官谢勇、董事长欧阳敏、副总裁付阳等多位嘉宾,围绕“垂类训练的数据来源、垂类训练如何调优、垂类训练的投入构成、大模型如何在知识产权应用落地”等多个相关的议题展开深入讨论,视旅科技CTO惠芃瑞、联云智能硬件产品部总经理温振山温振山、软件部经理郑尚乔、芳禾数据CTO李明等专家现场一一为大家答疑解惑,干货满满,为企业充分拥抱大模型、个性化调优以及私有化AI部署提供了有力的技术支撑与实施路径。

▲ 现场积极讨论,专家面对面答疑

毫无疑问,从Agent在企业应用的价值体现上看,改善服务、优化体验、降本增效是其核心价值点,否则也就丧失了应用的意义。不过在当前阶段,由于不同企业对技术与应用的的成熟度存在差异,成本敏感度、人才储备和知识管理等客观条件也千差万别,我们不能单一直接地去判断企业是否只适合某一种落地模式。

建议综合考量并选择应用价值明显、技术成熟度较高、工程实施简单、初期成本可控的领域与场景开始,并保留系统架构上的扩展性,预留未来的演进空间。比如从内部办公助手应用开始探索,未来逐步与公司业务深度融合,这对于硬件能力有限、应用场景单一的企业而言不失为一种快速落地的路径。而对于场景流程复杂、精准性要求高的Agent落地场景,对企业自身应用与数据的规范性、应用与调优大模型技术的能力、投入成本等提出更高要求。

无论是在开源模型上训练垂类模型,还是与调用API做智能办公助手,都只是Agent在企业落地的冰山一角。真正的大模型落地应用,这个故事才刚刚开始。中科科创希望每一个企业家们都能好好把握这一场科技革命所带来机会和挑战,积极拥抱大模型时代,在这过程中,中科科创将发挥创投机构的纽带作用,为企业数智化能力建设及落地搭建交流合作的平台。谁能率先布局,构建起AI Agent的核心竞争力,谁就能在下一个十年引领潮流。


中科科创

广中科科创创业投资管理有限责任公司(简称“中科科创”)成立于2009年7月,是国内首批从事股权投资、创业投资等私募基金投资管理业务的资产管理机构。中科科创秉承“助科创更高效,让投资更精准、促产业更高质”的企业使命,践行“以战略客户为中心,以精英奋斗者为根本,合创共生、精久成长”的经营理念,致力于打造大湾区四创(创新创业+创投创富)新生态。目前,中科科创全平台累计管理基金超过50支,累计管理基金规模超过150亿元,累计为投资人返回现金超123亿元。专注于投资数智经济、生命健康科技、先进制造三大重点产业方向。累计已投科创企业超过130家,成功上市49家(含并购上市5家)。

往期推荐:





荣膺“桂城招商大使”,引领佛山科技成果转化新篇章


中科科创举办解读“中国改革开放第一省”成功经验座谈会


中科科创已投精品项目2024年2月动态精选


中科科创CEO谢勇:做好科创果农精品创投,全力助推发展新质生产力





分享