▲ 汉得高级副总裁何登攀

何登攀：谈及AI这件事，汉得很早就开始进行这方面的尝试，早在2022年，汉得研发团队就尝试在摸索AI相关的一些应用。从去年2月份开始，整个市场变得比较火热，大家对AI的关注度急速提升，同时对此也充满了危机感，害怕因为无法跟上时代的浪潮而被淘汰替代。

那时汉得也跟国内的很多生态伙伴沟通探讨，并主动与国内外的AI领域先行者做一些相应的对接，期间汉得也率先发布了自主研发的包括H-Copilot融合AIGC平台等企业数字化产品。

在这过程中，我们清晰地感知到企业才是AI应用中的主角，而我们扮演的更多是“助手” 的角色，能够为企业提供在算力、算法、数据等更多层面上相应的专业化能力，为其AI大模型的应用与落地提供更好的帮助。

今天我想请嘉宾一起聊聊，从企业端考量，应该在数据和工程化这两件事上如何做到落地，尤其谈到数据作为企业迈向智能化的一个关键要素，除了通用大模型外，行业级与企业级大模型的建设与微调都离不开相应的数据积累，企业对此应该如何着手开始？

▲ 汉得COO黄耿

黄耿：关于数据这件事，在AI热点出现之前，大家或许有意识到数据很重要，但是关注度比较有限。我在研究 AI的过程当中，发现很多企业都希望拥有一个个性化、具备一些自建能力的大模型。可以说私有化大模型训练是一个企业必须要面对的事，但是私有化训练又是一个很模糊的事情，并没有一个明确的标准化教程，所以需要大家自己“摸石头过河”，在这一过程中困难重重。

另外就是数据积累的问题，数据积累是需要时间的，企业肯定是越早开始越好。事实上大部分企业都在面临着数据沉淀的挑战，大多数企业的数据积累是不足的，而且数据积累并不是“临时抱佛脚”就可以解决的。

以制造业为例，有一个“良品率”的概念，它是需要在流水线过程中积累大量数据并沉淀后才能实现的，短期的数据无法支撑这一诉求。这就要求企业明确目标，并建立相应的流程，进行数据积累，如果在不清楚具体需求时，也可以先积累可能对未来有用的“半成品”数据。

我认为数据供应与需求是一个螺旋上升的过程，企业应先提供一些基本的数据资源（例如关于客户的360度视图），即使这些数据可能不是最精确或完整的，但是这种初步的数据有可能会启发业务部门提出更具体的需求，从而形成一个持续改进的循环。

尤其是在AI时代，我们更建议企业在需求完全清晰之前就开始行动，做好数据积累。唯有这样才能保证企业在大模型训练的进程中，不会出现因为数据不足而造成“巧妇难为无米之炊”的窘境。

何登攀：其实同样的话题，从从业者的角度和从企业管理的角度来讲，看法不尽相同，所以我想请我们的客户代表顶新国际PMI数字化推进总监杨勇先生为我们分享一下。

▲ 顶新国际PMI数字化推进总监杨勇

杨勇：对于数据我们确实有比较深的感受，首先因为顶新国际作为目前国内规模庞大的食品生产企业，今天讲的数据问题于我们而言，不是在AI时代才存在的，数字化时期我们就在和数据打交道。只是之前数据可利用的价值就没有像现在这么大，所以大家对数据的重视度并不是很高。

顶新国际早在数字化转型初期，就开始重视数据治理，并使用标准的方法论来进行数据战略制定、大数据架构搭建、数据质量和安全保证等工作。但尽管投入了大量人力物力进行数据治理，其对业务的实际价值还是很难直接体现。

在AI时代，我们也在思考，是否有一些AI工具可以帮助企业更快地沉淀数据、提高数据质量，并简化数据治理的过程，从而更直接地体现出业务价值，解决我们的困扰。

何登攀：感谢杨总分享，对于您提到的困惑我也有相似的感受，请华为全球培训中心金牌讲师王一夫王老师，针对杨总的困惑谈谈您的见解。

王一夫：对于杨总的困惑，其实还挺难回答的，因为数据治理本质上就是一个耗人且耗时间的工作。就目前实际情况而言，传统行业在数据治理方面难免存在“欠账”，因为对于企业而言，满足当时的业务需求才是首要工作。此外数据治理很多时候需要由上而下地推动，且没有办法立刻见到成效，是一个“冷板凳”的工作，非常需要有战略耐心。

不过杨总说的问题其实大家也在思考，比如业界正在尝试通过自动化手段来辅助数据清洗等工作，但效果在当前阶段并不显著，这是由于自动化手段的处理与业务的具体情况密切相关，因此在实际应用中的效果尚且有限，但从长远来看，它对企业具有深远的价值。

何登攀：众所周知，目前AI大模型有闭源的也有开源的，企业在实际应用中也需要考虑如何选择开源大模型和闭源大模型这一问题。

我们知道华为云有盘古大模型；上个月，Meta发布了Lamma 3.1 405B开源大模型，其能力经过评测几乎与GPT 4.0持平。

业界有一种看法，认为商用大模型更适合个人使用者，而行业级的应用或者企业级的应用模型，更适合基于开源大模型，通过自部署和自训练来实现更为聚焦的能力。对于这种观点，王老师有什么看法？

▲ 华为全球培训中心金牌讲师王一夫

王一夫：目前来讲，二者其实各有特点，且赛道不尽相同，但是也存在部分重合。闭源大模型的优点是其通常伴随着一定的合作关系，相对成本可控，但是缺点是微调和版权问题可能存在限制。而开源大模型的优点是其发展迅速且灵活性高，另外开源社区已经形成一定规模，从业者众多，因此更容易从中借鉴领先的思想和技术，而且模型的维护和更新也比较稳定。

由于当前国内正处于一个相对混沌的状态，所以说整体上用开源大模型也是一种比较常见的一些选择，尤其是企业初期投入时，使用开源大模型作为试水较为常见。然后才会根据试用结果决定后续发展方向。

从我个人角度来讲，我认为在比较专业的领域中，闭源大模型可能更有优势；在通用领域中，其实开源大模型和闭源大模型之间的差距并不是很大，就当前情况而言，开源大模型也是一个不错的选择。

何登攀：我们看到大模型技术正以极快的速度发展，但是企业在追求技术先进性的同时，也要兼顾实用性和安全性。尽管目前GPT等商用大模型在效果上领先，但部分企业尤其是国有企业，还需要考虑数据安全和保密性等问题。

事实上大多数企业也更倾向于将敏感数据保留在本地以确保安全，但是将大模型私有化成本过于高昂，所以我们接下来想探讨一下企业除私有化部署以外是否存在其他解决方案，可以有效应对智能时代的数据安全担忧。

关于这个问题，我想请教一下华为中国云AI解决方案总监陈总，作为数字化基础设施的提供商，华为对这种顾虑是否有什么看法，能否给企业一些建议？

▲ 华为中国云AI解决方案总监陈亮辉

陈亮辉：大家好，我想就目前整个大模型的一些进展给大家做个分享。自去年起，华为与众多AI领域的专家进行了大量的交流，关注点基本都涉及到数据安全问题。其实这也不难理解，因为相比传统的IT技术如云计算和大数据处理，大模型更加复杂，且与业务联系更为紧密。而企业在训练和部署大模型时，会投入大量核心数据，自然就会关注数据安全。目前华为云也向客户从多个维度和层面上提供几点思路。

第一是部署模式的选择上。对于企业而言选择私有云或公有云部署模型，会带来不同的安全考量。尤其是对于国有企业而言，对新技术的采纳更为谨慎，因此对于云安全的需求尤为突出。所以最好优先把云安全问题思考清楚，也要搞清楚云延伸的安全问题。

第二就是回到模型自身安全的多维度考量，包括但不限于模型本身的保护、数据安全以及模型应用的安全。主要涉及模型训练过程中，如何实现端到端的管控，类似于在微服务架构中对数据流的监控。因为当大模型从实验室走向商业化时，着重考察流动过程中的监控管理自然是必不可少的。

此外数据如何被管理和迁移也是另一个经常被提及的重要议题，这涉及到数据的确权问题。当前大家谈及AI时，无外乎都是探讨叠加大模型本身在训练推移过程中间的作业安全问题。所以目前国家层面也正在推进数据资产要素登记的工作，对于明确数据的使用权和处理权很有帮助。

第三是监管要求。国家机构如网信办要求对大模型进行备案，这是出于对模型能力和安全性的管控需要。特别是对面向公众服务的模型生成商，尤其需要建立内容审核机制，以确保模型输出的安全性。所以这里面自然也有很多的技术工作要去做，就单一个模型训练和过程中间的这种全流程监控，其实就比我们原来做的任何系统都要复杂。

何登攀：通过上述分享，我们愈发清晰地认识到 AI 对于企业最终价值离不开面向实际场景的落地应用。我们先请志尧软件的葛老师讲讲她的看法，葛老师目前专注于AI业务，听说近期在帮助客户探索AI的实际应用场景过程中积累了不少经验。所以想问一下您对于AI落地有哪些思考，以及在实际应用场景探索方面取得了哪些成果？

▲ 广州志尧软件业务负责人葛艺

葛艺：我目前正在帮助企业利用AI技术，打造知识库和智能客服。今天一夫老师讲的时候，很多内容我都是非常的认同，他说的那些可能的问题和痛点，我们在实际上落地过程中都确实有遇到。今天我也想趁此机会和大家分享一个客户的真实案例，让大家更直观感受AI的魅力。

这家客户是一家互联网企业，主营业务是汽车小面积补漆，主要通过抖音获取客户，目前使用4名客服处理线上咨询。我们最初采取的是使用知识库导入常用话术，但是在实施过程中发现，知识库搜索功能在实际应用中效果不佳，相似度设置过高或过低都会出现问题。

为了解决这些问题，我们在选择模型、设置提示词等过程中不断调优，通过与业务端深入沟通，对提示词进行调整，教会模型如何更好地理解客户需求，训练模型简洁回答问题等等方式，最终帮助客户找到了更合适的应用路径。

目前智能客服上线五个月，在不增加客服人员的情况下，企业的咨询留资量比原先增加一倍以上，客服不间断24小时在线，业务量显著提升的同时，实现了降本增效的目标。

何登攀：感谢葛老师的实际案例分享，直观的案例确实给我们带来不少启发。接下来我想向今天参会的企业嘉宾们了解一下，在企业结合AI落地的过程中，您还对哪些内容更为关注？有请新安化工CIO郑捷郑总分享一下您的感受。

▲ 新安化工CIO 郑捷

郑捷：之前我们对AI技术维度的理解没有那么深入，但今天听了几位老师的分享，受益匪浅。我们企业目前也正在做AI与业务相结合的尝试，所以首先我很希望了解AI及大模型技术，如何在更多的企业实际应用场景中落地。

其次我也有两个困惑，一是在大模型这块我们能否做到自主可控，因为考虑到未来长期的投入成本，我们企业自己能否直接利用一部分封装好的工具，通过微调和定制开发就能够实现模型的自主迭代，更快解决企业在应用与升级上的问题？二是对于大模型的安全问题，大模型是不是也类似于传统信息安全在数据治理与合规性等方面存在问题，企业是否有专门针对大模型安全措施方面的解决方案？

王一夫：关于自主可控这个问题，首先开源模型不一定允许商用，具体许可需查看每个模型的说明。而允许商用的开源模型是可以被企业自行改造训练的，因此也可以被视为企业自主可控的一部分。在企业训练大模型的过程中，无论是微调还是原厂模型升级，基本上技术都是透明的，这也意味着模型的升级迭代通常会得到跟进和支持，所以从我个人角度来看，持续演进的自主性可能不是一个大问题。

郑捷：我们制造企业因为需要考虑能源成本和所需技术人员数量等问题，而且当技术达到一定程度后，我们也会更希望做到轻量化地自行维护与处理，不再完全依赖于IT部门，而是让像财务等部门也能参与到某些技术应用中。

王一夫：如果希望企业内部包括业务部门的人员，也可以基于现有技术对大模型进行开发和维护，我觉得业务人员基于一些封装好的工具，对大模型进行持续的维护和升级并不是问题，但是需要注意，如果使用开源模型进行微调，后续可能会遇到实际工作与模型架构不兼容的问题，所以企业最好可以将方法论和整体流程进行沉淀，这样会更有助于持续演进。

至于安全的问题，其实传统IT安全措施并未因大模型的出现而发生根本性变化，针对大模型的安全措施，是建立在传统IT安全之上的，二者之间是叠加的关系，所以不需要拆分来看待这一问题。

黄耿：对于郑总刚刚的问题，我想补充分享一些我的看法。我认为使用商用大模型与开源大模型在后续服务和支持方面可能存在差异，所以需要平衡考虑。关于郑总提到的封装性和易用性，我也赞同IT人员不可能掌握所有技能，用封装工具来简化使用是很有必要的。

所以汉得去年在研发融合AIGC平台时，团队也是开发了很多封装工具，以支持多种模型的使用，并包含低代码等功能。我们深知B端应用与C端有所不同，需要考虑限定、流量控制和审计等问题，所以我建议企业在实际应用的过程中，最好还是配合使用中间层管理工具，来简化大模型的应用。

何登攀：接下来我们邀请晶科能源的王总来讲讲，王总在 IT 行业是不折不扣的资深专家，那么从信息化到数字化，再到今天的智能化，您在整个过程环节里，有什么样的感受可以跟与我们分享一下？

▲ 晶科能源CIO 王兴旺

王兴旺：在我看来，一个企业做智能化转型成不成功，不在于你在多少场景、用了多少技术工具，更重要的是思考AI是否在企业的主价值环节及关键阶段，如显著提升效率或减少人力成本等方面，真正发挥出它的价值。

AI的应用在企业中推动起来，仍是非常复杂的事情，企业在落地过程中会涉及复杂的组织变革、流程调整、人员配置和管理模式的变化，尽管各个厂商都在努力通过把AI框架进行封装，尽量简化技术，但推动AI项目仍然非常复杂。

在这过程中，我认为大家依旧需要特别关注管理变革，这也是长久以来在企业发展过程中始终不变的关键问题。同时希望我们能够逐渐摸索出更成熟的方法论，来指导AI项目的应用与落地，我相信这对企业对社会发展都将会更有意义。

何登攀：在今天的交流环节里，各位嘉宾都展现出了对AI应用的深度思考，也感受到了各位在探索AI落地这一过程中所作出的尝试和努力，虽然目前关于AI的落地尚无标准方法论，但是实践是检验真理的唯一标准，理论与实践相结合才能推动真正的进步。

这次汉得与华为云首次举办的“AI动力营”仅仅是一个开端，在AI时代，我们每个人都是数字生态的参与者，分享更多经验与思考，共同探索场景落地，才能真正做到与时俱进，创造更多的可能性！

汉得也期待与华为云一起，高效赋能企业AI应用实践，建设以客户为中心的新一代数智AI生态，加速数智化转型的推进与实现。