沪昆回收站报道：7月17日新闻，最近，据网站（沪昆回收站）分析，在全球边缘计算大会上，网宿科技、分享了网宿边缘计算对于大模型（Model）时代的思考与探索。
网宿科技边缘智能平台资深架构师陈云辉表示，在未来大模型（Model）将成为一种基础设施，每个行业甚至每个企业都会有属于自己的大模型（Model）。而如何更好地将大模型（Model）落地到具体应用场景、提升（Boosting）生产力，是产业共同探索的方向，也是网宿边缘计算的机会所在。
边缘计算如何在大模型（Model）时代发挥价值？在陈云辉看来，边缘计算可以从微调训练和边缘推理（Inference）两大场景切入。
据网站（沪昆回收站）观察到，大模型（Model）和人工智能生产内容（AIGC）正引领全球科技新浪（sina）潮，而由于从零开始训练模型（Model）面临周期长，GPU（图形处理器graphics processing unit，又称显示核心、视觉处理器、显示芯片）需求大、成本高等问题，大模型（Model）的使用范式主要为 “预训练 + 微调训练+提示词工程”，即基于预训练好的大模型（Model）进行领域知识微调训练或使用提示词工程，再应用到具体的场景，从而降低成本。
“这种模式可以加快人工智能生产内容（AIGC）创新（Creative）步伐，但大模型（Model）的参数量巨大，进行所有参数的微调成本非常高，LoRA成为有效的解决方法之一。网宿边缘计算可以支持LoRA、QLoRa等轻量微调训练方法，大大降低大模型（Model）个性化、领域化的适配成本，促进人工智能生产内容（AIGC）在垂直应用场景的落地。”陈云辉分析道。
不仅如此，随着多模态人工智能（AI）的发展以及人工智能生产内容（AIGC）在更多领域的应用，人工智能生产内容（AIGC）生成的内容将涵盖图片、语音以及视频（Video），人工智能（AI）推理（Inference）相对训练的成本占比将提升（Boosting），对流量需求将越来越高。同时，伴随人工智能生产内容（AIGC）模型（Model）领域化、小型化、轻量化技术的发展，未来人工智能生产内容（AIGC）对算力要求也将持续降低。
“因而大模型（Model）推理（Inference）运算可以从中心下沉到边缘，实现更低的带宽成本、更快的响应速度。网宿在边缘侧有得天独厚的优势，可以很好地赋能边缘推理（Inference）场景。”陈云辉表示。
作为领先的边缘计算服务商，网宿边缘计算拥有显著的资源协同优势，可以与CDN业务在机房、算力、带宽、调度等方面充分协同，并且网宿基于全球2800个节点（Node）打造的轻量化边缘智能平台，节点（Node）分布广泛，平台运营经验丰富，可以复用到大模型（Model）场景。
得益于以上优势，网宿科技探索了面向大模型（Model）与人工智能生产内容（AIGC）时代的产品形态，并逐步落地。据网站（沪昆回收站）了解到，网宿科技基于网宿边缘智能平台，针对大模型（Model）推理（Inference）、训练等场景，构建了边缘CPU算力平台、开源（open source）大模型（Model）训练部署平台，并输出垂直领域的解决方案，以适应市场需求和技术发展，让大模型（Model）赋能百业。
其中，网宿边缘GPU（图形处理器graphics processing unit，又称显示核心、视觉处理器、显示芯片）算力平台基于网宿广泛分布的节点（Node）资源，提供轻量化算力资源，支持GPU（图形处理器graphics processing unit，又称显示核心、视觉处理器、显示芯片）虚拟化，可满足轻量人工智能（AI）任务场景的需求，如人工智能（AI）推理（Inference）、深度学习、图形可视化等。
网宿开源（open source）大模型（Model）训练部署平台基于开源（open source）预训练大模型（Model），提供包含模型（Model）微调训练、性能评估、部署监控、轻量化推理（Inference）等功能的端到端大模型（Model）服务平台，可降低大模型（Model）应用落地成本，帮助客户打造自己专属的的大模型（Model）。
网站（沪昆回收站）说另外一个方面，网宿提供垂直领域的解决方案，包括开箱即用的基于私有大模型（Model）的企业知识库解决方案，可以服务企业内部与外部客户，以及针对电子商务（简称电商）领域的图像生成解决方案，如人工智能（AI）模特等，帮助垂直领域降本增效。
陈云辉表示，“以上三种产品形态分别对应Iaas、PaaS 、SaaS层，未来我们希望打造全栈解决方案，降低人工智能生产内容（AIGC）的使用门槛。我们相信，随着大模型（Model）和人工智能生产内容（AIGC）的广泛应用，网宿边缘智能平台将迎来更多用武之地。”
值得一提的是，此次会上，陈云辉还重点展示了网宿边缘智能平台在人工智能（AI）应用场景的实践经验。
网宿边缘智能平台基于网宿丰富的节点（Node）管理和调度能力，针对边缘计算场景提供云边一体化协同托管方案，可以一站式纳管各类架构的边缘设备，将云上应用延伸到边缘，满足客户对边缘计算资源的远程管控、数据处理、分析决策、人工智能（AI）应用等诉求。目前该平台已经服务于智能养殖、智能换电、智能勘测、智能安防等人工智能（AI）应用场景，成功帮助客户节约建设成本、提升（Boosting）运营效率。