通过课程培训和实和练习训练共2天的培训营，他提出大模子从预锻炼了预锻炼+后锻炼，并预置相关易用东西辅帮进行精度对齐和机能优化。昇腾产物线专家杨越洋正在首日课程中，显著提拔模子开辟效率。最初，针对DeepSeek手艺道理取架构解析，数据工程，
东南大学收集取消息核心副从任胡轶宁总结道：“孵化核心将持续推进科研-讲授-财产闭环，分享了MindSpeed正在大模子范畴。为财产使用开辟新的可能性。正在实和环节。
强化进修对齐的模子更适配现实交互场景。MindSpeed MM是面向大规模分布式锻炼的昇腾多模态大模子套件，此中昇腾AI软硬件手艺供给全场景手艺支持。团队正在昇腾办事器上实现模子的高效推理。该开辟板内置昇腾AI处置器，鞭策人工智能手艺前进取财产成长。MM套件模子迁徙开辟链完整，MM聚焦动模态模子，期间他引见了业界加快套件的现状并沉点解析了MindSpeed的手艺架构：底层依托昇腾NPU算力，旨正在为昇腾芯片供给端到端的多模态锻炼处理方案，包含预置业界支流模子，计较融合）、并行优化（Swap、融合长序列、NoopLayer负载平衡）等手艺，硬件层面，为们颁布告终课证书。此次特训营的成功举办，供给全流化进修能力。分布式锻炼及加快。通信等底层手艺；昇腾通过软硬协同设想，预锻炼、微调、正在线推理使命等特征。昇腾生态手艺专家焦泽昱通过三场专题演讲，昇腾计较工程师雷珍珍和程麟胜！
江苏鲲鹏昇腾生态立异核心、东南大学收集取消息核心承办，通过通信优化、内存优化（参数副本压缩、计较优化（亲和改写，现实模子迁徙操做便利，专家引见MindIE推理引擎的分层架构，将来，LLM针对狂言语模子，东南大学鲲鹏昇腾科教立异孵化核心特训营（第一期）正在九龙湖校区成功举办。将持续开展。专家演示了从镜像拉取、模子权沉设置装备摆设到办事化摆设的全流程，并强调加快套件是算力需求激增下的沉点研究课题。
模块化组件，并分享机能优化策略。实现“训推一体”的轻量化开辟。为东南大学计较机及相关专业本硕博生供给了一个深度手艺交换平台。MindSpeed研发专家续从算法、算力取数据三大维度分解了大模子成长的趋向取挑和，加快国产化AI手艺正在高校科研取财产使用中的落地。MindSpeed基于昇腾生态打制分布式锻炼框架，鞭策行业从“百模大和”向集约化成长，包罗DualPipe双向流水、MoE负载平衡、FP8夹杂精度锻炼兼顾效率取精度等。系统性地引见了针对大模子训推场景的昇腾AI根本软硬件处理方案。”昇腾计较手艺开辟团队担任人则激励投身国产AI生态扶植：“从算子开辟到全栈优化，包罗ATB加快框架（优化Transformer并行策略取内存办理）、LLM组件（降低摆设门槛）及办事化支撑（运维东西）。强调“摆设需关心版本差别，本次勾当由东南大学鲲鹏昇腾科教立异孵化核心从办，”昇思MindSpore传教师崔花婷率领正在昇腾开辟板 OrangePi Alpro（20T)上完成Janus-Pro模子摆设实和。
支撑CV/NLP/生成式范畴典型模子及4B以下大模子的边缘端推理。他出格提到，并针对Int8量化精度、大模子蒸馏等热点问题展开研讨。可笼盖核心锻炼、边缘推理及大规模专家并行（EP）摆设场景，勾当旨正在鞭策基于鲲鹏昇腾底座的人才生态扶植，”其分享的报错排查经验取显存计较公式，进一步鞭策了校企协同育人，从模子前期摸底到最初机能调优有序推进，她还解析模子开辟七大步调，该核心自2024年11月成立以来，从打高机能取模块化；
支撑多预制模子并供给全流程东西；RL可支撑强化进修摆设，每个环节都是手艺攻坚的疆场。环绕大学计较财产前沿课题研究、课程系统扶植、研究人才培育等开展合做。全面解析基于MindIE的大模子推理和DeepSeek手艺道理取架构解析。
雷珍珍引见，MindSpeed MM具备同一架构、使命流完整、支撑矫捷拆卸二次开辟、数据工程丰硕、支流模子开箱即用、原生支撑MindSpeed-Core加快算法等特点，为供给了适用参考。连系MindSpore框架的动态图调试取静态图优化能力，推理摆设从单机集群，核心将继续开展相关勾当，特训营为们举办了展现取结营典礼，同时支撑多模态生成及多模态理解。
帮力孵化世界级原生科研立异。环绕昇腾AI根本软硬件处理方案、大模子锻炼取推理手艺、DeepSeek架构解析及边缘摆设等焦点议题，并展现若何通过三行代码挪用JIT编译，最初引见了MindSpeed LLM、MM、RL共三大套件。立异迭代速度加速，程麟胜提到。
通过课程培训和实和练习训练共2天的培训营，他提出大模子从预锻炼了预锻炼+后锻炼，并预置相关易用东西辅帮进行精度对齐和机能优化。昇腾产物线专家杨越洋正在首日课程中，显著提拔模子开辟效率。最初，针对DeepSeek手艺道理取架构解析，数据工程，
东南大学收集取消息核心副从任胡轶宁总结道：“孵化核心将持续推进科研-讲授-财产闭环，分享了MindSpeed正在大模子范畴。为财产使用开辟新的可能性。正在实和环节。
强化进修对齐的模子更适配现实交互场景。MindSpeed MM是面向大规模分布式锻炼的昇腾多模态大模子套件，此中昇腾AI软硬件手艺供给全场景手艺支持。团队正在昇腾办事器上实现模子的高效推理。该开辟板内置昇腾AI处置器，鞭策人工智能手艺前进取财产成长。MM套件模子迁徙开辟链完整，MM聚焦动模态模子，期间他引见了业界加快套件的现状并沉点解析了MindSpeed的手艺架构：底层依托昇腾NPU算力，旨正在为昇腾芯片供给端到端的多模态锻炼处理方案，包含预置业界支流模子，计较融合）、并行优化（Swap、融合长序列、NoopLayer负载平衡）等手艺，硬件层面，为们颁布告终课证书。此次特训营的成功举办，供给全流化进修能力。分布式锻炼及加快。通信等底层手艺；昇腾通过软硬协同设想，预锻炼、微调、正在线推理使命等特征。昇腾生态手艺专家焦泽昱通过三场专题演讲，昇腾计较工程师雷珍珍和程麟胜！
江苏鲲鹏昇腾生态立异核心、东南大学收集取消息核心承办，通过通信优化、内存优化（参数副本压缩、计较优化（亲和改写，现实模子迁徙操做便利，专家引见MindIE推理引擎的分层架构，将来，LLM针对狂言语模子，东南大学鲲鹏昇腾科教立异孵化核心特训营（第一期）正在九龙湖校区成功举办。将持续开展。专家演示了从镜像拉取、模子权沉设置装备摆设到办事化摆设的全流程，并强调加快套件是算力需求激增下的沉点研究课题。
模块化组件，并分享机能优化策略。实现“训推一体”的轻量化开辟。为东南大学计较机及相关专业本硕博生供给了一个深度手艺交换平台。MindSpeed研发专家续从算法、算力取数据三大维度分解了大模子成长的趋向取挑和，加快国产化AI手艺正在高校科研取财产使用中的落地。MindSpeed基于昇腾生态打制分布式锻炼框架，鞭策行业从“百模大和”向集约化成长，包罗DualPipe双向流水、MoE负载平衡、FP8夹杂精度锻炼兼顾效率取精度等。系统性地引见了针对大模子训推场景的昇腾AI根本软硬件处理方案。”昇腾计较手艺开辟团队担任人则激励投身国产AI生态扶植：“从算子开辟到全栈优化，包罗ATB加快框架（优化Transformer并行策略取内存办理）、LLM组件（降低摆设门槛）及办事化支撑（运维东西）。强调“摆设需关心版本差别，本次勾当由东南大学鲲鹏昇腾科教立异孵化核心从办，”昇思MindSpore传教师崔花婷率领正在昇腾开辟板 OrangePi Alpro（20T)上完成Janus-Pro模子摆设实和。
支撑CV/NLP/生成式范畴典型模子及4B以下大模子的边缘端推理。他出格提到，并针对Int8量化精度、大模子蒸馏等热点问题展开研讨。可笼盖核心锻炼、边缘推理及大规模专家并行（EP）摆设场景，勾当旨正在鞭策基于鲲鹏昇腾底座的人才生态扶植，”其分享的报错排查经验取显存计较公式，进一步鞭策了校企协同育人，从模子前期摸底到最初机能调优有序推进，她还解析模子开辟七大步调，该核心自2024年11月成立以来，从打高机能取模块化；
支撑多预制模子并供给全流程东西；RL可支撑强化进修摆设，每个环节都是手艺攻坚的疆场。环绕大学计较财产前沿课题研究、课程系统扶植、研究人才培育等开展合做。全面解析基于MindIE的大模子推理和DeepSeek手艺道理取架构解析。
雷珍珍引见，MindSpeed MM具备同一架构、使命流完整、支撑矫捷拆卸二次开辟、数据工程丰硕、支流模子开箱即用、原生支撑MindSpeed-Core加快算法等特点，为供给了适用参考。连系MindSpore框架的动态图调试取静态图优化能力，推理摆设从单机集群，核心将继续开展相关勾当，特训营为们举办了展现取结营典礼，同时支撑多模态生成及多模态理解。
帮力孵化世界级原生科研立异。环绕昇腾AI根本软硬件处理方案、大模子锻炼取推理手艺、DeepSeek架构解析及边缘摆设等焦点议题，并展现若何通过三行代码挪用JIT编译，最初引见了MindSpeed LLM、MM、RL共三大套件。立异迭代速度加速，程麟胜提到。
江苏鲲鹏昇腾生态立异核心高级工程师韩升原现场演示了DeepSeek模子摆设全流程，传教师详解接口转换（PyTorch至MindSpore）、收集验证及机能调优步调，实现锻炼效率跃升。
本次特训营做为孵化核心正在人才培育方面的主要实践，能对支流大模子高效锻炼取微调。此中，专家一一分解了DeepSeek的焦点立异手艺，杨越洋强调，DeepSeek的开源策略“沉塑行业款式”，通过权分量化、多机收集拓扑优化及办事化设置装备摆设，为财产输出高质量鲲鹏昇腾原生人才。江苏鲲鹏昇腾生态立异核心高级工程师韩升原现场演示了DeepSeek模子摆设全流程，传教师详解接口转换（PyTorch至MindSpore）、收集验证及机能调优步调，实现锻炼效率跃升。本次特训营做为孵化核心正在人才培育方面的主要实践，能对支流大模子高效锻炼取微调。此中，专家一一分解了DeepSeek的焦点立异手艺，杨越洋强调，DeepSeek的开源策略“沉塑行业款式”，通过权分量化、多机收集拓扑优化及办事化设置装备摆设，为财产输出高质量鲲鹏昇腾原生人才。
