潞晨科技Colossal
我要评论北京2024年2月29日 /美通社/ -- 近日，潞晨潞晨科技Colossal-AI大模型开发工具与浪潮信息AIStation智能业务创新生产平台完成兼容性互认证。科技基于AIStation平台部署与调度的潞晨潞晨科技Colossal-AI系统，用户可实现在本地算力平台一键训练、科技微调、潞晨推理、科技部署大模型，潞晨将大模型开发效率提升10倍以上，科技并将算力效率提升2-3倍，潞晨在最大化提升大模型开发效率的科技同时，降低大模型开发及应用的潞晨门槛和成本。
Colossal-AI系统由元脑生态伙伴潞晨科技开发，科技是潞晨全球最大、最活跃的科技大模型开发工具与社区之一。Colossal-AI包含高效多维并行、潞晨内存管理、低延迟推理系统等模块，可显著提高AI大模型训练、微调和部署效率。以当前被广泛使用的LLaMA大模型为例，Colossal-AI提供开箱即用的650亿参数预训练方案，可将训练速度提升38%，仅需32张GPU卡。Colossal-AI发布后多次登顶GitHub热度榜世界第一，目前已与PyTorch、Hugging Face等全球顶级AI生态深度融合，位列全球TOP400，细分赛道世界第一，并且已与国内外多家500强企业合作，促进AI大模型在自动驾驶、云计算、零售、医药、金融等领域落地。
本次兼容性测试完成了Colossal-AI异构内存管理系统、高效自动N维并行系统、低延时推理系统等核心模块在AIStation平台上的验证测试。测试结果表明，Colossal-AI框架在浪潮信息AIStation平台上运行稳定、性能表现优异，满足双方兼容性认证的各项标准，在ChatGPT等大模型训练场景下，可将算力效率提升2-3倍，训练/推理速度提升10倍以上。浪潮信息AIStation平台为上层AI大模型开发提供了资源管理、任务调度、运维管理等能力，能够帮助用户更快速灵活地获取本地AI算力，让计算平台更好地支持Colossal-AI高效运行。
Colossal-AI携手浪潮信息AIStation，将为AI大模型应用开发提供开箱即用、更快速、高性能、低损耗的本地化解决方案，大幅提升AI大模型训练、微调、推理、部署的效率，并降低AI大模型的开发成本和计算资源需求。
浪潮信息AIStation是面向企业级训练与推理场景开发的智能业务生产创新平台，实现从模型开发、训练、部署、测试、发布、服务的全流程一站式高效交付。通过对计算资源、数据资源、深度学习软件栈资源进行统一管理，AIStation为环境构建、模型开发、模型训练、模型评估、模型推理、上线部署全链条全面提速，加快AI开发应用创新落地。AIStation基于资源管理调度、平台流程支持能力，在异构芯片、创新生产工具、行业伙伴应用、客户方案等不同层面，与元脑合作伙伴展开了大量适配对接认证工作，并积累了大量的适配对接经验、模式与方案，成为了元脑生态的重要承载平台。
相关文章
为进一步健全防止返贫网格化监测和帮扶机制，推进全镇网格化管理工作，提升乡村振兴网格员业务能力和综合素质，助力巩固拓展脱贫攻坚成果同乡村振兴有效衔接工作，青阳县庙前镇积极探索基层网格治理新模式，不断强化2024-09-23
超级物种—苣苋草属于苋属苋科非转基因牧草，为农业部全国牧草审定委员会登记品种，是一年生优质粮饲兼备的草本作物，它具有以下的优势：抗逆性强：它是喜温作物，土壤温度在摄氏16度以上即能良好生长，生长期3个2024-09-23
映象网开封讯记者 崔学庆 实习生 王山峰）“俺村1600多人、3100亩耕地，位于开封市通许县孙营乡西部，位居通许县、尉氏县、祥符区三县区）交界地，素有‘鸡叫听三县&rsquo2024-09-23
2019东风悦达起亚斯坦科维奇杯洲际篮球赛打响，突尼斯队5分险胜拉脱维亚
7月22日下午，备受期待的2019东风悦达起亚斯坦科维奇杯洲际篮球赛在深圳宝安体育馆正式拉开帷幕，首场比赛由突尼斯队对阵拉脱维亚队。首节结束，突尼斯领先13分，但此后拉脱维亚一度将分差追至2分，遗憾的2024-09-23
迎江区宜城路街道天后宫社区：“治”出文明新风尚 奏响和谐新乐章
今年以来，迎江区宜城路街道天后宫社区不断创新形式，充分发挥新时代文明实践站阵地作用，通过开展丰富多彩的志愿服务活动，传播文明理念，建设文明社区，打通宣传群众、教育群众、关心群众、服务群众的“最后一米”2024-09-23
在传统投资银行的主要有“媒介资金供需、构造证券市场、优化资源配置、促进产业整合四个作用。伴随着科学技术和信息技术的快速发展，传统投资银行商业模式已难满足市场需要。区块链提供了在无中心价值交换网络里的一2024-09-23
最新评论