墨芯人工智能入选“2023最值得关注AIGC企业”
大怪科学
近日，墨芯人工智能凭借在大模型算力方案上的优势，入选创业邦“2023最值得关注的AIGC公司”榜单，稀疏计算再获认可。
本次评选以专业的视角发掘现阶段积极探索AIGC技术和应用的企业，评估投资价值、技术成熟度、市场营销、生态合作、创新潜力等维度的综合表现。最终墨芯从参评的500余家企业中脱颖而出，成功入选。
创业邦指出，本次上榜企业“或是身经百战的互联网大厂，亦或是刚刚展露头角但具有投资价值的AI创业先锋，面对AIGC的巨浪，乘风而起，展现出了非凡的行动力”。
随着大模型浪潮席卷全球，作为AIGC基础层的算力产业备受瞩目。创业邦在对AIGC基础层的解读中提及“由于上游人工智能算力、数据基础设施或垄断或资源稀缺，如芯片、服务器等，议价权较高，但下游需求激增，现阶段最先受到裨益”。
在算力领域，稀疏计算作为突破算力瓶颈的关键技术，获得高度的市场关注。墨芯以领先的产品实力、突出的商业化进展，多次被权威机构推举为AIGC产业的代表企业。
性能领先：率先支持千亿参数大模型
墨芯AI计算平台率先支持高达千亿参数的大语言模型，并在吞吐、延时等多项指标上表现优异，具备高吞吐、低延时的优势：
在1300亿参数ChatGLM大模型上，8张墨芯S30计算卡吞吐达432 token/s，性能超过主流GPU，加快AI内容生成速度，大幅优化用户体验。
缓解落地难题：助力AIGC企业降本增效
针对大模型占用大量计算资源、能耗巨大、费用高昂等难点，墨芯凭借领先的稀疏计算技术，大幅减少AI计算中的无效元素，从而能够以更少数量的AI计算卡就能支持大模型推理。这为AI企业减缓算力基础设施与运营成本压力，达到降本增效的目标。
应用前景广阔：商业进展取得突破
墨芯基于性能领先的硬件产品与软件平台，为客户提供企业级端到端的解决方案，使开发人员能将墨芯的解决方案几乎零成本集成到现有的基础设施和算法交付中。
墨芯产品已实现量产，并成为支持ByteMLPerf的供应商之一，助力企业加速AI应用。
作为AIGC产业代表企业，墨芯将持续发挥产品技术创新优势，为AIGC应用带来强大动力支撑，驱动产业升级与社会进步。
审核编辑：刘清
查看全文
评论0条评论