这家初创公司称，它能够利用废弃的加密货币挖矿设备来训练人工智能模型。
techmonitor
分布式计算初创公司Monster API认为，他们可以利用未使用的加密货币挖矿设备，满足日益增长的GPU计算能力需求。公司表示，其网络可以扩展，纳入其他具备额外GPU容量的设备，这可能会降低开发和使用AI模型的成本。GPU广泛用于加密货币挖矿设备中，Monster API表示这些设备可以重新分配用途，用于训练AI模型。（照片由grafvision/Shutterstock提供） GPU通常用于挖矿比特币等加密货币。挖矿过程消耗大量资源，且对计算能力要求很高。在加密货币热潮的高峰期，这导致市场上GPU的短缺。随着价格飙升，企业和个人纷纷转向英伟达（Nvidia）生产的游戏类GPU，并将其转换为专用的加密货币挖矿设备。如今，人们对加密货币的兴趣正在减弱，许多设备已闲置不用。这种状况使Monster API创始人Gaurav Vij意识到，这些GPU可以重新调整用途，用于当前计算密集型趋势——训练和运行基础AI模型。 尽管这些GPU的性能无法与AWS和谷歌云等公司部署的专用AI设备相比，但Gaurav表示，它们以云服务提供商成本的一小部分，即可训练优化后的开源模型，一些企业客户甚至节省了高达80%的费用。“机器学习领域实际上正在为计算能力发愁，因为需求已经超过了供应。”Monster API联合创始人Saurabh Vij表示，“如今大多数机器学习开发者都依赖于AWS、谷歌云和微软Azure获得资源，结果他们不得不花很多钱。” 除了挖矿设备，未使用的GPU计算能力也存在于PS5等游戏系统和小型数据中心中。“我们发现，加密货币挖矿设备中有GPU，我们的游戏系统也有GPU，而且它们的GPU每年都在变得越来越强大。”Saurabh对Tech Monitor表示。 向分布式网络贡献计算能力的组织和个人需要经历一个入网流程，包括数据安全检查。随后，这些设备将按需添加，使网络可以根据需求进行扩展或收缩。同时，他们还能获得出售空闲计算能力所获得利润的一部分。 尽管目前Monster API依赖开源模型，但如果支持新架构的社区失去支持，他们也可以开发自己的模型。许多大型开源模型最初源自大公司或主要实验室，包括OpenAI的语音识别模型Whisper和Meta的LLaMa。 我们的合作伙伴内容 为什么填补可持续发展技能差距对ESG至关重要 适应性将塑造分销商的未来 时尚产业面临的五大关键挑战 Saurabh表示，分布式计算系统可以将基础模型的训练成本降低到未来甚至可以让开源和非营利组织进行训练，而不仅仅依赖那些资金雄厚的大型科技公司。 查看所有新闻简报 订阅我们的简报 数据、洞察和分析直达您的邮箱 由Tech Monitor团队提供 点击此处订阅 Saurabh表示：“如果训练一个基础模型需要花费100万美元，那么在像我们这样的去中心化网络上，只需花费10万美元。”公司还能够调整网络，使模型在特定地理区域内进行训练和运行，例如在欧盟地区以符合GDPR对跨境数据传输的规定。 Monster API表示，现在也提供“无代码”工具，用于微调模型，让缺乏技术专长和资源从头开始训练模型的人也能使用，这进一步“民主化”了计算能力和基础AI的访问权限。 “微调非常重要，因为如果你看看大量开发者，他们并没有足够的数据和资金从头开始训练模型。”Saurabh表示。公司表示，通过优化，他们已将微调成本降低了多达90%，每项模型的费用约为30美元。 Monster API表示，他们可以帮助开发者在AI方面进行创新。尽管人工智能公司面临监管的威胁，这可能直接影响那些训练模型和开源项目，但Saurabh相信开源社区将抵制过度监管。Monster API也承认需要管理“潜在风险”，并确保其去中心化网络的“可追溯性、透明度和问责制”。 Saurabh表示：“短期内，监管机构可能会占上风，但我非常相信正在快速发展的开源社区。[API开发平台] Postman上已有2500万名注册开发者，其中很大一部分人正在生成式AI领域构建新业务，这为他们所有人打开了新的机会。” 借助低成本的AI访问，Monster API的目标是赋能开发者在机器学习方面进行创新。他们已经提供了像Stable Diffusion和Whisper这样的知名模型，并且可以进行微调。但Saurabh表示，他们也允许公司利用原本冗余的GPU时间从头开始训练自己的基础模型。 他们的希望是，未来能够将可获得的GPU计算能力扩展到不仅仅是加密货币挖矿设备和数据中心，而是任何拥有合适GPU或芯片的设备。这可能包括任何搭载Apple M1或后续芯片的设备。 Saurabh表示：“我们内部已经实验在MacBook上运行Stable Diffusion，而且不是最新款的MacBook。”“它每分钟至少可以生成十张图像。这实际上是我们的产品路线图的一部分，我们希望将数百万台MacBook接入网络。” 他补充道，目标是让用户在MacBook入睡时，为开发者运行Stable Diffusion、Whisper或其他模型，从而赚取额外收入。“最终我们会纳入Playstations、Xboxes和MacBooks，它们都是非常强大的设备，甚至未来可能包括特斯拉汽车，因为你的特斯拉内置了强大的GPU，而你大部分时间其实都没有在驾驶，它就停在你的车库里。” 照片：Adobe Firefly提供针对生成式AI版权索赔的保障 本文主题：人工智能
查看全文
作者最近更新
评论0条评论