明敏发自凹非寺量子位|公众号QbitAI
0代码微调一个大模型，成本不到20美元？
过程也非常简单，只需5步。
如LLaMA、GPT、StableLM等爆火的开源生成式模型，都能搞定。
这就是MonsterAPI，一个最新火起来的API平台。
有人觉得这个开源领域的新工作，能改写AI开发的游戏规则，加速AI应用的速度。
一辆斯巴鲁拉力赛车在澳大利亚拍卖行Lloyds以36万美元比特币成交:10月4日消息，澳大利亚拍卖行Lloyds最近宣布，一辆1994年Subaru Prodrive 555 A组世界拉力锦标赛赛车以50万澳元（约合36万美元）的价格成功拍卖。该赛车之前由车手Colin McRae和Carlos Sainz驾驶。这辆车最初被认为价值15000-20000澳元（约合10900-14500美元）。但国际经典汽车认证和评级系统（ICAARS）为期6个月的调查显示，它很可能价值超过100万美元（约合72.5万美元）。据报告，Lloyds于9月26日拍卖该车，中标者据称以比特币支付资金。（Cointelegraph）[2021/10/4 17:23:46]
还有人兴奋提问，之后会接入GPT-3/GPT-4吗？
所以，它具体是怎么实现的？
五步零代码搞定
简单理解，MonsterAPI就是将微调步骤尽可能简易化，让开发者不用再手动进行一系列设置，同时也提供便宜的GPU资源及内存优化。
具体过程如下：
第一步，选择一个模型进行微调。
比如LLaMA-7B、GPT-J-6B、StableLM-7B等，MonsterAPI提供了至少10个基础大模型。
动态 | Telegram提出共识算法Catchain 或可达BFT解决方案理论极限:据Cointelegraph消息，Telegram联合创始人Nikolai Durov在最新发表的一篇论文中详细介绍了Telegram开放网络共识机制Catchain。Catchain所呈现的解决方案是拜占庭容错（BFT共识机制）权益证明（PoS）算法，与NEO或Cosmos使用的算法类似。只要三分之一的节点没有恶意，Catchain就可以正常工作，这相当于BFT解决方案的理论极限。[2020/2/5]
第二步，选择或创建微调任务。比如指令微调、文本分类等，或者自定义任务。
动态 | Bastug Metallurgy等钢铁贸易商合作Fetch.ai 将推出基于区块链的金融交易所:土耳其钢铁制造和贸易公司Bastug Metallurgy以及其他金属贸易商已与人工智能实验室Fetch.ai达成合作，旨在建立一个创新的、以人工智能为动力的、多分布的通证化金属交易所。该交易所将以区块链技术为基础，以人工智能为动力的去中心化方式运作。（CryptoNewsZ）[2019/10/5]
第三步，选择一个HuggingFace数据集。
MonsterAPI可以无缝集成HuggingFace数据集，可选择范围很大；还可以根据任务类型推荐数据集。
并且不用自己手动操作，就能自动设置好格式。
第四步，设置超参数。
第五步，检查和提交。
在设置好如上所有步骤后，确定没有错误就可以提交了。
MonsterAPI表示可以通过WandB上的日志来监测任务。
在其博客中写道，用DataBricksDolly15k微调LLaMA-7B完成3个epouch，成本仅需不到20美元。
官网显示，注册用户后会赠送2500积分。会员分为三档，收费分别是每月9美元/29美元/39美元。
除了微调以外，MonsterAPI还提供各种生成式AI的API接口，并表示成本比其他方案低80%。
背后公司已获110万美元融资
消息显示，MonsterAPI背后公司拿下了110万美元的种子前资金。
这家AI初创公司给自己的定位是要做“GPU领域的爱彼迎”，把全世界分散的GPU资源实现灵活调度，让开发者们能够以更低的价格使用。
创始人是两兄弟GauravVij和SaurabhVij。
其中GauravVij还创立了一家CV公司，正是因为CV公司需要面临巨大的云计算资本，才启发了他们要做这样一个平台。
SaurabhVij之前是欧洲核研究中心的粒子物理学家，同时也研究分布式计算。
兄弟俩表示在经过多轮技术迭代后，他们优化了消费级GPU在机器学习任务上的性能，使得运行WhisperAI模型的成本相较于AWS平台降低了90%，所以他们就想着为什么不利用这个方法来帮助数以万计的开发者们。
同时他们透露公司的一个客户使用他们的分散的GPU计算资源，已经节省了30万美元。
参考链接：https://blog.monsterapi.ai/no-code-fine-tuning-llm/https://www.enterpriseai.news/2023/06/09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。