全球最大稳定币USDT的发行方Tether,推出了一项全新的AI训练框架。Tether表示,该框架支持在消费级硬件上对大语言模型进行微调,包括智能手机和非Nvidia品牌的GPU。
据周二的公告,该系统基于QVAC平台,采用微软BitNet架构及LoRA技术,显著降低了内存和算力需求,有望降低AI模型开发过程中的成本和硬件门槛。
该框架支持跨平台训练和推理,适用于包括AMD、Intel和Apple Silicon在内的多种芯片,以及Qualcomm和Apple的移动GPU。
Tether表示,其工程团队已能在智能手机上对高达10亿参数的模型进行微调,耗时不到两小时,更小规模的模型只需几分钟。该技术也支持在移动设备上运行高达130亿参数的大模型。
该框架基于BitNet,一种1-bit模型架构。据公司介绍,相比类似的16-bit模型,内存消耗可减少高达77.8%,使得更大模型可以在受限硬件上运行。此外,它还支持无需Nvidia硬件的1-bit模型LoRA微调,拓展了AI训练常用GPUs之外的硬件选择。
公司称,性能优势同样体现在推理环节,移动GPU运行BitNet模型的速度是CPU的数倍。公司还指出,本地端设备训练和联邦学习等场景将受益,即模型可以在分布式设备上更新,无需数据上传至中心化服务器,减少对云基础设施的依赖。
加密企业加速布局AI,从挖矿基础设施到自主智能体
Tether进军AI基建之际,加密企业正加快向算力及机器学习领域拓展,比特币挖矿和AI智能体的浪潮正在形成。
2023年9月,谷歌斥资43亿美元,收购Cipher Mining 5.4%股权,达成了一份为期10年的AI数据中心合作协议。12月,比特币矿企IREN宣布计划筹集约36亿美元,用于AI基础设施投资。
这一趋势延续至2026年。今年2月,HIVE Digital Technologies公布创纪录的收入9,310万美元,得益于其AI及高性能计算业务增长。而3月,Core Scientific获得摩根士丹利5亿美元信贷额度,并可扩展至10亿美元。
挖矿领域向AI与高性能计算转型的同时,AI智能体(可自主交易、执行服务和任务的程序)在加密行业加速落地。
2023年10月,Coinbase推出了支持AI智能体进行链上交易的钱包基础设施。上月,Alchemy上线系统,允许智能体在Base用USDC访问区块链数据服务。今年2月,Pantera与富兰克林邓普顿加入Sentient旗下Arena平台,共同测试企业级AI智能体。
周二,由OpenAI创始人Sam Altman联合创立的身份网络World发布AgentKit,该工具包使AI智能体在支付x402微支付协议时,可以通过World ID能力验证其与唯一人类身份的关联。
币搜网报道:
免责声明:以上内容(如有图片或视频亦包括在内)均为平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。
本站尊重他人的知识产权、名誉权等法律法规所规定的合法权益!如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到qklwk88@163.com,本站相关工作人员将会进行核查处理回复