Meta刚发布的最新开源大模型Llama 3系列,现已上线国家超算互联网。
即日起,开发者可限时免费在国家超算互联网上搭建专属开发环境、使用专属微调大模型,“一键”开启Llama 3推理。欢迎广大AI开发者登录国家超算互联网(www.scnet.cn),搜索“Llama”关键词注册体验。
作为全球知名开源大模型,Llama 3系列在数据训练规模、长文本支持、能耗、安全性等方面具有一定先发优势,因此受到全球AIGC行业关注。
而为满足国内开发者需求,国家超算互联网还提供多款Llama系列原生、量化、优化模型,包括Llama-3-8B-chinese-chat中文微调版本,以提高其在中文环境下表现,更有GGUF/GPTQ等多款量化版本模型上线。
更易用、安全的Llama大模型
国家超算互联网上线的Llama模型版本更安全和易用,平台上的Llama系列源码包均经过严密审核。相比国外网站可能存在的错误版本,国家超算互联网上的Llama源码包具有更高的可信度、准确性和稳定性。
为让国内AI开发者更快上手,国家超算互联网特别为Llama系列模型编制中文使用手册,以便用户掌握模型功能和操作流程。(手册下载链:https://mallcdn.accloud.cn/icszy_zs_ai/0f93110897970c24c2c8e526d56839d8.pdf?Llama3%E7%94%A8%E6%88%B7%E6%89%8B%E5%86%8C.pdf)
“一键”启动AI训练、推理
最新发布的Llama3系列模型,其庞大的参数规模在提升AI推理、多任务性能的同时,对开发环境配置要求也相应提高,开发者自行搭建环境需投入巨大成本。
为此,国家超算互联网上所有AI大模型均支持“一键”启动Notebook服务,用户能够在云端实现快捷在线训练与实时推理,简化操作流程,实现了无需繁琐配置的高效体验。
值得关注的,上线国家超算互联网的Llama系列大模型,已能在国产加速器上实现在线推理服务,超算互联网平台不仅能为垂直行业大模型训练提供算力资源,也可为用户提供大模型即服务(MaaS)。这对推动我国AI产业生态完善,降低外部技术依赖具有深远意义。
除Llama3系列外,国家超算互联网还可深度支持Stable Diffusion、Gemma、Mistral、Phi、StarCoder2、ChatGLM、通义千问等50余款AI应用模型商品。
注: “限时免费”活动详情以平台上商品页信息为准。