茂名做网站,茂名网站建设,茂名网站制作

 
网站首页 业界新闻 行业知识 客户案例 关于我们 联系我们
最新业界新闻
大家都在看
业界新闻 您现在的位置:网站首页业界新闻

阿里云宣布开源Qwen2.5,上架超100个模型

时间:2024年09月19日 16:16 来源:金飞工作室 点击:
  今日举办的2024云栖大会上,阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5。据悉,Qwen2.5全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型,每个尺寸都有基础版本、指令跟随版本、量化版本,总计上架100多个模型,其中旗舰模型Qwen2.5-72B性能超越Llama 405B。
 
  据介绍,相比Qwen2,Qwen2.5全系列模型都在18T tokens数据上进行预训练,整体性能提升18%以上,拥有更多的知识、更强的编程和数学能力。Qwen2.5-72B模型在MMLU-rudex基准(考察通用知识)、MBPP基准(考察代码能力)和MATH基准(考察数学能力)的得分高达86.8、88.2、83.1。Qwen2.5支持128K的上下文长度,可生成最多8K内容,支持中文、英文、法文、西班牙文、俄文、日文、越南文、阿拉伯文等29种以上语言。
 
  其中,72B是Qwen2.5系列的旗舰模型,其指令跟随版本Qwen2.5-72B-Instruct在MMLU-redux、MATH、MBPP、LiveCodeBench、Arena-Hard、AlignBench、MT-Bench、MultiPL-E等权威测评中表现出色,在多个核心任务上,以不到1/5的参数超越了拥有4050亿巨量参数的Llama3.1-405B,继续稳居“全球最强开源大模型”的位置。
 
  专项模型方面,用于编程的Qwen2.5-Coder和用于数学的Qwen2.5-Math都比前代有了实质进步。Qwen2.5-Coder在多达5.5T tokens的编程相关数据上作了训练,当天开源1.5B和7B版本,未来还将开源32B版本;Qwen2.5-Math支持使用思维链和工具集成推理(TIR)解决中英双语的数学题,本次开源了1.5B、7B、72B三个尺寸和一款数学奖励模型Qwen2.5-Math-RM。
 
  此外,在多模态模型方面,阿里云还宣布了视觉语言模型Qwen2-VL-72B开源,Qwen2-VL能识别不同分辨率和长宽比的图片,理解20分钟以上长视频,具备自主操作手机和机器人的视觉智能体能力。
TAG:阿里云