小米总部园区
在小米公司CEO雷军演讲前夕,其研发的人工智能(AI)大模型产品悄然现身。
钛媒体App获悉,8月11日,小米公司开发的大规模预训练语言模型MiLM-6B/1.3B登陆代码托管平台GitHub,参数规模最高达64亿,而且现身在C-Eval、CMMLU基准评测榜单。
(资料图片)
截至当前,小米大模型MiLM-6B在C-Eval总榜单排名第10、同参数量级排名第1,平均分为60.2分,超过了阿里云Qwen-7B、OpenAI研发的ChatGPT(今年5月数据)等,而MiLM-1.3B排行第30名,平均分45.8分,接近谷歌投资的Anthropic公司的Claude 1.0版本大模型。
这是小米大模型产品的首次曝光,也是小米史上首个GPT大模型产品亮相。
事实上,随着ChatGPT风靡全球,今年4月14日,小米公司宣布成立小米 AI 实验室大模型团队,由栾剑带队向王斌汇报。据悉,AI实验室是小米AI战略的核心部门,而大模型负责人王斌曾在中科院从事了20多年NLP(自然语言处理)相关的研究和开发工作,2018年加入小米,2019年起负责AI实验室。
小米CEO雷军当时表示,公司正在研发一些技术和产品,等打磨好了再给大家演示。小米集团总裁卢伟冰称,小米目前拥有超过1200人的AI团队,会积极拥抱大模型,与业务深度结合,但不会像OpenAI一样。
今年6月,王斌对外透露,小米会去自研通用语言大模型,但不会单独发布一款类ChatGPT产品。他表示,小米第一步的目标基座模型参数在几百亿,而且小米大模型将会落地小爱同学、loT、自动驾驶、机器人等现有场景中,并利用丰富的应用场景反哺大模型能力。
成立仅仅四个月后的今天,小米公布了大模型产品——MiLM-6B,并在C-Eval和CMMLU基准评测上均取得同尺寸较好效果。
其中,在C-Eval评估中,MiLM-6B的平均得分为60.2,在不同学科和难度级别(如STEM、社会科学、人文学科等)得分从42分到71.7分不等。在CMMLU评估中,MiLM-6B在零样本和五样本测试中的平均得分分别为60.37分和57.17分,表现出良好的知识和推理能力。
据悉,C-Eval榜单是清华大学、上海交通大学和爱丁堡大学共同构建的综合汉语模型评估套件,而CMMLU则是综合汉语模型基准。
预计小米将会于8月14日举行2023雷军年度演讲,但目前雷军暂未透露是否会发布MiLM-6B大模型技术。
钛媒体App向团队询问关于MiLM-6B/1.3B是否开源、产品是否已经落地内测等问题,截至发稿前暂未得到小米官方回复。(本文首发钛媒体App,作者|林志佳)
上一篇:涉税相关法律易错易混知识点:行政许可、行政处罚、行政强制的种类
下一篇:最后一页
X 关闭
X 关闭
大兴安岭林区北部发生15起雷电森林火灾已合围13起仍在扑救中
越夜越嗨!“杭州十大夜地标”揭晓,还有消费券可以领!杭州网发布时间
近日,为进一步防范夏季食品安全风险,睢阳区市场监督管理局结合我区食
5年前涉嫌信用卡诈骗,“漏网之鱼”被抓获归案---近日,湖北省谷城县公
中国女排即将迎来忙碌的8月和9月,除了有亚运会、奥运会资格赛外,还有
关于“精明之辨”的百科解答对于“精明之辨”这一概念,其实既可以指人
工人日报-中工网记者康劲通讯员李金璇 “作为一名劳动模范,我应当发
四川新闻网-首屏新闻成都8月10日讯(记者张宇)8月9日下午5时30分许,
1、1、她主演的电视剧有很多也,过我比较喜欢的是:《魔女游戏》和那个
为响应县希望工程办公室倡导,弘扬中华民族扶弱济困、助人为乐的优良传