阿里达摩院33篇论文被国际顶会收录,多项成果已开放
2022-12-07 16:44 来源:TechWeb 阅读量:4082 小 中
日前,自然语言处理国际峰会EMNLP 2022在阿联酋阿布扎比召开在这次大会中,中国的研究团队表现出色阿里巴巴达摩院共收到33篇论文,是入选论文数量最多的研究机构之一达学院的相关研究成果涵盖了跨模态理解与生成预训练,增强知识的多语言预训练,具有自我评价能力的机器翻译等领域,并且在魔法社区的ModelScope平台上开放了很多成果
EMNLP 2022在阿布扎比举行
EMNLP是自然语言处理领域最具影响力的会议之一,在谷歌学术计算语言学指数中排名第二与传统的学术会议不同,EMNLP更注重自然语言算法与各领域应用的结合,吸引了谷歌,微软,麻省理工等全球顶尖科技公司和研究机构的参与据介绍,今年主会和调查结果共收到论文1381篇,其中主会收到论文829篇,新收率仅为20%该研究所共有22篇论文被主要会议接受,11篇论文被接受为研究成果
理工学院NLP实验室资深算法专家严立东在本次大会中已有8篇论文入选,入选的单篇论文数量位居国际顶尖研究者之列他说:今年大会中学术界和工业界的研究趋势仍在发生微妙的变化关于语言模型的研究仍然很热,有155篇论文在标题中提到了这个关键词此外,跨模态预训练,文本生成,比较学习等领域的论文数量继续增长
EMNLP 2022会议第一天的议程
以大模型为例,达摩院创新性地提出了跳联网络结构,可以解决目前多模态预训练模型训练和推理效率低的问题,跨模态对齐模块中的语义信息被视觉序列所掩盖这个网络可以提高视觉表征中自我注意的计算效率,至少加快4倍实验结果表明,基于该网络,达摩院AliceMind系统下的多模态预训练模型mPLUG用1300万公共图形数据对模型进行预训练,超越了传统模型上亿训练数据的效果相关研究可应用于图像描述,图像检索,视觉定位,视觉问答等领域在此基础上,达摩院于2021年在VQA任务中实现了首次超越人类成果的突破
据介绍,达摩院研发的阿里通AliceMind系统涵盖预训练模型,多语言预训练模型,超大中文预训练模型等,并具备阅读理解,机器翻译,对话问答,文档处理等多项能力这个模型系统已经获得了36次冠军
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。