首页 论文改写 正文

ICML2023杰出论文6篇,北大、武理工校友获奖,大模型水印受青睐

ICML2023杰出论文6篇,北大、武理工校友获奖,大模型水印受青睐

ICML2023优秀论文6篇,北京大学、武汉科技大学毕业生获奖,大模型水印优先

机器心脏报告

编辑:杜伟、小舟

与去年评选出的15篇优秀论文相比,ICML2023的获奖论文数量大幅减少至仅6篇。

ICML全称是InternationalConferenceonMachineLearning,由国际机器学习学会(IMLS)主办,是计算机人工智能领域最重要的会议。今年的ICML会议是第40届,将于2023年7月23-29日在美国夏威夷会议中心举行。

今年,ICML共收到6,538份申请,其中受理1,827份,受理率约为27.9%。与2022年相比,今年的投稿和接受作品数量和接受率均有所增加(发送作品5,630件,接受短作品1,117件,接受长作品118件,接受率为21.9%)。

ICML官员表示,每个参赛作品均由地区主席和高级地区主席审核,以确保对每个参赛作品进行正确评估。

今天,ICML正式公布了优秀发表竞赛的获奖论文。

六项优秀论文奖

本次会议共评出6篇优秀论文,研究内容包括学习率缺失、LLM中的水印、对未见领域的泛化、不完全信息零和博弈的近最优策略、频率顺序学习的MCMC和贝叶设计原则和其他主题。

第1条:通过适应而无需学习速度的学习D

组织:MetaAI、InriaSierra

作者:AaronDefazio、KonstantinMishchenko(现任三星人工智能中心研究员)

论文地址:

https://openreview.net/forum?idGXZ6cT5cvY

本研究的目标是获得非光滑随机凸优化的最优学习率自由界。所提出的方法克服了传统选择学习率在优化此类问题时的局限性,对该领域做出了有价值和实用的贡献的优化。

该研究还提出了新的SGD和Adam方法的变体,将应用于大规模CV和NLP问题。

论文2:大型语言模型的水印

院校:马里兰大学

作者:JohnKirchenbauer、JonasGeiping、YuxinWen、JonathanKatz、IanMiers、TomGoldstein

论文地址:

https://openreview.net/forum?idaX8ig9X2a7

关于文章:本文提出了一种对大型语言模型的结果加水印的方法-在生成的文本中嵌入人类不可见但可通过算法检测到的信号。不需要重新训练语言模型来生成水印,也不需要访问API或参数来检测水印。

对于水印检测,本文还提出了一种具有可解释的p值的统计测试方法以及用于水印敏感性分析的信息理论框架。本研究提出的方法简单新颖,提供了深入的理论分析和稳健的实验。鉴于大型语言模型(LLM)生成的检测和文本面临重大挑战,这项研究可能会对机器学习社区产生重大影响。

第三条:无形的逻辑推理和课程的概括

组织:洛桑联邦理工学院(EPFL)、苹果公司

作者:伊曼纽尔·阿贝、萨米·本吉奥、阿里奥·洛特菲、凯文·里兹克

论文地址:

https://openreview.net/forum?id3dqwXb1te4

论文简介:这篇论文在布尔函数的学习方面取得了重要进展,特别是在看不见的泛化(GOTU)领域,这是一个分布外泛化的难题。本文深入探讨了这一主题,并提出了一种由广泛的理论分析和广泛的实验支持的结构良好的方法。此外,文章概述了深度神经网络领域的一个重点研究方向。

具体来说,我们研究保留函数学习问题,其中一些分布支持在训练中很少或从未见过,并使用布尔目标函数来捕获各种推理任务(例如算术、决策树和逻辑电路)。和组合属性。

最后,研究人员对长度泛化问题提供了自己的解释,并提出了一种名为“Degree-Curriculum”的基于课程的学习算法,该算法增加了对更有效地学习单个项目的支持。术语类型。算法如下:

第四条:适应零和和不完美信息博弈

机构:CREST、ENSLyon、OmronSinicX、Deepmind等

作者:C?meFiegel、PierreMENARD、TadashiKozuno、RemiMunos、VianneyPerchet、MichalValko

论文地址:

https://openreview.net/forum?idO1j4uFuSVW

文章简介:文章提出了信息不完全的零和博弈的近乎最优策略。研究人员建立了新的下界,并提出了两种算法——平衡FTRL和自适应FTRL。这些贡献对不完全信息游戏优化领域的发展做出了重大贡献。文章中描述的大量实验证实了这些说法,并为研究结果提供了充分的支持。

论文5:自威慑随机游走通用图成就非线性马尔可夫链的最小采样方差

机构:IQVIAInc、北卡罗来纳州立大学

作者:VishwarajDoshi、JieHu、DoYoungEun

论文地址:

https://openreview.net/forum?id450iImFM4U

文章简介:文章解决了一组困难的开放问题,提出了一种具有自排他随机游走的马尔可夫链蒙特卡罗(MCMC)。给定对应于目标概率分布的任意马尔可夫链,这种自切换随机游走(SRRW)不太可能导致转移到过去经常访问的节点,而更有可能导致转移到很少被访问的节点。

该方法超越了传统的无回滚方法,为MCMC采样的新研究方向铺平了道路。科学家们对MCMC研究做出了原创性的重大贡献,而且值得一提的是,这个过程是可以被严格分析和证明的。结果也非常全面和有说服力。

该论文的作者之一胡杰目前是北卡罗莱纳州立大学的博士生,在武汉理工大学获得学士学位,在西北大学获得硕士学位。

论文6:频率顺序学习的贝叶斯设计原理

院校:哥伦比亚大学

作者:YunbeiXu、AssafZeevi

论文地址:

https://openreview.net/forum?idtRhQsHnoFw

文章简介:本文研究了设计老虎机和其他顺序决策策略的非常普遍的问题。该文章提出了一种使用称为算法信息系数的新量来限制任何策略的遗憾的方法,并推导了一种优化该限制的方法。该约束比以前的类似理论量更严格,并且这些方法在随机和对抗老虎机设置中都表现良好,实现了全局最优。

特别有趣的是,除了著名的ThompsonSampling和UCBforbandit之外,这篇论文可能会为全新的探索和开发策略打开大门。事实上,如果扩展到强化学习领域,这一原理将具有很大的前景。文章得到了专家审稿人的一致和大力支持。

该文章的第一作者YunbeiXu拥有哥伦比亚大学商学院博士学位,目前是麻省理工学院的博士后研究员,将于2024年秋季加入新加坡国立大学担任助理教授。毕业于北京大学数学系,获学士学位。

参考链接:

https://icml.cc/Conferences/2023/Awards

*封面图片来源:

https://twitter.com/icmlconf/status/1683917404689305600?s20

本文转载自互联网,如有侵权,联系删除

本文地址:https://www.5i818.cn/157.html

相关推荐

英文学术论文润色

英文学术论文润色

英文学术论文润色由于中英文表达方式的差异,中国学者撰写的文章或多或少会存在语法错误或逻辑表达模糊,无法准确传达作者的想法。如果学者们苦心...

论文改写 2024.02.13 0 74

发布评论

文章目录