AI Navigate

NeurIPS2020 ハイライト NeurIPS2020 ハイライト 2020年11月23日 survey

AI-SCHOLAR / 3/12/2026

📰 NewsIdeas & Deep AnalysisTools & Practical UsageModels & Research

Key Points

  • NeurIPS 2020は世界屈指の機械学習カンファレンスで、COVID-19によりオンライン開催となった。
  • 本記事はPaper Digest TeamがまとめたNeurIPS2020のハイライトを転載しており、信頼性の高いテキスト分析結果を提供している。
  • Paper Digestは科学技術文献の追跡・要約・検索に特化したナレッジグラフとテキスト分析プラットフォームである。
  • 元記事には関連コードも添付されており、技術者が実用的に活用できる内容となっている。

NeurIPS2020 ハイライト

survey

Conference on Neural Information Processing Systems(NIPS)は、世界有数の機械学習のトップカンファレンスです。2020年はcoivd-19パンデミックのためオンラインでの開催が決定しています。

今回はその会議のまとめをご紹介します。このまとめに関する情報です。

このまとめはPaper Digest Teamによって、Paper Digestにまとめられたものになります。Paper Digestは科学文献の追跡、要約、検索のための科学技術ナレッジグラフとテキスト分析プラットフォームです。また、Paper Digest Teamは、ニューヨークを拠点にテキスト分析に取り組んでいる研究グループになります。2018年にChang Wang博士によって設立されました。Paper Digest Teamのミッションは、人々が実際に日常的に利用できる高品質なテキスト分析結果を生み出すことです。

今回は彼らの素晴らしい仕事を弊社記事で転載する許可を得て、公開しております。

元記事にはCodeもついていますので気になった方はここから閲覧できます。他にも技術系の検索にはもってこいのプラットフォームなので皆さんも是非お使いください。

 

TITLE

HIGHLIGHT

1

A graph similarity for deep learning

カーネル距離を採用し、近隣集約内のノード近隣間の連続的な類似性を反映するために、aggregate-transformの代替としてtransform-sum-catを提案します。

2

An Unsupervised Information-Theoretic Perceptual Quality Metric

情報理論的目的関数の最近の進歩を、人間の視覚系の生理学とビデオフレームのペアに関する教師なしトレーニングによって通知される計算アーキテクチャと組み合わせて、知覚情報メトリック(PIM)を生成します。

3

Self-Supervised MultiModal Versatile Networks

この作品では、ビデオに自然に存在する3つのモダリティ、ビジュアル、オーディオ、言語ストリームを活用して、自己監視を使用した表現を学習します。

4

Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method

特定の測定セットを生成する自然システムの隠れたパラメーターを決定したい場合、一般的な逆問題を解くタスクを検討します。

5

Off-Policy Evaluation and Learning for External Validity under a Covariate Shift

この論文では、共変量シフトの下でのOPEの効率限界を導き出します。

6

Neural Methods for Point-wise Dependency Estimation

この作業では、予想される依存関係を推定する代わりに、2つの結果が同時に発生する可能性を定量的に測定するポイントごとの依存関係(PD)の推定に焦点を当てます。

7

Fast and Flexible Temporal Point Processes with Triangular Maps

フローの正規化の分野における最近の開発を活用することにより、サンプリングと尤度計算の両方を並行して実行できる新しいクラスの非反復TPPモデルであるTriTPPを設計します。

8

Backpropagating Linearly Improves Transferability of Adversarial Examples

この論文では、DNNに対する多くのブラックボックス攻撃の基礎を築くそのような例の転送可能性を研究します。

9

PyGlove: Symbolic Programming for Automated Machine Learning

この論文では、シンボリックプログラミングに基づいてAutoMLをプログラミングする新しい方法を紹介します。

10

Fourier Sparse Leverage Scores and Approximate Kernel Learning

ガウス測定とラプラス測定の両方で、フーリエスパース関数のレバレッジスコアの新しい明示的な上限を証明します。

11

Improved Algorithms for Online Submodular Maximization via First-order Regret Bounds

この作業では、オンライン線形最適化に「一次」後悔境界を利用することにより、オンライン劣モジュラ最大化における後悔境界を改善するための一般的なアプローチを示します。

12

Synbols: Probing Learning Algorithms with Synthetic Datasets

この意味で、Synbols — Synthetic Symbols —は、低解像度の画像にレンダリングされた潜在的な特徴の豊富な構成を備えた新しいデータセットを迅速に生成するためのツールを紹介します。

13

Adversarially Robust Streaming Algorithms via Differential Privacy

ストリーミングアルゴリズムの敵対的な堅牢性と差分プライバシーの概念との間に関係を確立します。

14

Trading Personalization for Accuracy: Data Debugging in Collaborative Filtering

このホワイトペーパーでは、データデバッグフレームワークを提案して、特定の協調フィルタリングモデルのパフォーマンスを低下させる、過度にパーソナライズされた評価を特定します。

15

Cascaded Text Generation with Markov Transformers

この作業は、劣線形並列時間生成を使用した自己回帰モデルを提案します。

16

Improving Local Identifiability in Probabilistic Box Embeddings

この作業では、交差の操作の下でスペースがまだ閉じられるように選択された最小および最大ガンベル分布を使用してボックスパラメーターをモデル化します。

17

Permute-and-Flip: A new mechanism for differentially private selection

この作業では、プライバシーの制約を注意深く分析することに基づいて、このタスクの新しいメカニズムを提案します。

18

Deep reconstruction of strange attractors from time series

カオスアトラクタの部分的観測のための古典的な分析手法に触発されて、新しい潜在空間損失関数でトレーニングされたオートエンコーダで構成される、単変量および多変量時系列の一般的な埋め込み手法を紹介します。

19

Reciprocal Adversarial Learning via Characteristic Functions

これを一般化するには、強力なツール、つまり、分布に関するすべての情報を一意かつ普遍的に構成する特性関数(CF)を介して、モーメントではなく分布を比較します。

20

Statistical Guarantees of Distributed Nearest Neighbor Classification

多数決により、分散最近傍分類器は、データ次元のみに依存する乗法定数まで、後悔の点でオラクルバージョンと同じ収束率を達成します。

21

Stein Self-Repulsive Dynamics: Benefits From Past Samples

扱いにくい非正規化分布から多様なサンプルを取得するための新しいスタイン自己反発ダイナミクスを提案します。

22

The Statistical Complexity of Early-Stopped Mirror Descent

この論文では、線形モデルとカーネル法の二乗損失を伴う非正規化された経験的リスクに適用された、早期停止された制約のないミラー降下アルゴリズムによって達成される過剰リスクに関する統計的保証を研究します。

23

Algorithmic recourse under imperfect causal knowledge: a probabilistic approach

この制限に対処するために、限られた因果関係の知識(たとえば、因果関係グラフのみ)が与えられた場合に、高い確率で償還を達成する最適なアクションを選択する2つの確率論的アプローチを提案します。

24

Quantitative Propagation of Chaos for SGD in Wide Neural Networks

この論文では、2層のオーバーパラメータ化ニューラルネットワークに適用された確率的勾配降下(SGD)アルゴリズムの連続時間対応物の制限動作を、ニューロンの数(つまり、隠れ層のサイズ)Nからplusinftyに応じて調査する。

25

A Causal View on Robustness of Neural Networks

従来の分類タスクだけでなく、一般的な測定データにも適用される、入力操作に対するニューラルネットワークの堅牢性に関する因果関係を示します。

26

Minimax Classification with 0-1 Loss and Performance Guarantees

このホワイトペーパーでは、代理損失と一連のルールの選択に依存しないミニマックスリスク分類子(MRC)について説明します。

27

How to Learn a Useful Critic? Model-based Action-Gradient-Estimator Policy Optimization

本論文では、行動価値勾配を明示的に学習する政策勾配の理論に基づいた、モデルベースのアクター批評アルゴリズムであるMAGEを提案する。

28

Coresets for Regressions with Panel Data

この論文では、パネルデータ設定への回帰問題のコアセットの問題を紹介します。

29

Learning Composable Energy Surrogates for PDE Order Reduction

これに対処するために、パラメトリックモジュラー構造を活用してコンポーネントレベルのサロゲートを学習し、より安価で忠実度の高いシミュレーションを可能にします。

30

Efficient Contextual Bandits with Continuous Actions

未知の構造を持つ連続アクションを持つコンテキストバンディットのための計算上扱いやすい学習アルゴリズムを作成します。

31

Achieving Equalized Odds by Resampling Sensitive Attributes

公平性の等化オッズの概念をほぼ満たす予測モデルを学習するための柔軟なフレームワークを提示します。

32

Multi-Robot Collision Avoidance under Uncertainty with Probabilistic Safety Barrier Certificates

この論文は、測定の不確かさと動きの不確かさの両方を考慮した衝突回避法を提案することを目的としています。

33

Hard Shape-Constrained Kernel Machines

この論文では、関数導関数のハードアフィン形状制約を、機械学習と統計で最も柔軟で強力なツールの1つであるカーネルマシンでエンコードできることを証明します。

34

A Closer Look at the Training Strategy for Modern Meta-Learning

サポート/クエリ(S / Q)エピソードトレーニング戦略は、最新のメタ学習アルゴリズムで広く使用されており、環境をテストするための一般化能力を向上させると考えられています。このホワイトペーパーでは、一般化に関するこのトレーニング戦略の理論的調査を行います。

35

On the Value of Out-of-Distribution Testing: An Example of Goodhart's Law

これらの落とし穴を回避し、OOD評価のメリットを実現するために、短期および長期のソリューションを提供します。

36

Generalised Bayesian Filtering via Sequential Monte Carlo

尤度の誤指定の下での一般的な状態空間隠れマルコフモデル(HMM)における推論のフレームワークを紹介します。

37

Deterministic Approximation for Submodular Maximization over a Matroid in Nearly Linear Time

マトロイド制約の対象となる非単調、非負の劣モジュラ関数を最大化する問題を研究します。

38

Flows for simultaneous manifold learning and density estimation

多様体学習フロー(?-フロー)を紹介します。これは、データ多様体とその多様体の扱いやすい確率密度を同時に学習する新しいクラスの生成モデルです。

39

Simultaneous Preference and Metric Learning from Paired Comparisons

この論文では、距離メトリックが未知のマハラノビスメトリックである場合に、ユーザーの好みの理想的なポイント表現を学習する問題について検討します。

40

Efficient Variational Inference for Sparse Deep Learning with Theoretical Guarantee

この論文では、スパイクアンドスラブ事前分布の下で完全ベイズ処理を使用してスパースディープニューラルネットワークをトレーニングし、ベルヌーイ分布の連続緩和を介して計算効率の高い変分推論のセットを開発します。

41

Learning Manifold Implicitly via Explicit Heat-Kernel Learning

この論文では、関連する熱核を学習することによって多様体情報が暗黙的に取得される、暗黙の多様体学習の概念を提案します。

42

Deep Relational Topic Modeling via Graph Poisson Gamma Belief Network

ドキュメントネットワークをより有効に活用するために、まず、相互接続されたドキュメントの確率モデルを構築し、既存のRTMの高度な近似仮定を超えて、閉じた形式のギブスサンプリング更新方程式を提供するグラフポアソン因子分析(GPFA)を提案します。

43

One-bit Supervision for Image Classification

この論文は、画像分類のシナリオにおいて、不完全な注釈から学習する新しい設定である1ビット監視を提示します。

44

What is being transferred in transfer learning?

このホワイトペーパーでは、これらの基本的な質問に対処するための新しいツールと分析を提供します。

45

Submodular Maximization Through Barrier Functions

この論文では、連続最適化におけるバリア関数に触発された、制約付き劣モジュラ最大化のための新しい手法を紹介します。

46

Neural Networks with Recurrent Generative Feedback

フィードバック付き畳み込みニューラルネットワーク(CNN-F)と呼ばれる提案されたフレームワークは、潜在変数を使用した生成フィードバックを既存のCNNアーキテクチャに導入します。ここでは、ベイズフレームワークの下でMAP推論を交互に行うことで一貫した予測が行われます。

47

Learning to Extrapolate Knowledge: Transductive Few-shot Out-of-Graph Link Prediction

この課題に動機付けられて、従来の知識のないリンク予測タスクのように、表示されたノードと表示されていないノードの間のリンクを予測する、数ショットのグラフ外リンク予測の現実的な問題を紹介します。見えないノード。ノードあたりのエッジはわずかです。

48

Exploiting weakly supervised visual patterns to learn from partial annotations

代わりに、このペーパーでは、画像とラベル間の関係を利用して、注釈のないラベルからより多くの監視信号を導き出します。

49

Improving Inference for Neural Image Compression

深い潜在変数モデルを使用した非可逆画像圧縮の問題を検討します。

50

Neuron Merging: Compensating for Pruned Neurons

この作業では、完全に接続された層と畳み込み層の両方に適用可能なニューロンマージの新しい概念を提案します。これは、剪定されたニューロン/フィルターによる情報の損失を補正します。

51

FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence

このホワイトペーパーでは、既存のSSLメソッドを大幅に簡略化したアルゴリズムであるFixMatchを提案します。

52

Reinforcement Learning with Combinatorial Actions: An Application to Vehicle Routing

組み合わせ行動空間を用いた価値関数ベースの深層強化学習のフレームワークを開発します。このフレームワークでは、行動選択問題が混合整数最適化問題として明示的に定式化されます。

53

Towards Playing Full MOBA Games with Deep Reinforcement Learning

本稿では、深層強化学習を用いた完全なMOBAゲームのプレイを方法論的に可能にするMOBAAI学習パラダイムを提案します。

54

Rankmax: An Adaptive Projection Alternative to the Softmax Function

この作業では、このパラメータを個々のトレーニング例に適合させる方法を提案します。

55

Online Agnostic Boosting via Regret Minimization

この作業では、最初の不可知論的なオンラインブースティングアルゴリズムを提供します。つまり、自明ではない後悔の保証がわずかにある弱い学習者を考えると、私たちのアルゴリズムはそれを劣線形後悔のある強い学習者にブーストします。

56

Causal Intervention for Weakly-Supervised Semantic Segmentation

弱教師ありセマンティックセグメンテーション(