NTTコミュニケーション科学基礎研究所
ベイズ勉強会 (機械学習輪講)
eyecatcher picture
内部で行っている, 統計的機械学習(ベイズに限らなくてもよい)の論文輪講です。
参加希望の方は採用ページをご覧下さい。 学生の方は, 夏季実習・一般実習でも参加できます。 実習については, 大学または, 最寄りの所員までどうぞ。
日程: 毎週金曜日 15:00-, ＠3階 交流コーナ.
  • 注: 現在, 発表資料は外部へは公開していませんのでご注意ください。

2013   2012   2011   2010   2009   2008   2007  

12/25(木) 坂野

12/15(月) 石黒

  • "Collapsed Variational Inference for HDP". Yee Whye Teh, Kenichi Kurihara, Max Welling. In NIPS 2007.
  • 論文nips2007b.pdf
  • 発表資料081215Bayes.ppt

12/9(火) 青山

  • The principal component analysis of a graph, and its relationships to spectral clustering, M. Sarens, F. Fouss, et al, Proc. ECML 2004.
  • 論文Saerens-PCA.Graph-ECML2003.pdf
  • 参考論文Fouss-RandWalk-TKDE2007.pdf
  • 資料GraphLaplacian.081209.v2.ppt
  • Graph上のrandaom walkに基づき定義されるnode間の距離（類似度）、hitting time (average first-passage time)、commute timeの計算方法(closed form 表現：Graph Laplacianの、Greville theoremを用いたMoore-Penrose一般化逆行列による）とその利用法を中心にお話します。

12/2(火) 南

11/25(火) 渡部

  • "APPROXIMATING THE KULLBACK LEIBLER DIVERGENCE BETWEEN GAUSSIAN MIXTURE MODELS," John R. Hershey and Peder A. Olsen, IBM, ICASSP 2007
  • 論文 kldiv_gmm.pdf
  • 資料 kl_gmm_v1.pdf

11/20(木) 亀岡

11/13(木) 川前

10/21(火) 藤野

10/9(木) 櫻井

9/30(火) 岩田

9/16(火) 上田

  • "Sampling the Dirichlet Mixture Model with Slices". Stephen G. Walker, Communications in Statistics--Simulation and Computation, 36:45-54, 2007. 論文は、6/3の持橋さんの資料のwalker07sampling.pdf です。
  • メモ資料: ueda-080916.dpmslices.ppt
  • メモ追加（山田）: Slice_Sampling_yamada.ppt

9/9(火) 山田

9/2(火) 持橋

8/27(水) 石黒

8/19(火) 青山

8/12(火) 夏休み

8/5 (火) 藤野

7/29 (火) 川前

7/22 (火) 坂野

  • Paul Adrien Maurice Dirac,「一般相対性理論」から微分幾何学のやさしい講義をします．極優しいところをやるので一部の人には不要かもしれません．
  • 赤穂：情報幾何と機械学習, 計測と制御|http://www.neurosci.aist.go.jp/~akaho/papers/infogeo-sice.pdf]], [[東大集中講義発表資料
  • S.Amari, "Information Geometry of the EM and em Algorithms for Neural Networks" AmariEM.pdf
  • S.Amari, "Information Geometry on Hierarchy of Probability Distributions" 00930911.pdf
  • Bradley Efron, "Defining the Curvature of a Statistical Problem (with Applications to Second Order Efficiency)", Source: Ann. Statist. Volume 3, Number 6 (1975), 1189-1242. EfronCurvature.pdf

7/15 (火) 櫻井

  • Anna C. Gilbert, Yannis Kotidis, S. Muthukrishnan, Martin J. Strauss, "Surfing Wavelets on Streams: One-Pass Summaries for Approximate Aggregate Queries". VLDB 2001 http://www.vldb.org/conf/2001/P079.pdf

7/10 (木) 藤野

6/24 (火) 岩田

6/18 (木) 上田

  • "Coalescent theory", M. Nordborg. In D. J. Balding, M. J. Bishop, and C. Cannings, editors, Handbook of Statistical Genetics, pages 179-212. John Wiley & Sons, Inc., Chichester, U.K., 2001. wiley.pdf
  • "Genealogical trees, coalescent theory, and the analysis of genetic polymorphisms", N. A. Rosenberg and M. Nordborg. Nature Rev. Genetics,vol.3:380-390,2002. rosenberg_nordborg_2002.pdf
  • 関連資料 lecture_01.pdf
  • メモ資料 ueda0619.pptx

6/12 (木) 山田

6/3 (火) 持橋

5/26 (月) 坂野

5/13 (火) 石黒

  • "Learning Multiscale Representations of Natural Scenes Using Dirichlet Processes". Jyri J. Kivinen, Erik B. Sudderth and Michael I. Jordan. KivinenSudderthJordan2007.pdf
  • ICCV2007で発表された論文です。画像のカテゴライズにHDP (iHMM) を使っています。
  • 発表資料です。080513material.pdf

4/23 (水) 青山

  • H. Lin, C. Amanatidis, M. Sideri, R.M. Karp, and C.H. Papadimitriou: "Linked Decomposition of Networks and the Power Law of Choice in Polya Urns": http://www.eecs.berkeley.edu/~henrylin/covers_soda_full.pdf
  • Proc. SODA: LinkedDecomp.SODA.2008.pdf
  • 参考資料（Linの発表資料）:Lin-soda08.ppt
  • 関連論文(Infinit Polya urn problem):General.PolyaUrnProb.2003.pdf
  • 発表資料：LinkedDecomp.v2.080423.pdf
  • PA(m)によるgraph生成とnodeのsubgraph割当てを同時に行い、特にPA processを3ステップに分ける（node数が1〜n^{1/2},n/2,nの3領域で）ところに特徴があります。このgraph生成過程により証明の大部分が完了し、残りの証明の見通しも良くなっています。3章以降は、nがnode数ではなく、subgraph数（component数）に置き換わっていることに注意。

4/15 (火) 渡部

  • R. Kuhn, J.-C. Junqua, P. Nguyen, and N. Niedzielski: "Rapid speaker adaptation in eigenvoice space," IEEE Trans. SAP, vol. 8, pp. 695--707, (2000).
  • 音声認識の話者適応タスクにおける標準技術の一つです.話者適応における簡単な技術背景等も加えてお伝えできればと思います.

4/08 (火) 川前

3/25 (火) 櫻井

3/13 (木) 藤野

2/12 (火) 岩田

1/29 (火) 上田

  • P.D. Hoff, "Subset clustering of binary sequences, with an application to genomic data" subset_clustering.pdf
  • 内容的には、一部の特徴で特徴付けられるクラスターをクラスター数未知の下で見つける手法です。DPMの興味深い応用で、かつ、IRMのように特徴を排他的にクラスタ化するのではなく、多重かつソフトクラスタリングするという意味で、応用範囲が広い手法です。IBPは潜在特徴の多重抽出ですが、本論文は、顕在特徴の多重抽出のモデル化です。考え方が非常にすっきりしていて手法もシンプルなので個人的にはお気に入りなので、紹介させていただきます。
  • 式の導出等の補足資料 ueda-memo.pdf
  • SubSetClusteringtr456.pdf Technical Report 版です。（山田追加）
  • SubSpaceClusteringhoff321-344.pdf 関連論文（前回、石黒君がついでに紹介してくれたものです）。（山田追加）
  • Mike West: "Hyperparameter estimation in Dirichlet process mixture models" 92-A03.pdf (ハイパーパラメータの推定に関する文献、山田追加)
  • Michael D Escobar and Mike West: "Computing Nonparametric Hierarchical Models" escobar98computing2.pdf (同上、山田追加)

1/22 (火) 山田

  • Yee Whye Teh, Dilan Gorur and Zoubin Ghahramani "Stick-breaking Construction for the Indian Buffet Process" TehGorGha07.pdf
  • W. R. Gilks, P. Wild Adaptive Rejection Sampling for Gibbs Sampling ARSslides.pdf
  • レジュメ sb-ibp.ppt

1/8 (火) 持橋