参加希望の方は採用ページをご覧下さい。 学生の方は, 夏季実習・一般実習でも参加できます。 実習については, 大学または, 最寄りの所員までどうぞ。
日程: 毎週金曜日 15:00-, @3階 交流コーナ.
- 注: 現在, 発表資料は外部へは公開していませんのでご注意ください。
2013 2012 2011 2010 2009 2008 2007
12/25(木) 坂野
- Hamm, Jihun and Lee, Daniel,Grassmann Discriminant Analysis: a Unifying View on Subspace-Based Learning, in Proc. ICML2008 http://icml2008.cs.helsinki.fi/papers/312.pdf を中心に部分空間法の最近の発展を紹介します.
- スライド http://carbon.videolectures.net/2008/pascal2/icml08_helsinki/hamm_sbl/icml08_hamm_sbl_01.pdf
- 発表資料bayes1225Sakano.pdf
- (参考)Jihun Hammさんの学位論文 http://www.seas.upenn.edu/~jhham/Papers/thesis-jh.pdf
- (参考)農工大堀田先生のチュートリアル http://imd-www.naist.jp/~amano/SS2008/pdf/T-1.pdf
12/15(月) 石黒
- "Collapsed Variational Inference for HDP". Yee Whye Teh, Kenichi Kurihara, Max Welling. In NIPS 2007.
- 論文nips2007b.pdf
- 発表資料081215Bayes.ppt
12/9(火) 青山
- The principal component analysis of a graph, and its relationships to spectral clustering, M. Sarens, F. Fouss, et al, Proc. ECML 2004.
- 論文Saerens-PCA.Graph-ECML2003.pdf
- 参考論文Fouss-RandWalk-TKDE2007.pdf
- 資料GraphLaplacian.081209.v2.ppt
- Graph上のrandaom walkに基づき定義されるnode間の距離(類似度)、hitting time (average first-passage time)、commute timeの計算方法(closed form 表現:Graph Laplacianの、Greville theoremを用いたMoore-Penrose一般化逆行列による)とその利用法を中心にお話します。
12/2(火) 南
11/25(火) 渡部
- "APPROXIMATING THE KULLBACK LEIBLER DIVERGENCE BETWEEN GAUSSIAN MIXTURE MODELS," John R. Hershey and Peder A. Olsen, IBM, ICASSP 2007
- 論文 kldiv_gmm.pdf
- 資料 kl_gmm_v1.pdf
11/20(木) 亀岡
- 「非負値行列因子分解とその音声信号処理への応用」
- 資料 Kameoka2008Bayes1120.ppt
11/13(木) 川前
- Meeds, E., Ghahramani, Z., Neal, R. and Roweis, S.T. Modeling Dyadic Data with Binary Latent Factors. In Advances in Neural Information Processing Systems 19 (NIPS-2006) http://learning.eng.cam.ac.uk/zoubin/papers/Meeds.pdf
10/21(火) 藤野
- Raina et al., Self-taught learning: transfer learning from unlabeled data, ICML-2007, http://delivery.acm.org/10.1145/1280000/1273592/p759-raina.pdf?key1=1273592&key2=8921654221&coll=GUIDE&dl=GUIDE&CFID=7331259&CFTOKEN=19918792
- 資料 deep_learning_raina.ppt
- 補足資料 081021.pdf
- 参考論文:Lee, et al., Efficient sparse coding algorithms, NIPS-06, http://www.stanford.edu/~hllee/nips06-sparsecoding.pdf
- Sparse Coding のコード: http://www.stanford.edu/~hllee/softwares/nips06-sparsecoding.htm
- 参考論文:Lee, et al., Exponential family sparse coding with application to self-taught learning with text documents, ICML-08 Workshop, http://prior-knowledge-language-ws.wdfiles.com/local--files/start/lee.pdf
- 関連資料:Lee, et al., A sparse deep belief network model for visual area V2, NIPS-07, http://www.stanford.edu/~hllee/nips07-sparseDBN.pdf
10/9(木) 櫻井
- F4: Large Scale Automated Forecasting Using Fractals. D. Chakrabarti, C. Faloutsos, CIKM2002,
- http://www.cs.cmu.edu/~deepay/mywww/papers/F4.pdf
- 資料 F4-2002.ppt
9/30(火) 岩田
- Learning Classifiers from Only Positive and Unlabeled Data. Charles Elkan, Keith Noto, KDD2008,
- http://portal.acm.org/ft_gateway.cfm?id=1401920&type=pdf&coll=ACM&dl=ACM&CFID=2865507&CFTOKEN=22773371
- 資料 bayesiwata080930.pdf
9/16(火) 上田
- "Sampling the Dirichlet Mixture Model with Slices". Stephen G. Walker, Communications in Statistics--Simulation and Computation, 36:45-54, 2007. 論文は、6/3の持橋さんの資料のwalker07sampling.pdf です。
- メモ資料: ueda-080916.dpmslices.ppt
- メモ追加(山田): Slice_Sampling_yamada.ppt
9/9(火) 山田
- "Bayesian Density Regression", David B. Dunson and Natesh Pillai Ya4.28.06.pdf
- 発表用資料:080909Bayes.ppt
9/2(火) 持橋
- "Semi-supervised Learning of Compact Document Representations with Deep Networks". Marc'Aurelio Ranzato and Martin Szummer, ICML 2008.
- http://icml2008.cs.helsinki.fi/papers/611.pdf
- Szummerのスライド: http://www.iro.umontreal.ca/~lisa/twiki/pub/Public/DeepLearningWorkshopNIPS2007/deep_learning_szummer.pdf
8/27(水) 石黒
- "The Dynamic Hierarchical Dirichlet Process", Lu Ren et al., ICML2008.
- 論文:dHDP_ICMLv7.pdf
- 発表用資料:080827Bayes.ppt
8/19(火) 青山
- Fast similarity search for learned metrics, P. Jain, et al, CVPR2008.
- 論文:FastImageSearch-LSH-CVPR2008-501.pdf
- 関連資料1(CVPR発表PPTファイル):jain_et_al_cvpr2008.ppt
- 関連資料2(ITMLの詳細:ICML2007発表):MetricLearning-ICML2007.pdf
- 関連資料3(LogDet関係、BregmanMatDiv):KernelLearning.BregmanMatDiv.pdf
- 距離学習HP:http://www.cse.msu.edu/~yangliu1/distlearn.htm
- 発表資料1次版:FastImageSearch.080819.v1.ppt
8/12(火) 夏休み
8/5 (火) 藤野
7/29 (火) 川前
- M. Opper: A Bayesian Approach to Online Learning, 1998, in Online Learning in Neural Networks, pages 363-378, Cambridge University Press. [[http://ki.cs.tu-berlin.de/publications/opper/papers/Op98b.pdf]]
7/22 (火) 坂野
- Paul Adrien Maurice Dirac,「一般相対性理論」から微分幾何学のやさしい講義をします.極優しいところをやるので一部の人には不要かもしれません.
- 赤穂:情報幾何と機械学習, 計測と制御|http://www.neurosci.aist.go.jp/~akaho/papers/infogeo-sice.pdf]], [[東大集中講義発表資料
- S.Amari, "Information Geometry of the EM and em Algorithms for Neural Networks" AmariEM.pdf
- S.Amari, "Information Geometry on Hierarchy of Probability Distributions" 00930911.pdf
- Bradley Efron, "Defining the Curvature of a Statistical Problem (with Applications to Second Order Efficiency)", Source: Ann. Statist. Volume 3, Number 6 (1975), 1189-1242. EfronCurvature.pdf
7/15 (火) 櫻井
- Anna C. Gilbert, Yannis Kotidis, S. Muthukrishnan, Martin J. Strauss, "Surfing Wavelets on Streams: One-Pass Summaries for Approximate Aggregate Queries". VLDB 2001 http://www.vldb.org/conf/2001/P079.pdf
7/10 (木) 藤野
- Bishop, C. M. and Lasserre, J. (2007) Generative or Discriminative? getting the best of both worlds In Bayesian Statistics 8, Bernardo, J. M. et al. (Eds), Oxford University Press. 3--23. With discussion. http://research.microsoft.com/~cmbishop/downloads/Bishop-Valencia-07.pdf
- 発表資料080710.pdf
6/24 (火) 岩田
- "Topic Models Conditioned on Arbitrary Features with Dirichlet-multinomial Regression". David Mimno and Andrew McCallum. UAI 2008. http://www.cs.umass.edu/~mimno/papers/dmr-uai.pdf
- 発表資料drichletmultinomialregression080624.pdf
6/18 (木) 上田
- "Coalescent theory", M. Nordborg. In D. J. Balding, M. J. Bishop, and C. Cannings, editors, Handbook of Statistical Genetics, pages 179-212. John Wiley & Sons, Inc., Chichester, U.K., 2001. wiley.pdf
- "Genealogical trees, coalescent theory, and the analysis of genetic polymorphisms", N. A. Rosenberg and M. Nordborg. Nature Rev. Genetics,vol.3:380-390,2002. rosenberg_nordborg_2002.pdf
- 関連資料 lecture_01.pdf
- メモ資料 ueda0619.pptx
6/12 (木) 山田
- "Bayesian Agglomerative Clustering with Coalescents", Yee Whye Teh, Hal Daume III and Daniel Roy. daume07coalescent.pdf
- The Coalescent, J. F. C. Kingman, Stochastic Systems and their Applications, 13, 1982 img01751.pdf
- On the Genealogy of Large Populations, J. F. C. Kingman, Journal of Applied Probability, 19, 1982 img01752.pdf
- Bayesian Agglomerative Clustering with Coalescents, Yee Whye Teh teh.pdf
- http://www.inference.phy.cam.ac.uk/mackay/trees/
- メモ CoalescenceMemo.ppt
6/3 (火) 持橋
- "Slice Sampling". Radford Neal. The Annals of Statistics, 31(3), pp.705-767, 2003. http://projecteuclid.org/DPubS?service=UI&version=1.0&verb=Display&handle=euclid.aos/1056562461
- "Beam Sampling for the Infinite Hidden Markov Model". Jurgen Van Gael, Yunus Saatci, Yee Whye Teh, Zoubin Ghahramani, ICML 2008. http://mlg.eng.cam.ac.uk/jurgen/pubs/icml2008ihmm.pdf
- "Sampling the Dirichlet Mixture Model with Slices". Stephen G. Walker, Communications in Statistics--Simulation and Computation, 36:45-54, 2007. walker07sampling.pdf (注:個人的に入手したものなので、再配付はしないで下さい)
- Sampling the Dirichlet Mixture Model with Slices 上の論文の working paper 版(山田)
5/26 (月) 坂野
- D. Benedetto, E. Caglioti, V. Loreto: "Language Tree and Zipping"BenedettoCagliotiLoreto2002.pdf
- それに対するコメントcommentbyKhmelevTeahan2003.pdf
- それに対する回答replytoKhmelevTeahan2003.pdf
- 別の人からのコメントcommentbyGoodman.pdf
- それに対する回答replytoGoodman.pdf
- 発表資料ですLanguageTreeAndZippng.pdf
5/13 (火) 石黒
- "Learning Multiscale Representations of Natural Scenes Using Dirichlet Processes". Jyri J. Kivinen, Erik B. Sudderth and Michael I. Jordan. KivinenSudderthJordan2007.pdf
- ICCV2007で発表された論文です。画像のカテゴライズにHDP (iHMM) を使っています。
- 発表資料です。080513material.pdf
4/23 (水) 青山
- H. Lin, C. Amanatidis, M. Sideri, R.M. Karp, and C.H. Papadimitriou: "Linked Decomposition of Networks and the Power Law of Choice in Polya Urns": http://www.eecs.berkeley.edu/~henrylin/covers_soda_full.pdf
- Proc. SODA: LinkedDecomp.SODA.2008.pdf
- 参考資料(Linの発表資料):Lin-soda08.ppt
- 関連論文(Infinit Polya urn problem):General.PolyaUrnProb.2003.pdf
- 発表資料:LinkedDecomp.v2.080423.pdf
- PA(m)によるgraph生成とnodeのsubgraph割当てを同時に行い、特にPA processを3ステップに分ける(node数が1〜n^{1/2},n/2,nの3領域で)ところに特徴があります。このgraph生成過程により証明の大部分が完了し、残りの証明の見通しも良くなっています。3章以降は、nがnode数ではなく、subgraph数(component数)に置き換わっていることに注意。
4/15 (火) 渡部
- R. Kuhn, J.-C. Junqua, P. Nguyen, and N. Niedzielski: "Rapid speaker adaptation in eigenvoice space," IEEE Trans. SAP, vol. 8, pp. 695--707, (2000).
- 音声認識の話者適応タスクにおける標準技術の一つです.話者適応における簡単な技術背景等も加えてお伝えできればと思います.
4/08 (火) 川前
- X. Wang and A. McCallum, Topics over Time: A Non-Markov Continuous-Time Model of Topical Trends, Proceedings of the 12th ACM SIGKDD, pp. 424-433, 2006. http://www.cs.umass.edu/~mccallum/papers/tot-kdd06s.pdf
- D. M. Blei and J. D. Lafferty. Dynamic topic models. In Proceedings of the 23rd International Conference on Machine Learning, 2006. http://www.cs.princeton.edu/~blei/papers/BleiLafferty2006a.pdf
3/25 (火) 櫻井
- Optimal Multi-Scale Patterns in Time Series Streams, SIGMOD 2006 http://www.cs.cmu.edu/~spapadim/pdf/msbasis_sigmod06.pdf
- 時系列データのトレンド検出
- 発表資料:msbasis-sigmod06.ppt
3/13 (木) 藤野
- Semi-supervised Multitask Learning http://www.ee.duke.edu/~lcarin/semisupervised_MTL_NIPS2007.pdf http://books.nips.cc/papers/files/nips20/NIPS2007_1035_slide.pdf
- 発表資料:080313.pdf
- 参考論文:Multi-Task Learning for Classification with Dirichlet Process Priors http://jmlr.csail.mit.edu/papers/volume8/xue07a/xue07a.pdf
2/12 (火) 岩田
- On class visualisation for high dimensional data: Exploring scientific data sets http://www.cs.bham.ac.uk/~axk/jy1.pdf
- 次元圧縮しつつクラスタリングをするモデルベースの可視化法
- 発表資料 iwata080212.pdf
1/29 (火) 上田
- P.D. Hoff, "Subset clustering of binary sequences, with an application to genomic data" subset_clustering.pdf
- 内容的には、一部の特徴で特徴付けられるクラスターをクラスター数未知の下で見つける手法です。DPMの興味深い応用で、かつ、IRMのように特徴を排他的にクラスタ化するのではなく、多重かつソフトクラスタリングするという意味で、応用範囲が広い手法です。IBPは潜在特徴の多重抽出ですが、本論文は、顕在特徴の多重抽出のモデル化です。考え方が非常にすっきりしていて手法もシンプルなので個人的にはお気に入りなので、紹介させていただきます。
- 式の導出等の補足資料 ueda-memo.pdf
- SubSetClusteringtr456.pdf Technical Report 版です。(山田追加)
- SubSpaceClusteringhoff321-344.pdf 関連論文(前回、石黒君がついでに紹介してくれたものです)。(山田追加)
- Mike West: "Hyperparameter estimation in Dirichlet process mixture models" 92-A03.pdf (ハイパーパラメータの推定に関する文献、山田追加)
- Michael D Escobar and Mike West: "Computing Nonparametric Hierarchical Models" escobar98computing2.pdf (同上、山田追加)
1/22 (火) 山田
- Yee Whye Teh, Dilan Gorur and Zoubin Ghahramani "Stick-breaking Construction for the Indian Buffet Process" TehGorGha07.pdf
- W. R. Gilks, P. Wild Adaptive Rejection Sampling for Gibbs Sampling ARSslides.pdf
- レジュメ sb-ibp.ppt
1/8 (火) 持橋
- Michalis K. Titsias, "The Infinite Gamma-Poisson Feature Model", NIPS 2007. http://www.cs.man.ac.uk/~mtitsias/papers/nips07.pdf
- イーエンス確率分割: "The Sampling Theory of Selectively Neutral Alleles", Theoretical Population Biology, 3 87-112, 1972. ewens72alleles.pdf