AAI-2017

2017年度Deep Learning基礎講座(公開講座)

MLP・ニューラルネットワークの基礎から始まり、徐々にDeep Learningの核心的技術や最新トピックが学べるように設計された、高度なプログラムを提供します。「Practice makes perfect」の考えに基き、演習を通じての技術習得を目指します。演習では、ブラウザ上からGPUを利用したPythonコーディングが可能な開発環境「ilect.net」を提供しており、本題に集中して学習できます(ilectの詳細はこちら)。教科書として「深層学習」(機械学習プロフェッショナルシリーズ)を利用しますので受講者は必ず用意して受講に臨んでください。尚、本講座は自主講義であり、大学からは単位は出ませんのでご了承ください。

  • 日時:毎週火曜日 第4時限(14:55~16:40)
  • 場所:東京大学工学部2号館2階223号講義室(大学院授業と同時開催。公開講座は遠隔での実施となります)
  • 対象:社会人および東京大学の学生(学部生優先)

応募ページ

2017年度のハイライト

  • 受け入れ受講者数の増加
  • 秋には応用講座を開設予定
  • TensorFlowを中心とした新演習コンテンツ
  • Attentionモデルなどの新しい内容の追加,NLPトピックの拡充(予定)

目次

(内容は調整中で、変更される可能性があります)

  1. Introduction
    内容:Deep Learningとは/人工知能技術の歴史、社会への影響/講義全体像と注意事項/ 全員挨拶
    日付:2017/4/11
  2. Machine Learning 1
    内容:Pythonと線形代数,行列・テンソル,数式と実装のブリッジ
    日付:2017/4/18
  3. Machine Learning 2
    内容:k-NN, Logistic Regression, Softmax, train/dev/testデータセット,学習プロセス
    日付:2017/4/25
  4. Perceptron + Feed Forward Network, Gradient Descent
    内容:Gradient Descent, MLP, Logistic Regression, Softmax
    日付:2017/5/2
  5. Gradient Descent, Stochastic Gradient Descent, Optimizers
    内容:TensorFlow基礎、各種Optimizers、重みの初期化など
    日付:2017/5/9
  6. Autoencoders
    内容:Deep Learning、特徴抽出、Autoencoder概要、dA, SdA, Sparse Coding, GPU
    日付:2017/5/16
  7. Convolutional Neural Networks(CNN)
    内容:CNN基礎、畳込み、プーリング
    日付:2017/5/23
  8. Convolutional Neural Networks(CNN) 2
    内容:画像処理、前処理、Data Augmentation、Batch Normalization、可視化、最新動向
    日付:2017/6/6
  9. RNN Basics
    内容:系列データ, RNN
    日付:2017/6/13
  10. RNN and NLP
    内容:Embedding, Projection, Word2vec, sequence-to-sequence
    日付:2017/6/20
  11. RNN, NLP, Image Processing
    内容:Attention, Image caption
    日付:2017/6/27
  12. Summary and Advanced Topics
    内容:Advanced Topics
    日付:2017/7/4