JAWS-UG AI #7
#jawsug_ai
イベントの説明
はじめに
JAWS-UG AI 支部とは、Deep Learningを中心とした AI 関連技術を学び AWS 上で活用してくためのユーザグループです。
「AWSは知っているけど、Deep Learningって何？」という方を対象とします。
「これからDeep Learning だけでなく AWSも同時に学びたい」という方も歓迎いたします。
JAWS-UG AI #7
今回は機械学習分野ではとても名の知れた企業さんからの事例・知見紹介です！
もちろん AWSJ さんから AI 関連サービスのアップデートもお楽しみに〜
【開催概要】
【スケジュール】
18:45 受付開始
19:00-19:05 あいさつ
19:05-19:25 AWSJ さんより AI 関連サービスアップデート
19:25-19:40 タイトル未定（佐々木 邦暢さん / NVIDIA Japan）
19:40-20:10「Deep Learning プラットフォームを支える技術」（村主 壮悟さん / ABEJA）
20:10-20:40「深層学習インフラ、借りるべきか買うべきか？」（福田 圭祐さん / Preferred Networks）
20:40-20:55 Q&A、ネットワーキングなど
21:00 撤収
AWSJ さんより AI 関連サービスアップデート
#AWSのMLサービススタック
##Amazon Polly
・3000文字まで対応
##Amazon SageMaker
・東京リージョン対応
・Chainer対応
・エンドポイントがAutoScalingに対応
・推論エンドポイントがプライベートIPを対応
・起動時に起動スクリプトを流せるようになった。
・新たにアルゴリズムが追加
DeepAR, BlazingText, Random Cut Forest, kNN
・既存アルゴリズム改善：LinearLearner, DeepAR
##DeepLens
・正式発売、米国のみ利用可能
・TensorFlow, Caffe, MXNetサポート
## AWS Greengrass ML Infrerence
・DeepLensにも基本搭載されている。
・一般利用可能になった。
## Deep Learning AMI アップデート
・P3インスタンス向けての最適化を実質
・C5インスタンス向けての最適化および東京リージョン対応
## AWS Training 日本語字幕でたらしい。
# NVIDIA AIコンピューティング
・Tensorcoreで世界一のスパーコンになった。
・1ノード6枚、27648 GPU搭載されている。
・1から７位の６ システムがNVIDIA GPU
・１ノード１６枚GPUのNVIDIA DGX-2開発中
・StorageもCacheだけではなく、グレードアップしたそう。
・5年間500倍になって来た。
・GTX580で6日かかった処理がDGX-2では18分で終わる。
・JETSON TX2組み込みAIスーパーIoT -> XAVIER開発中
・NVIDIA ISAAC→ロボット向けのSDK
・NVIDIA ISAAC IMX ロボットシミュレーター公開予定
・自動運転車 Flatform : Drive ペガスス
・DRIVE SIM 及びCONSTELLATIONを提供
・NVIDIA GPU CLOUD
NGC 登録キャンペーン応募フォーム
# Deep Learning プラットフォームを支える技術(Deep Learning Platform Behine the Scene)
・【参考まで】Kubernetes x AWS x GPUにハマった話
・Cloud Watchの上限があるため、DynamoDBを使用して、Loggingする。（全文検索は利用していないため、費用を押さえるため）
・SpotInst使用している
・TL;DR (Blogで話しているらしい。)
# 深層学習インフラ、借りるべきか買うべきか？
## 深層学習とは？
・深層学習＜機械学習＜自動プログラミング
・深層学習特徴量を自動発見できる。
・パラメーター数：数MB〜数GB
・行列積＋非線形関数
・学習対象データ量：数GB〜数TB
## GAN敵精製モデル
・２人のプレーヤーが競い合う、嘘モデルと正しいモデルを生成
## ChainerMN:並列深層学習ライブラリ
・1024GPUをフル活用したい場合のImageNetで学習
## 計算環境
・MN-1 : NTT-COM環境
## GPUはよくフリーズされるらしい。
## クラウドを利用しない、オンプレを使っている理由
・Cloud giants 'ran out' of fast GPUs for AI boffins
・競争力確保のため