Weitere ähnliche Inhalte Ähnlich wie 【DLL3】20170904_AIガイドライン_PFN丸山宏 (20) Mehr von Preferred Networks (20) 【DLL3】20170904_AIガイドライン_PFN丸山宏6. 機械学習の知財をめぐる動き
● RIETI, 企業において発生するデータの管理と活用に関する実証研究,
「IoT,BD,AIデータ知財に関する研究会」
— http://www.rieti.go.jp/jp/projects/program_2016/pg-04/005.html
● 内閣府 知的財産戦略本部「新たな情報財検討委員会」
— http://www.kantei.go.jp/jp/singi/titeki2/tyousakai/kensho_hyoka_kikaku/2017/joho
zai/dai1/gijisidai.html
● 経済産業省、「第四次産業革命を視野に入れた知財システムの在り方に関
する検討会」
— http://www.meti.go.jp/committee/kenkyukai/sansei/daiyoji_sangyo_chizai/001_hai
fu.html
● MLEP (機械学習利用促進勉強会)
● Deep Learning懇談会(松尾先生)
10. 10
2017年7月
● 国際的な議論のための AI開発ガイドライン案
● 「開発者が遵守すべき基準を定めるものとしてではなく、開発者が留意し
て対応し、対応状況について利用者等に対しアカウンタビリティを果たす
ことが期待される事項に関し国際的に共有されることが期待される非拘束
的な指針」
● AIとは、「学習等により自らの出力やプログラムを変化させるソフトウェ
ア」
● Googleやamazon.comがまずガイドラインを守ってくれるのなら歓迎
13. 13
IJCAIにおける自律性に関する議論
● Keynote by Stuart Russell, “Provably Beneficial AI”
— ロボットにキルスイッチをつけると?
◆ 人:「コーヒーをとってきて」
◆ ロボット: “自分が動けなくなったら目的が達成できない” → まず
キルスイッチを無効化
— 人の意図が常に曖昧であることを教えなければならない
● Tom Everitt, “Reinforcement Learning with a Corrupted Reward
Channel”
— “Wirehead”問題。強化学習において報酬関数が正しくなかったら何が起
きるか。
どちらも、最適化問題における「正しい仕様のあり方」の問題を提起
15. 機械学習システムは、高金利クレジット!
• CACE (Changing Anything Changes
Everything) 原理 – すべてが絡み合っ
ている
• グルーコード、試験的なコード片な
ど、すべてが将来のメインテナスの
悪夢につながる
• …
https://static.googleusercontent.com/media/research.google.com/en//pubs/archive/43146.pdf
17. ハイパーパラメタのチューニング
モデルの複雑さが足りない領域
- More layer / nodes
過学習の領域
- Reduce model size
- More generalization (dropout etc.)
- More training data
“Typical relationship between capacity and error”,
p. 115 of Goodfellow, I., Bengio, Y., and Courville, A.: Deep Learning, MIT Press, 2016
18. Learning Rate はいろいろ試してみるべき
“If you have time to tune only one hyperparameter, tune the learning rate”,
p. 431 of Goodfellow, I., Bengio, Y., and Courville, A.: Deep Learning, MIT Press, 2016
22. 22
同様に、今こそ “機械学習工学” を!
● 要求工学
— 機械学習のメリット・限界をどのようにステークホルダと共有するか?
— 目的関数をどのように設定するか
● ツール
— 機械学習におけるIDEとは?
— 機械学習の成果物、特に訓練データセットと学習済みモデルをどのようにリポ
ジトリ管理するか?
— 過度に自動化されたツールによる過学習をどのように避けるか?
● テスト
— 機械学習における “リグレッション・テスト” とは?
— テスト駆動開発(TDD)から学べることは何か?
● 運用
— 学習済みモデルの「賞味期限」をどのように検出するか?