従来の強化学習では、エージェントは何度も失敗や衝突を繰り返しながら学習を重ねていきます。しかし、これは試行錯誤の原則に基づいて動作・学習しているだけであり、エージェントは行動のよしあしを検討しておらず、安全性が保障されません。人工知能(AI)を研究する非営利団体OpenAIは、「従来の強化学習では、AIが危険な動作によって予測できないエラーを起こす可能性がある」と指摘し、安全上の制約を尊重しながらエージェントの強化学習を行うためのツール群「Safety Gym」を発表しました。
———
Source: GIGAZINE
