ジョナサン Su は言う「機械学習が普遍化に伴い、より深刻な結果を持つアプリケーションに使用される必要がある人々 広告提供を行っているとき彼らそれを信頼でしょうのでそれ予測を作っている方法を理解するため」、MIT リンカーン研究所の情報と意思決定支援グループ技術スタッフのメンバー。
現在、研究者事後技術または使用デシジョン ツリーなどの解釈モデル ブラック ボックス モデルがその結論に達するとを説明します。事後のテクニックと研究者はアルゴリズムの入力を観察し出力、ブラック ボックス中に起こったものについておおよその説明を構築ましょう。この方法の問題点は、研究者が内部の働きで推測できるだけの説明が間違っていることがよくあります。選択肢とツリーのような構造で自分の潜在的な結果をマップ、デシジョン ツリーはその機能の意味があるカテゴリカル データのためうまく動作しますが、これらの木は、他の複雑なコンピュータ ビジョンなどの重要なドメインでは解釈データの問題です。
ニューラル ネットワークは、多くの相互接続された処理要素から成るコンピューティング システムです。これらのネットワークは通常、画像解析、オブジェクト認識のため使用されます。まず写真に犬が含まれているかどうかを認識するアルゴリズムを教えることが、例えば、犬の写真を表示されています。ニューラル ネットワークの問題はその機能が非線形、再帰と同様、複雑で混乱する人間と、最終結果は内ネットワークでは正確には"dogness"として定義されているを特定することは困難であると言う研究者写真とは、その結論に導いた。
それは「プロトタイプ ニューラル ネットワーク」と呼ぶこの問題に対処するためチームの開発中これらは、入力イメージの特に代表的な部品であるプロトタイプを作成することによって当然その予測のそれぞれの説明を符号化するという点で従来のニューラル ネットワークとは異なる。これらのネットワークは、各プロトタイプに入力画像の部分の類似性に基づく予言をします。
研究チームの調査その他の地域は、表形式データに適した、頻繁に他のモデルとして正確なより単純な一方的な決定木である BRLs です。BRLs は、自然解釈モデルを形成する条件付きステートメントのシーケンスの作られています。たとえば、血圧が高い場合、心臓病のリスクは高いです。Su と同僚は、予測の重要な機能を示すためのユーザーを有効にするのに BRLs のプロパティを使用しています。すぐに増えデータセットにスクラッチから再キャリブレーションではなく到着の新しいデータに合わせることができるインタラクティブな BRLs を開発しています。
Su について説明します:"研究室の新しい戦略的な機能を構築したいと考えている-機械学習アルゴリズム、それらを理解するために信頼を人々 します」。
