[解決済み] GenerativeアルゴリズムとDiscriminativeアルゴリズムの違いは何ですか？[クローズド］

質問

とはどのような違いがあるのでしょうか？ ジェネレイティブ と 差別的 アルゴリズムは？

どのように解決するのですか？

例えば、入力データ x で、そのデータをラベルに分類したいとします。 y . 生成モデルで学習するのは ジョイント 確率分布 p(x,y) を学習し、識別モデルで 条件付き 確率分布 p(y|x) - というように読みます。 の確率は y 与えられた x " .

ここで、本当に簡単な例を挙げます。次のようなデータがフォームにあるとします。 (x,y) :

(1,0), (1,0), (2,0), (2, 1)

p(x,y) は

      y=0   y=1
     -----------
x=1 | 1/2   0
x=2 | 1/4   1/4

p(y|x) は

      y=0   y=1
     -----------
x=1 | 1     0
x=2 | 1/2   1/2

この2つの行列を数分かけてじっと見ていれば、2つの確率分布の違いが理解できるはずです。

分布の様子 p(y|x) は、与えられた例を分類するための自然な分布である x をクラス y このため、これを直接モデル化するアルゴリズムを識別アルゴリズムと呼んでいる。生成的アルゴリズムのモデル化 p(x,y) に変換することができます。 p(y|x) ベイズ則を適用し、分類に用いることができる。しかし，分布 p(x,y) は、他の目的にも使用することができる。例えば p(x,y) から 生成する ありそう (x,y) のペアを作成します。

上記の説明から、生成モデルの方が一般的に有用であり、したがってより優れていると思われるかもしれませんが、それほど単純な話ではありません。 この論文 識別型分類器と生成型分類器の比較については、非常に有名な文献ですが、かなり重い内容になっています。全体的な要点は、分類タスクでは一般に識別モデルが生成モデルよりも優れているということです。