定义

image-20251006145155929

观测数据可以由一个未被观测的潜在变量表示,记作随机变量 z。 柏拉图的洞穴寓言 这一思想的直观理解源于柏拉图的洞穴寓言,即潜在变量是潜在不可观测的表示,用以决定观测:我们在现实世界中遇到的物体可能源于某些更高层次抽象表示的函数。这些表示可能包含颜色、大小、形状等抽象属性,而我们观测到的则是这些抽象表示的三维投影或实例化。

低维潜在表示

这个类比的一个需要注意之处在于,在生成模型中,我们旨在学习低维潜在表示而非高维的。

  1. 如果没有强先验,学习比观测数据更高维的潜在变量是一项徒劳的尝试
  2. 学习低维潜在变量可以看作是一种压缩形式,并可能揭示具有语义的结构来描述观测数据。