Задачи к квизу

Warning

В этом квизе нет вариаций заданий.

Note

На квизе функции плотности и функции вероятности будут выписаны в явном виде.

Пусть \(X_1\), \(\ldots\), \(X_n\) – выборка независимых случайных величин, каждая из которых принадлежит к одному из двух кластеров. В \(k\)-ом кластере наблюдения распределены с функцией вероятности или функцией плотности \(p_k(x | \theta_k)\), где \(\theta_k\) – вектор неизвестных параметров. Пусть вероятность того, что наблюдение принадлежит первому кластеру, равна \(\gamma\).

Обозначим за \(\theta\) вектор, в который последовательно собраны неизвестные параметры для каждого из кластеров, а также \(\gamma\):

\[ \theta := \begin{pmatrix} -\theta_1- & -\theta_2- & \gamma \end{pmatrix} \]

Введите подходящие латентные переменные и выведите формулы для шагов EM-алгоритма (E-шаг – чему равно \(p(Z | X, \theta_{old})\), M-шаг – формулы обновления \(\theta_{new} = ...\)), если

Задача 1

\(p_k\) – функция плотности нормального распределения \(\mathcal{N}(\mu_k, \sigma^2_k)\).

Задача 2

\(p_k\) – функция вероятности распределения Бернулли Bern\((\alpha_k)\).

Задача 3

\(p_k\) – функция плотности распределения Рэлея Ray\((\sigma^2_k)\).

Задача 4

\(p_k\) – функция вероятности биномиального распределения Bin\((3, \alpha_k)\).

Задача 5

\(p_k\) – функция плотности экспоненциального распределения exp\((\lambda_k)\).

Задача 6

\(p_k\) – функция вероятности распределения Пуассона Pois\((\lambda_k)\).

Задача 7

\(p_k\) – функция вероятности геометрического распределения Geom\((\alpha_k)\).