Алгоритм Баума-Велша

Материал из Википедии — свободной энциклопедии

Текущая версия (не проверялась)

Перейти к: навигация, поиск

Связать?

На эту статью не ссылаются другие статьи Википедии.

Пожалуйста, воспользуйтесь подсказкой и установите ссылки в соответствии с принятыми рекомендациями.

Эта статья или раздел нуждается в переработке.

Пожалуйста, улучшите её в соответствии с правилами написания статей.

Содержание

1 Алгоритм Баума-Велша оценки скрытой модели Маркова

2 Алгоритм

2.1 Прямая процедура

2.2 Обратная процедура

3 Источники

[править] Алгоритм Баума-Велша оценки скрытой модели Маркова

Скрытая модель Маркова это вероятностная модель множества случайных переменных . Переменные  — известные дискретные наблюдения, а  — «скрытые» дискретные величины. В рамках скрытой модели Маркова есть два независимых утверждения, обеспечивающих сходимость данного алгоритма:

-я скрытая переменная при известной (t-1)-ой переменной, независима от всех предыдущих переменных, то есть ;

-е известное наблюдение зависит только о -го состояния, то есть не зависит от времени, .

Далее будет предложен алгоритм «предположений и максимизаций» для поиска максимальной вероятностной оценки параметров скрытой модели Маркова при заданном наборе наблюдений. Этот алгоритм так же известен как алгоритм Баума-Велша.

— это дискретная случайная переменная, принимающая одно из значений . Будем полагать, что данная модель Маркова, определенная как , однородна по времени, то есть независима от . Тогда можно задать как независящую от времени стохастическую матрицу перемещений . Особый случай для времени определяется начальным распределением .

Будем считать, что мы в состоянии в момент времени , если . Последовательность заданных состояний определяется как , где является состоянием в момент .

Наблюдение может иметь одно из возможных значений, . Вероятность заданного вектора наблюдений в момент времени t для состояния j определяется как . ( — это матрица L на N). Заданная последовательность наблюдений O выражается как .

Следовательно, мы можем описать скрытую модель Маркова с помощью . При заданном векторе наблюдений O алгоритм Баума-Велша находит . максимизирует вероятность наблюдений O.

[править] Алгоритм

Исходные данные: со случайными начальными условиями.

Алгоритм итеративно обновляет параметр до схождения в одной точке.

[править] Прямая процедура

Определим , что является вероятностью получения заданной последовательности для состояния в момент времени .

можно вычислить рекурсивно:

,

.

[править] Обратная процедура

Данная процедура позволяет вычислить вероятность конечной заданной последовательности при условии, что мы начали из исходного состояния , в момент времени .

Можно вычислить :

;

.

Используя и можно вычислить следующие значения:

,

.

имея и можно определить:

,

,

.

Используя новые значения , и , итерации продолжаются до схождения.

[править] Источники

The Baum–Welch algorithm for estimating a Hidden Markov Model

Baum-Welch Algorithm

Источник — «http://ru.wikipedia.org/wiki/%D0%90%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC_%D0%91%D0%B0%D1%83%D0%BC%D0%B0-%D0%92%D0%B5%D0%BB%D1%88%D0%B0»

Категории: Прикладная математика | Математическая статистика | Машинное обучение

Скрытые категории: Википедия:Изолированные статьи/сирота0 | Википедия:Статьи к переработке

Просмотры

Статья

Обсуждение

Править

история

Личные инструменты

Представиться / зарегистрироваться

Навигация

Заглавная страница

Рубрикация

Индекс А — Я

Избранные статьи

Случайная статья

Текущие события

Поиск

Участие

Сообщить об ошибке

Портал сообщества

Форум

Свежие правки

Новые страницы

Справка

Пожертвования

Инструменты

Ссылки сюда

Связанные правки

Спецстраницы

Версия для печати

Постоянная ссылка

Цитировать страницу

На других языках

Deutsch

English

Español

日本語

Последнее изменение этой страницы: 21:57, 30 января 2009.

Текстовое содержимое доступно в соответствии с GNU Free Documentation License.

Политика конфиденциальности

Описание Википедии

Отказ от ответственности