|
|
Задача параметрического синтеза
Постановку задачи для поиска коэффициентов по методу наименьших квадратов ( МНК) при фиксированной структуре модели:
(**) и вектор выхода
1.Введем предположеие – достаточно сильное и тем неприятное - – предположим что модель линейна по параметрам
Предположение вводится в основном потому что мы умеем решать такие задачи, а не потому что это как то обосновано, Здесь есть нечто общее с тем что «будем искать потеряное под.фонарем, потому что там видно а не потому что там потеряли». 2 Наконец предполагаем что нам известна структура
Если тепер, как мы говорили выше, функционал качества задачи моделирования выбрать в виде сумм квадратичных. невязок J(у) = то для определения вектора параметров Действительно вспомним условия экстремума функций, тогда понятно откуда получена система (*О *) Обратим внимание что систему получим линейную отностельно аj Все достаточно просто.Решая эту систему получаем наилучший вектор парамеров а который дает минимум функционалу (**) Таким образом решается задача параметрического синтеза. Для частного случая одномерной регресии У=ах+в, его решение МНК можно получить как простые формулы для
№2 Но если регрессия не одномерная, то никто в наше время в расчетах не записывает функционал в скалярном виде, не берут производные, не составляют системы скалярных уравнений и тд. Для решения задачи поиска параметров регрессии пользуются матричные представления данных и операций. Я пользовался выше скалярной записью, только затем, что-бы в начале было проще показать смысл процедур поиска параметров.
Напомним 1.– Для умножения матриц А и В – А*В=С
–то есть получения элемента
– столбцы делает строками, строки столбцами (в квадратной матрице – просто зеркально отображаем относительно гл диагонали)
Итак имеем матрицу Х и вектор выхода У
Уже понимаем почему пишем Х а а не а Х
В скалярном виде это соответствует наилучшему приближению
………… в n -ой точке -
Умножим слева и справа на ХТ получим Теперь поскольку ХТХ – квадратная – можем ее умножить на обратную - слева и справа на (Х ХТ)-1
и окончательно имеем для а
Все - И все расчеты проводятся по этой формуле - в любых инжененых пакетах реализованы матричные операции - все очень просто (мы поработаем на практике) и не очень просто в связи с операцией взятия обратной матрицы и понятием плохой обусловленности матрицы. Что это - плохая обусловленность матрицы: напомним о так наз. собственных числах матрицы /А-лЕ/=0......для опред Л - решаем степенное уравнение соответствующего порядка напомним на примере 2-го порядка ПлОбМа возникает когда λmin << λmax. и численно мера ПОМ выражается их отношением или близостью к нулю ее детерминанта - Этот эффект ПОМ обычно набл когда в А одновременно присутствуют очень большие и очень малые числа - тогда при операции нахождения обратной матрицы обусловленность резко ухудшается (очень малые числа деляться на очень большие) и лавинообразно растет погрешность (изза выхода значущих цифр за пределы разрядной сетки ВМ)- решение теряется в эффекте ПлОбМа Это одна из причин что РА только начинается а не заканчивается на формуле для а. Преодоление ПОМ - различные олгоритмя регуляризаци матрицы А......желательно с минимальной потерей ее эквивалентности Другие проблемы больше связаны с задачей структурного синтеза - об этом позже А пока более строгий вывод, который повторяет логику, изложенную для скалярного вида: Пусть размерность задачи m перем и n точек Критерий по которому работает МНК: минимировать сумму квадратов ошибок еi =Уi-(ао+а1х1i+…+аmxmi) модели У=ао+а1х1+…+аmxm в заданных точках. В матричном виде, модель У=Ха должна минимизировать критерий в матричной форме:
Дифференцируя эту функцию по вектору параметров и приравняв производные к нулю, получим систему уравнений (в матр. форме)
В расшифрованном матричном виде эта система уравнений имеет вид
Где все суммы берутся по количеству точек Если в модель включен свободный член то Это и есть т.н. нормальная система уравнений X и XTX - осн зол матр мод   Что будет с Землей, если ось ее сместится на 6666 км? Что будет с Землей? - задался я вопросом...  Что способствует осуществлению желаний? Стопроцентная, непоколебимая уверенность в своем...  Что делать, если нет взаимности? А теперь спустимся с небес на землю. Приземлились? Продолжаем разговор...  Конфликты в семейной жизни. Как это изменить? Редкий брак и взаимоотношения существуют без конфликтов и напряженности. Через это проходят все... Не нашли то, что искали? Воспользуйтесь поиском гугл на сайте:
|
Задана матрица значений аргументов
,
то есть сейчас мы занимаемся задачей параметрического синтеза
(**)
достаточно решить систему линейных уравнений 
(*О*)
, где 
- коэффициент регрессии, 
, 
-коэффициент корреляции х ,у,
и 
, 
выборочные среднеквадратические отклонения и выборочные математические ожидания случайных величин 
и 
, 
, 
, 
Упрощенный вывод формулы МНК в матричном виде
необходимо взять в А (первой матрице) j-тую строку 
и в В (второй матрице) k-тый столбец 
и образовать скаляное поизведение 
.
2. Траспонирование
3.Обратная матрица А-1 матрицы А это такая матрица для которой выполняется А-1 *А=Е, где 
единичная матрица
необходимо построить модель линейной структуры
При этом необходимо максимально приблизить с помощью вектора а матричное соотношение (***)
в первой точке 
(***)
Для того что-бы освободить а (умножить то что при а на обратную Х матрицу и получить в результате Е – ед матрицу) надо чтобы при а стояла квадратная матрица.
и для модели
, отсюда 
(**) и далее решая (**) можем найти вектор а=(хтх)-1хту
= 
X и XTX - осн
для всех 
i