Спосіб менших квадратів (МНК) дозволяє оцінювати різні величини, використовуючи результати величезної кількості вимірювань, що містять випадкові помилки.

Риса МНК

Основна думка цього способу полягає в тому, що в якості аспекту точності рішення задачки розглядається сума квадратів помилок, яку прагнуть звести до мінімуму. При використанні цього способу можна використовувати як чисельний, так і аналітичний підхід.

А саме, в якості чисельної реалізації спосіб менших квадратів передбачає проведення як можна більшого числа вимірів невідомої випадкової величини. При цьому, чим більше обчислень, тим точніше буде рішення. На цьому величезній кількості обчислень (початкових даних) отримують інше величезну кількість передбачуваних рішень, з якого потім вибирається найкращий. Якщо величезна кількість рішень параметрезованих, то спосіб менших квадратів зведеться до пошуку раціонального значення характеристик.

В якості аналітичного підходу до реалізації МНК на величезній кількості початкових даних (вимірювань) і передбачуваному величезної кількості рішень визначається якась багатофункціональна залежність (функціонал), яку можна виразити формулою, одержуваної як якоїсь здогади, просить докази. У даному випадку спосіб менших квадратів зводиться до знаходження мінімуму цього функціонала на величезній кількості квадратів помилок початкових даних.

Зауважте, що не самі помилки, а конкретно квадрати помилок. Чому? Справа в тому, що нерідко відмінності вимірювань від чіткого значення бувають як позитивними, так і негативними. При визначенні середньої похибки звичайне підсумовування може призвести до неправильного висновку про якість оцінки, так як обопільне знищення позитивних і негативних значень знизить потужність добірки величезної кількості вимірів. А, як слід, і точність оцінки.

Для того щоб цього не вийшло, і підсумовують квадрати відхилень. Більш того, щоби вирівняти розмірність вимірюваної величини та підсумкової оцінки, із суми квадратів похибок витягують квадратний корінь.

Якісь програмки МНК

МНК широко використовується в різних областях. До прикладу, в теорії ймовірностей і математичній статистиці спосіб вживається для визначення такої властивості випадкової величини, як середнє квадратичне відхилення, визначальною ширину спектра значень випадкової величини.

В математичному аналізі і різних галузях фізики, застосовувані для виведення або доказу гіпотез даний апарат, МНК використовують, а саме, для оцінки наближеного представлення функцій, визначених на числових величезних кількостях, більш ординарними функціями, що допускають аналітичні перетворення.

Чергове застосування цього способу — відділення корисного сигналу від накладеного на нього шуму в задачах фільтрації.

Ще одна область впровадження МНК — економетрика. Випадку даний спосіб так широко використовується, що для нього були визначені якісь особливі модифікації.

Велика частина завдань економетрики, так чи інакше, зводиться до вирішення систем лінійних економетричних рівнянь, що описують поведінку якихось систем — структурних моделей. Основний елемент кожної такої моделі — часовий ряд, що представляє із себе набір якихось рис, значення яких залежать як від часу, так і від ряду інших причин. При всьому цьому може спостерігатися відповідність між внутрішніми (ендогенними) рисами моделі і зовнішніми (екзогенними) рисами. Це відповідність виражається зазвичай у вигляді систем лінійних економічних рівнянь.

Відповідної особливістю таких систем є наявність взаємозв’язків між окремими змінними, з одного боку, ускладнюють її, з іншого — перевизначає. Що є передумовою виникнення невизначеності при виборі рішення таких систем. Додатковим фактором, що ускладнює вирішення таких завдань, залежність характеристик моделей від часу.

Основна мета задач економетрики — ідентифікація моделей, тобто визначення структурних взаємозв’язків в обраній моделі, також оцінки ряду її характеристик.

Відновлення залежностей у тимчасових рядах, складових моделі, може бути виконане, а саме, за допомогою як прямого МНК, так і якихось його модифікацій, також низки інших способів. Особливі модифікації МНК при вирішенні таких завдань спеціально розвинені для вирішення тих або інших проблем, що виникають у процесі чисельного рішення систем рівнянь.

А саме, одна з таких проблем пов’язана з наявністю початкових обмежень на характеристики, які необхідно оцінювати. Приміром, дохід особистого підприємства може бути витрачений на споживання або на його розвиток. Як випливає, сума частин даних двох видів витрат свідомо дорівнює 1. У систему економетричних рівнянь ці частини можуть заходити незалежно один від одного. Таким макаром, можна оцінити різні види витрат за допомогою МНК, без урахування початкового обмеження, а потім підкоригувати придбаний підсумок. Такий спосіб вирішення названий непрямим способом менших квадратів.

Непрямий спосіб менших квадратів (КМНК) вживається для точно визначеної структурної моделі. Метод КМНК угадує виконання наступних дій:

1) перевтілення структурної моделі в більш ординарну, наведену форму методом введення додаткової залежності;

2) оцінка за допомогою буденної МНК приведених коефіцієнтів для кожного рівняння полегшеної моделі;

3) придбані коефіцієнти звичайний форми моделі перетворяться в характеристики вихідного структурної моделі.

Необхідно відзначити, що для сверхідентіфіціруеміх систем КМНК не вживають, тому що в даному випадку нереально задачки конкретних оцінок характеристик структурної моделі. Для таких моделей може бути застосована ще одна модифікація МНК — двокроковий спосіб менших квадратів (ДМНК).

Метод ДМНК наступний:

1) на базі полегшеної моделі расчитать для сверхідентіфіціруемого рівняння значення внутрішніх змінних, що містяться в правій частині рівняння;

2) підставити придбані значення змінних на місце відповідних фактичних змінних в початковій моделі і знову застосувати буденний МНК.

Детальний опис непрямого і двухшаговим способів менших квадратів наведені в майже всіх підручниках з економетрики. Особливість цих способів, так само як і буденного МНК, в їх універсальності, що дозволяє використовувати їх для оцінки коефіцієнтів хоч якийсь структурної моді