2. Проста вибіркова лінійна регресія

Дата: 2025-06-02; Просмотры: 10

Оценка:

0.00 из 5.00 — оценок

Скачиваний: 0

Скачать

Прості лінійні регресійні моделі встановлюють лінійну залежність між двома змінними, наприклад, витратами на відпустку та складом родини; витратами на рекламу та обсягом продукції, що випускається; витратами на споживання та валовим національним продуктом (ВНП), зміною ВНП залежно від часу, врожайністю культур та кількістю добрив, що вносяться під культури.

При цьому одна зі змінних вважається залежною змінною (y) та розглядається як функція від незалежної змінної (x).

У загальному вигляді проста вибіркова лінійна регресійна модель запишеться так:

(2.0)

де y — вектор спостережень за залежною змінною;

;

х — вектор спостережень за незалежною змінною;

;

b₀,b₁ — невідомі параметри регресійної моделі;

е — вектор випадкових величин (помилок);

. [5]

2.1. Оцінка параметрів лінійної регресії за допомогою

методу найменших квадратів

Щоб мати явний вид залежності, необхідно знайти (оцінити) невідомі параметри b₀, b₁ цієї моделі за допомогою критерію. Найпоширенішим є критерій мінімізації суми квадратів відхилень. Логічно, що треба проводити пряму таким чином, щоб сума квадратів помилок була мінімальною. В цьому і полягає критерій найменших квадратів: невідомі параметри b₀ та b₁ визначаються таким чином, щоб мінімізувати , тобто

(2.1.1)

Визначимо значення b₀ та b₁, котрі мінімізують вираз (2.1.1). Рішення системи двох лінійних нормальних рівнянь:

(2.1.2)

дозволяє одержати такі значення параметрів b₁ та b₀:

, (2.1.3)

де ; ;

. (2.1.4)

В явному вигляді регресія у від х, у якій параметри обчислені за методом найменших квадратів, виразиться так:

або . (2.1.5) [5]

Приклад 1. Побудувати лінійну регресійну модель, що характеризує залежність між обсягом продажу цукерок фабрики “Світоч” (млн. коробок) та витратами на рекламу (млн. грн.), на основі вихідних даних:

Рішення:

В таблиці представимо результати попередніх розрахунків:

№ п/п	Обсяг продажу, млн.коробок, yi	Витрати на рекламу, млн. грн., xi			^	^
1 2 3 4 5	25 30 35 45 65	5 6 9 12 18	125 180 315 540 1170	25 36 81 144 324	25 28 37 46 64	0 2 -2 -1 1
	200   40	50   10	2330   466	610   122	200   40	0   0

Розрахуємо параметри b₁ та b₀:

;

.

Таким чином, лінійна регресійна модель має вигляд:

або .

Зазначимо, що сума оцінених (розрахункових) значень обсягу продажу цукерок ( ) дорівнює сумі фактичних значень y_i, а сума помилок дорівнює нулю.

Завдання 1. Припустимо, що ви зібрали дані про споживання домашніх господарств в Україні та їх доходів і оцінили таке рівняння: С = 120 + 0,75у

Визначити: а) яка змінна є залежною, а яка — незалежною;

б) пояснити взаємозв’язок між споживанням та доходом. На скільки зросте споживання, якщо доход зросте на 1 одиницю?

Завдання 2. Припустимо, ви зібрали дані про річний продаж фірмою “Україна” продукції (у) і суми, які використано на наукові дослідження (х). Ви маєте таку статистику:

коваріація:

варіація:

варіація: .

Середній річний продаж: ( )=1200.

Середня сума на наукові дослідження: ( )=895.

Визначити параметри регресії b₀ та b₁ і побудувати лінійну регресійну модель. Дати економічну інтерпретацію одрежаній моделі.

Завдання 3. Є такі дані:

х	У
20 14 12 20 33 38	75 85 92 88 72 99

Заповнити пропуски і знайти параметри регресії b₀ та b₁.

Завдання 4. Маємо дані про урожайність зернових (y_i) і кількість внесених на 1 га мінеральних добрив (x_i) під зернові за 10 років в ПОК “Зоря” Білозерського району Херсонської області:

Побудувати лінійну регресійну модель, що характеризує залежність між урожайністю зернових та кількістю внесених на 1 га мінеральних добрив.

2.2. Коефіцієнти кореляції та детермінації

Найпростішим критерієм, який дає кількісну оцінку зв’язку між двома показниками, є коефіцієнт кореляції:

r (2.2.1)

Значення коефіцієнта завжди розташовані між –1 та +1

Якщо r_ух = 0, зв’язок між ознаками відсутній;

|r _yx| — щільність зв’язку низька;

0,3 <|r _yx| — щільність зв’язку середня;

0,75 <|r _yx|<1 — щільність зв’язку висока;

r _yx= 1 — зв’язок переходить у функціональний;

r _yx<0 — зв’язок зворотний;

r _yx>0 — зв’язок прямий.

Поряд з коефіцієнтом кореляції використовується ще один критерій, за допомогою якого також вимірюється щільність зв’язку між двома або більше показниками та перевіряється адекватність (відповідність) побудованої регресійної моделі реальній дійсності. Таким критерієм є коефіцієнт детермінації ( R ² ) :

. (2.2.2)

Частина дисперсії, котра пояснює регресію, називається коефіцієнтом детермінації.

Цей коефіцієнт показує, яка частина загальної варіації залежної (результативної) ознаки (у) обумовлена варіацією незалежної (факторної) ознаки (х), що включена в регресійну модель.

Коефіцієнт детермінації R² завжди додатний і знаходиться в межах від 0 до 1 . [5]

Приклад 2. За даними прикладу 1 оцінити щільність зв’язку між обсягом продажу цукерок фірмою “Світоч” та витратами на рекламу.

Рішення: Розрахунки представимо в таблиці:

№п/п	Хі — витрати на рекламу, млн.грн.	Уі — обсяг продажу, млн. коробок
1 2 3 4 5	5 6 9 12 18	25 30 35 45 65	-5 -1 -1 2 8	-15 -10 -5 5 25	75 40 5 10 200	25 16 1 4 64	225 100 25 25 625
	50   10	200   40	0   0	0   0	330   66	110   22	1000   200

Визначимо коефіцієнт кореляції:

r .

Визначимо коефіцієнт детермінації:

R² = (r _yx)² = (0,995)² = 0,990 або R² = 99%.

Висновок: Коефіцієнт кореляції r_yx=0,995 свідчить про високу щільність зв’язку між обсягом продажу цукерок та витратами на рекламу фірмою “Світоч”, оскільки 0,75<0,995<1. Коефіцієнт детермінації R²=99% показує, що 99% варіації (коливань) результативної ознаки — обсягу продажу цукерок на 99% обумовлено варіацією незалежної (факторної) ознаки — витратами на рекламу і лише 1% варіації обсягу продажу залежить від варіації факторів, що не включені в регресійну модель.

Завдання 5. За даними завдання 2 розрахувати коефіцієнт кореляції між обсягом продажу продукції та сумою, що використана на наукові дослідження в фірмі “Україна”. Визначити коефіцієнт детермінації для регресії. Дати економічну інтерпретацію одержаних результатів.

Завдання 6. За даними завдання 3 оцінити щільність зв’язку між залежною змінною (у) та незалежною змінною (х), розрахувавши коефіцієнти кореляції та детермінації. Зробити висновки.

Завдання 7. За даними завдання 4 дати кількісну оцінку зв’язку між урожайністю зернових та кількістю внесених мінеральних добрив під зернові в ПОК “Зоря” Білозерського району Херсонської області. Зробити висновки.

Завдання 8. Маємо статистику витрат родини залежно від кількості її членів:

1. Побудувати лінійну регресію і розрахувати параметри.

2. Розрахувати коефіцієнт кореляції та детермінації. Які висновки можна зробити щодо якості регресійної моделі?

Завдання 9. Є 4 динамічні ряди. Якщо ці дані апроксимувати простою лінійною регресією, то вони дадуть однакові результати. Побудувати графіки і проаналізувати їх зображення. Побудувати лінійну модель, оцінивши параметри за методом найменших квадратів. Оцінити щільність зв’язку між залежною (у) та незалежною (х) змінними. Пояснити отримані результати.

Завдання 10. Маємо дані про рівень звільнень на 100 робітників та рівень безробіття у виробничій сфері східного регіону України (дані умовні) протягом 1997-2009 рр.

Примітка: Дані про звільнення стосуються людей, що покинули роботу за власним бажанням.

1. Нанесіть дані на координатну площину.

2. Припустимо, що рівень звільнень (у) лінійно пов’язаний з рівнем безробіття (х) і цей зв’язок виражається моделлю . Обчисліть параметри .

3. Обчисліть коефіцієнт кореляції та детермінації.

4. Поясніть отримані результати.

Завдання 11. У таблиці подано дані про кількість телефонів на 1000 осіб (у) та валовий внутрішній продукт (ВВП) на душу населення (х) у західному районі України (дані умовні) за 1989-2009 рр. Чи є зв’язок між цими двома змінними? Довести, побудувавши лінійну регресійну модель та обчисливши коефіцієнти кореляції та детермінації. Зробити висновки.

2.3. Поняття про ступені вільності. Аналіз дисперсій

Тотожність, яка пов’язує загальну суму квадратів із сумою квадратів залишків та сумою квадратів, що пояснює регресію:

. (2.3.1)

Кожна сума квадратів пов’язана з числом, яке називають її “ступенем вільності”. Це число показує, скільки незалежних елементів інформації, що утворилися з елементів , потрібно для розрахунку даної суми квадратів.

У статистиці кількістю ступенів вільності певної величини часто називають різницю між кількістю різних дослідів і кількістю констант, установлених в результаті цих дослідів незалежно один від одного.

Суми квадратів пов’язані з певним джерелом варіації, а також із ступенями вільності і середніми квадратами. Зведемо їх у таблиці, яка називається базовою таблицею дисперсійного аналізу ( ANOVA — таблиця). [5]

ANOVA -таблиця

Джерело варіації	Кількість ступенів вільності	Сума квадратів	Середні квадрати
Зумовлене регресією (модель)	1
Непояснюване за допомогою регресії (помилка)
Загальне			Не розраховується

Приклад 3. За даними та результатами прикладу 1 побудувати ANOVA-таблицю дисперсійного аналізу.

Рішення: Попередні розрахунки представимо в таблиці.

i
1 2 3 4 5	25 30 35 45 65	25 28 37 46 64	225 144 9 36 576	0 4 4 1 1	225 100 25 25 625
	200	200	990	10	1000
	40	40	x	x	x

Побудуємо ANOVA-таблицю для прикладу про залежність між обсягами реалізації продукції та витратами на рекламу.

Джерело варіації	Кількість ступенів вільності	Сума квадратів	Середні квадрати
Модель	1
Помилка	n-2=5-2=3
Загальне	n-1=5-1=4		Не розраховується

2.4. Перевірка простої регресійної моделі на адекватність.