Статистичний звʼязок; лінійна і логістична регресія; кореляція

📌 Про що ця тема

Тут перевіряють уміння розрізняти, чи повʼязані між собою дві величини, наскільки сильно та в який спосіб. Ключові поняття: статистичний (стохастичний) звʼязок, кореляція, лінійна регресія і логістична регресія як базові моделі прогнозування.

📖 Головне

• Статистичний (стохастичний) звʼязок — коли зі зміною однієї величини інша змінюється не точно, а «в середньому». На відміну від функціонального звʼязку (y строго залежить від x), тут присутня випадковість.

• Кореляція — міра того, наскільки дві величини змінюються разом. Показує СИЛУ і НАПРЯМ лінійного звʼязку, але не форму і не причину.

• Коефіцієнт кореляції r набуває значень від −1 до +1.

• r > 0 — прямий звʼязок (разом зростають); r < 0 — обернений (одна росте — інша спадає); r ≈ 0 — лінійного звʼязку майже немає.

• |r| близько до 1 — звʼязок сильний; близько до 0 — слабкий. Орієнтовно: 0.7–1 сильний, 0.3–0.7 помірний, 0–0.3 слабкий.

• Головне правило: кореляція НЕ означає причинність. Збіг динаміки ще не доводить, що одне викликає інше.

• Регресія — побудова моделі (рівняння), яка дозволяє прогнозувати значення однієї величини за іншою.

• Лінійна регресія: y = a·x + b, де a — нахил (коефіцієнт), b — зсув (вільний член). Застосовують, коли y — неперервне число (ціна, вага, температура).

• Метод найменших квадратів — спосіб підібрати a і b так, щоб сума квадратів відхилень точок від прямої була найменшою.

• Логістична регресія — прогнозує ЙМОВІРНІСТЬ належності до класу (так/ні, 0/1). Результат завжди в межах від 0 до 1.

• Логістична використовує сигмоїду: значення «стискаються» у діапазон (0; 1); якщо ймовірність ≥ 0.5 — відносимо до класу 1.

• Ключова різниця: лінійна регресія — для чисел (регресія), логістична — для класифікації.

🔢 Як це працює на прикладі

Приклад 1 (лінійна). Є залежність оцінки y від годин навчання x. Отримали модель y = 2·x + 50. Прогноз для x = 10 годин: y = 2·10 + 50 = 70 балів. Нахил 2 означає: кожна додаткова година додає в середньому 2 бали.

Приклад 2 (кореляція). Для «зростання» і «вага» r = 0.85 — сильний прямий звʼязок: вищі люди в середньому важчі. Але r = 0.85 не означає, що зріст «спричиняє» вагу напряму.

Приклад 3 (логістична). Модель оцінює ймовірність складання іспиту: вийшло 0.8 → 0.8 ≥ 0.5 → прогноз «складе». Якщо 0.3 → «не складе».

⚠️ Типові помилки

• Плутають кореляцію і причинність: роблять висновок «A викликає B» лише з високого r.

• Думають, що r ≈ 0 означає «немає звʼязку взагалі» — насправді лінійного немає, а нелінійний може бути.

• Застосовують лінійну регресію там, де відповідь «так/ні» — там потрібна логістична.

• Вважають, що більший нахил a = сильніший звʼязок. Нахил і сила кореляції — різні речі.

• Забувають, що результат логістичної регресії — ймовірність (0..1), а не готовий клас, поки не застосуєш поріг 0.5.

🎯 Що завчити напамʼять

• r від −1 до +1; знак — напрям, модуль — сила.

• Кореляція ≠ причинність.

• Лінійна регресія: y = a·x + b, для чисел.

• Логістична регресія: ймовірність 0..1, поріг 0.5, для класів.

• Метод найменших квадратів мінімізує суму квадратів відхилень.

🧠 Перевір себе

1. Що означає r = −0.9?

2. Яку модель обрати для прогнозу «спам / не спам»?

3. Чи доводить висока кореляція причинний звʼязок?

4. У y = 3x + 4 яким буде y при x = 2?

Відповіді: 1 — сильний обернений лінійний звʼязок; 2 — логістичну регресію (класифікація); 3 — ні, лише спільну зміну; 4 — y = 3·2 + 4 = 10.