Matematiksel gerekçe ve varsayımlar
Kovaryans iki değişkenin ortalamalarından sapmalarının birlikte yönünü ölçer. Örneklemde cov(X,Y)=Σ(x_i−x̄)(y_i−ȳ)/(n−1). Ölçü birimine bağımlıdır; korelasyon r=cov(X,Y)/(s_X s_Y) standartlaştırılarak −1 ile +1 arasında kalır.
Basit doğrusal regresyon ŷ=a+bx, gözlenen y ile öngörülen ŷ arasındaki artık karelerinin toplamını en aza indirir. Eğimin formülü b=Σ(x_i−x̄)(y_i−ȳ)/Σ(x_i−x̄)² =cov(X,Y)/s_X²; sabit a=ȳ−bx̄. X değerleri değişkenlik göstermiyorsa eğim tanımsızdır.
Artık e_i=y_i−ŷ_i ile gözlemden sapma ölçülür. R², modelin örneklemde açıkladığı Y değişkenliği payıdır. Sabit terimli basit regresyonda R²=r² olur; bu eşitlik nedenselliğe değil örneklem uyumuna ilişkindir.
Gözlemsel çalışmada büyük eğim veya R², X'in Y'ye neden olduğunu göstermez. Aykırı gözlemler, doğrusal olmayan desenler, değişen artık varyansı ve gözlem dışı tahmin ayrıca değerlendirilir.
Formül
b = Σ[(x−x̄)(y−ȳ)] / Σ[(x−x̄)²] a=ȳ−bx̄ e=y−ŷ
Adım adım çözümlü örnek
- Kurmaca üç nokta (1,2), (2,4), (3,5) için x̄=2, ȳ=11/3≈3,667.
- Çapraz sapmaların toplamı 3; X sapma karelerinin toplamı 2. b=3/2=1,5, a=11/3−1,5×2=2/3≈0,667.
- x=2 için ŷ≈3,667 ve artık=4−3,667≈+0,333. Bu matematiksel uyum ilişkiyi özetler; neden göstermeye yetmez.
Bağımsız alıştırmalar
- (1,2),(2,4),(3,6) verisi için regresyon eğimi ve sabit terimi bul.
- ŷ=7 ve gerçek y=9 için artık kaçtır ve işareti ne anlatır?
- r=0,8 olan sabit terimli basit doğrusal regresyonda R² kaçtır? Bu nicelik neden nedensellik oranı değildir?
Öğretmen çözümleri özeldir.
Seçimlik base R uygulaması
x <- c(1,2,3)
y <- c(2,4,5)
fit <- lm(y ~ x)
coef(fit)
residuals(fit)
c(covariance=cov(x,y), correlation=cor(x,y), r_squared=summary(fit)$r.squared)
# Association and fit do not prove causation.