Regresyon Analizinde p Değeri Ne Anlama Gelir? Gelecekte İstatistiksel Anlamlılık Nereye Gidiyor?
Regresyon Analizinde p Değeri Ne Anlama Gelir?
Regresyon analiziyle ilk kez karşılaşanların büyük bölümünün gözünü aynı satır çeker: P>|t|. Yanında 0,03, 0,12 veya 0,001 gibi bir değer vardır. Peki bu sayı gerçekten ne söylüyor? Daha da önemlisi, p değeri 0,05'in altındaysa bir ilişkinin kesin olarak gerçek olduğunu söyleyebilir miyiz?
İstatistikle ilgilenmeye başladığımda dikkatimi çeken konulardan biri tam olarak buydu: Aynı veri seti hakkında yalnızca p değerine bakarak çok farklı sonuçlara ulaşmak mümkün olabiliyor. Oysa p değeri tek başına bir ilişkinin büyüklüğünü, ekonomik önemini veya gelecekte kesinlikle devam edeceğini anlatmıyor. Amerikan İstatistik Birliği'nin (ASA) p değerleriyle ilgili açıklaması da özellikle bu noktaya dikkat çekiyor. P değeri, verilerin belirli bir istatistiksel model ve sıfır hipoteziyle ne kadar uyumlu olduğuna ilişkin kanıt sağlayabilir; fakat hipotezin doğru olma olasılığını doğrudan vermez.
Bu nedenle regresyon çıktısındaki p değerini küçük bir "evet/hayır" düğmesi gibi değil, daha geniş bir istatistiksel değerlendirme sürecinin parçası olarak görmek gerekiyor.
Regresyonda p Değeri Tam Olarak Neyi Test Eder?
Basit bir doğrusal regresyon modelini düşünelim:
Y = β₀ + β₁X + ε
Burada Y tahmin etmek istediğimiz sonuç değişkeni, X açıklayıcı değişken, β₁ ise X'in Y ile ilişkisini temsil eden katsayıdır.
Bir regresyon çıktısında X değişkeninin katsayısı için p değeri verildiğinde genellikle test edilen temel sıfır hipotezi şudur:
H₀: β₁ = 0
Yani model, diğer koşullar ve varsayımlar çerçevesinde X'in Y ile doğrusal ilişkisinin sıfır olduğunu varsayar.
Alternatif hipotez ise çoğu iki taraflı testte:
H₁: β₁ ≠ 0
şeklindedir.
NIST'in açıklamasına göre p değeri, sıfır hipotezi doğru kabul edildiğinde gözlenen test istatistiği kadar veya daha uç bir sonucun ortaya çıkma olasılığıdır. Dolayısıyla p değerinin küçülmesi, gözlenen verinin sıfır hipoteziyle daha az uyumlu olduğunu gösterir.
Örneğin bir regresyon analizinde reklam harcamasının satışlarla ilişkisini inceliyoruz ve reklam harcamasının p değeri 0,02 çıkıyor. Geleneksel olarak %5 anlamlılık düzeyi kullanıyorsak bu sonuç, sıfır hipotezine karşı istatistiksel kanıt bulunduğu şeklinde yorumlanabilir.
Fakat bundan "reklam harcaması satışları kesin olarak artırıyor" sonucu çıkmaz.
Çünkü korelasyon veya regresyon katsayısı nedenselliği tek başına kanıtlamaz. Ayrıca katsayının büyüklüğü, güven aralığı, modelin kurulma biçimi, örneklem büyüklüğü, değişkenler arasındaki ilişkiler ve diğer varsayımlar da değerlendirilmelidir.
0,05 Sınırı Neden Bu Kadar Konuşuluyor?
İstatistikte 0,05 değeri uzun yıllardır yaygın bir eşik olarak kullanılıyor. NIST de 0,10, 0,05 ve 0,01 gibi anlamlılık düzeylerinin pratikte yaygın olduğunu belirtiyor.
Fakat 0,05 doğanın bize verdiği sihirli bir sınır değildir.
Örneğin p=0,049 ile p=0,051 arasında gerçek dünyada dramatik bir fark olduğunu varsaymak çoğu durumda doğru olmaz. Buna rağmen yalnızca eşik üzerinden çalışan bir yorumlama sistemi, ilk sonucu "anlamlı", ikincisini "anlamsız" olarak etiketleyebilir.
ASA da bilimsel sonuçların veya iş kararlarının yalnızca belirli bir p değeri eşiğinin geçilip geçilmediğine dayandırılmaması gerektiğini açıkça vurguluyor. Etki büyüklüğü, araştırma tasarımı, örneklem büyüklüğü ve model varsayımları gibi unsurların birlikte değerlendirilmesi gerekiyor.
Bu yaklaşım gelecekte regresyon analizlerinin nasıl raporlanacağı konusunda da önemli bir değişim yaratabilir.
P Değeri Küçükse Etki de Büyük Müdür?
Hayır. Burası özellikle önemli.
Çok büyük bir örnekleme sahip olduğumuzu düşünelim. Gerçekte çok küçük bir ilişki bile yüksek gözlem sayısı sayesinde düşük p değeri üretebilir.
Örneğin bir değişkenin regresyon katsayısı 0,01 olsun ve p değeri 0,001 çıksın. Bu sonuç istatistiksel açıdan güçlü bir kanıt sağlayabilir; ancak 0,01'lik etkinin gerçek hayattaki anlamı ayrıca incelenmelidir.
Tam tersine, küçük bir örneklemde gerçekten önemli olabilecek bir etki yüksek p değeri üretebilir.
Dolayısıyla gelecekte daha fazla araştırmacının şu üç soruyu birlikte sorması beklenebilir:
İlişki var mı?
İlişkinin büyüklüğü ne kadar?
Bu büyüklük gerçek dünyada önemli mi?
Bu üç soru, yalnızca "p<0,05 mi?" sorusundan çok daha açıklayıcıdır.
Regresyon Çıktısında P Değerini Nerede Görürüz?
Python'daki statsmodels gibi yaygın istatistik araçlarında regresyon sonuçları katsayı, standart hata, t değeri, p değeri ve güven aralığı gibi çeşitli bilgilerle birlikte raporlanıyor. Güncel statsmodels dokümantasyonunda regresyon sonuçları için parametrelere ait iki taraflı p değerlerinin ayrıca sunulduğu görülüyor.
Örneğin:
Değişken Katsayı p değeri
Reklam harcaması 2,40 0,012
Fiyat -0,80 0,031
Mağaza büyüklüğü 0,15 0,420
Burada reklam harcaması ve fiyat değişkenlerinin p değerleri 0,05'in altında. Mağaza büyüklüğününki ise değil.
Ancak "mağaza büyüklüğü hiçbir şekilde önemli değil" demek doğru olmaz.
Modelin örneklem büyüklüğü, ölçüm kalitesi, değişkenler arasındaki bağlantılar ve güven aralığı gibi unsurlar ayrıca incelenmelidir. Ayrıca p değerleri birden fazla değişken üzerinde tekrar tekrar test yapıldığında çoklu karşılaştırma sorunları da gündeme gelebilir.
P Değeri Gelecekte Nasıl Kullanılacak?
Bence burada en ilginç tartışma başlıyor.
Veri bilimi, makine öğrenmesi ve yapay zekâ geliştikçe araştırmacıların aynı anda daha fazla değişkeni ve daha büyük veri setlerini analiz etmesi kolaylaşıyor. Bu gelişme bir taraftan istatistiksel gücü artırırken diğer taraftan "çok sayıda ilişki arasından tesadüfen dikkat çekici görünenleri bulma" riskini de büyütebilir.
ASA'nın 2016 tarihli açıklaması p değerinin tek başına bir hipotezin doğruluğunu veya etkinin önemini ölçmediğini özellikle vurguluyor. 2021'de yayımlanan ASA Başkanlık Görev Gücü açıklaması da p değerlerinin doğru kullanıldığında geçerli ve yararlı araçlar olduğunu, ancak belirsizlik, değişkenlik, çoklu testler ve tekrarlanabilirlik gibi konuların birlikte dikkate alınması gerektiğini belirtiyor.
Bu nedenle 2026 sonrası dönemde regresyon raporlarında yalnızca p değerini göstermek yerine güven aralıkları, etki büyüklükleri, model tanıları ve duyarlılık analizlerinin daha görünür hale gelmesi makul bir beklenti.
Regresyon Analizinde p Değeri Ne Anlama Gelir?
Regresyon analiziyle ilk kez karşılaşanların büyük bölümünün gözünü aynı satır çeker: P>|t|. Yanında 0,03, 0,12 veya 0,001 gibi bir değer vardır. Peki bu sayı gerçekten ne söylüyor? Daha da önemlisi, p değeri 0,05'in altındaysa bir ilişkinin kesin olarak gerçek olduğunu söyleyebilir miyiz?
İstatistikle ilgilenmeye başladığımda dikkatimi çeken konulardan biri tam olarak buydu: Aynı veri seti hakkında yalnızca p değerine bakarak çok farklı sonuçlara ulaşmak mümkün olabiliyor. Oysa p değeri tek başına bir ilişkinin büyüklüğünü, ekonomik önemini veya gelecekte kesinlikle devam edeceğini anlatmıyor. Amerikan İstatistik Birliği'nin (ASA) p değerleriyle ilgili açıklaması da özellikle bu noktaya dikkat çekiyor. P değeri, verilerin belirli bir istatistiksel model ve sıfır hipoteziyle ne kadar uyumlu olduğuna ilişkin kanıt sağlayabilir; fakat hipotezin doğru olma olasılığını doğrudan vermez.
Bu nedenle regresyon çıktısındaki p değerini küçük bir "evet/hayır" düğmesi gibi değil, daha geniş bir istatistiksel değerlendirme sürecinin parçası olarak görmek gerekiyor.
Regresyonda p Değeri Tam Olarak Neyi Test Eder?
Basit bir doğrusal regresyon modelini düşünelim:
Y = β₀ + β₁X + ε
Burada Y tahmin etmek istediğimiz sonuç değişkeni, X açıklayıcı değişken, β₁ ise X'in Y ile ilişkisini temsil eden katsayıdır.
Bir regresyon çıktısında X değişkeninin katsayısı için p değeri verildiğinde genellikle test edilen temel sıfır hipotezi şudur:
H₀: β₁ = 0
Yani model, diğer koşullar ve varsayımlar çerçevesinde X'in Y ile doğrusal ilişkisinin sıfır olduğunu varsayar.
Alternatif hipotez ise çoğu iki taraflı testte:
H₁: β₁ ≠ 0
şeklindedir.
NIST'in açıklamasına göre p değeri, sıfır hipotezi doğru kabul edildiğinde gözlenen test istatistiği kadar veya daha uç bir sonucun ortaya çıkma olasılığıdır. Dolayısıyla p değerinin küçülmesi, gözlenen verinin sıfır hipoteziyle daha az uyumlu olduğunu gösterir.
Örneğin bir regresyon analizinde reklam harcamasının satışlarla ilişkisini inceliyoruz ve reklam harcamasının p değeri 0,02 çıkıyor. Geleneksel olarak %5 anlamlılık düzeyi kullanıyorsak bu sonuç, sıfır hipotezine karşı istatistiksel kanıt bulunduğu şeklinde yorumlanabilir.
Fakat bundan "reklam harcaması satışları kesin olarak artırıyor" sonucu çıkmaz.
Çünkü korelasyon veya regresyon katsayısı nedenselliği tek başına kanıtlamaz. Ayrıca katsayının büyüklüğü, güven aralığı, modelin kurulma biçimi, örneklem büyüklüğü, değişkenler arasındaki ilişkiler ve diğer varsayımlar da değerlendirilmelidir.
0,05 Sınırı Neden Bu Kadar Konuşuluyor?
İstatistikte 0,05 değeri uzun yıllardır yaygın bir eşik olarak kullanılıyor. NIST de 0,10, 0,05 ve 0,01 gibi anlamlılık düzeylerinin pratikte yaygın olduğunu belirtiyor.
Fakat 0,05 doğanın bize verdiği sihirli bir sınır değildir.
Örneğin p=0,049 ile p=0,051 arasında gerçek dünyada dramatik bir fark olduğunu varsaymak çoğu durumda doğru olmaz. Buna rağmen yalnızca eşik üzerinden çalışan bir yorumlama sistemi, ilk sonucu "anlamlı", ikincisini "anlamsız" olarak etiketleyebilir.
ASA da bilimsel sonuçların veya iş kararlarının yalnızca belirli bir p değeri eşiğinin geçilip geçilmediğine dayandırılmaması gerektiğini açıkça vurguluyor. Etki büyüklüğü, araştırma tasarımı, örneklem büyüklüğü ve model varsayımları gibi unsurların birlikte değerlendirilmesi gerekiyor.
Bu yaklaşım gelecekte regresyon analizlerinin nasıl raporlanacağı konusunda da önemli bir değişim yaratabilir.
P Değeri Küçükse Etki de Büyük Müdür?
Hayır. Burası özellikle önemli.
Çok büyük bir örnekleme sahip olduğumuzu düşünelim. Gerçekte çok küçük bir ilişki bile yüksek gözlem sayısı sayesinde düşük p değeri üretebilir.
Örneğin bir değişkenin regresyon katsayısı 0,01 olsun ve p değeri 0,001 çıksın. Bu sonuç istatistiksel açıdan güçlü bir kanıt sağlayabilir; ancak 0,01'lik etkinin gerçek hayattaki anlamı ayrıca incelenmelidir.
Tam tersine, küçük bir örneklemde gerçekten önemli olabilecek bir etki yüksek p değeri üretebilir.
Dolayısıyla gelecekte daha fazla araştırmacının şu üç soruyu birlikte sorması beklenebilir:
İlişki var mı?
İlişkinin büyüklüğü ne kadar?
Bu büyüklük gerçek dünyada önemli mi?
Bu üç soru, yalnızca "p<0,05 mi?" sorusundan çok daha açıklayıcıdır.
Regresyon Çıktısında P Değerini Nerede Görürüz?
Python'daki statsmodels gibi yaygın istatistik araçlarında regresyon sonuçları katsayı, standart hata, t değeri, p değeri ve güven aralığı gibi çeşitli bilgilerle birlikte raporlanıyor. Güncel statsmodels dokümantasyonunda regresyon sonuçları için parametrelere ait iki taraflı p değerlerinin ayrıca sunulduğu görülüyor.
Örneğin:
Değişken Katsayı p değeri
Reklam harcaması 2,40 0,012
Fiyat -0,80 0,031
Mağaza büyüklüğü 0,15 0,420
Burada reklam harcaması ve fiyat değişkenlerinin p değerleri 0,05'in altında. Mağaza büyüklüğününki ise değil.
Ancak "mağaza büyüklüğü hiçbir şekilde önemli değil" demek doğru olmaz.
Modelin örneklem büyüklüğü, ölçüm kalitesi, değişkenler arasındaki bağlantılar ve güven aralığı gibi unsurlar ayrıca incelenmelidir. Ayrıca p değerleri birden fazla değişken üzerinde tekrar tekrar test yapıldığında çoklu karşılaştırma sorunları da gündeme gelebilir.
P Değeri Gelecekte Nasıl Kullanılacak?
Bence burada en ilginç tartışma başlıyor.
Veri bilimi, makine öğrenmesi ve yapay zekâ geliştikçe araştırmacıların aynı anda daha fazla değişkeni ve daha büyük veri setlerini analiz etmesi kolaylaşıyor. Bu gelişme bir taraftan istatistiksel gücü artırırken diğer taraftan "çok sayıda ilişki arasından tesadüfen dikkat çekici görünenleri bulma" riskini de büyütebilir.
ASA'nın 2016 tarihli açıklaması p değerinin tek başına bir hipotezin doğruluğunu veya etkinin önemini ölçmediğini özellikle vurguluyor. 2021'de yayımlanan ASA Başkanlık Görev Gücü açıklaması da p değerlerinin doğru kullanıldığında geçerli ve yararlı araçlar olduğunu, ancak belirsizlik, değişkenlik, çoklu testler ve tekrarlanabilirlik gibi konuların birlikte dikkate alınması gerektiğini belirtiyor.
Bu nedenle 2026 sonrası dönemde regresyon raporlarında yalnızca p değerini göstermek yerine güven aralıkları, etki büyüklükleri, model tanıları ve duyarlılık analizlerinin daha görünür hale gelmesi makul bir beklenti.