Terlemenin nedeni İnanca göre, Ayasofya'nın büyük bir kubbesi bir depremde yıkılınca, 300 rahip Mekke'ye gitmişler ve orada zemzem suyundan almışlar, bunu Mekke toprağı ile karıştırıp,bu sütunun altına harç olarak koymuşlar. Sütunun bu yüzden "terlediğine"inanılıyor. Bir başka inanca göre de Hızır Peygamber, parmağım Ayasofya'daki deliğe sokmuş ve binayı Mekke'ye yöneltmiş yani Terleyen direğin ya da diğer adıyla ağlayan direğin öyküsü, görüldüğü kadarıyla Osmanlı döneminde ortaya çıkmış. İslam inançlarıyla beslenmiş. Sütunun yapısının gözenekli olduğu ve kılcal damarlar yoluyla temeldeki suyu emdiği ve bu yüzden terlediği, en geçerli bilimsel açıklamalardan biri. Ama acaba neden sadece bu direği gözenekli taştan yapmışlar? Bu soru cevapsız kalıyor.