Kocaali’nin köylerinden biri olan Koğukpelit; ismini, burada bulunan büyük pelit ağaçlarından almıştır. Yakın zamanlara kadar köyün merkezinde ortası delik büyük bir pelit ağacı bulunuyordu. Köyde, 1960’lı yıllara kadar büyük pelit ağaçlarını görmek mümkündü. Günümüzde ise pelit ağaçlarının yerini fındık almıştır.
Türk kültüründe ağacın çok önemli bir yeri vardır. Türkler, ağaçların kutsal olduğuna inanışlar hatta onları anıtlaştırmışlardır. Mezarın başına ağaç dikmek, vefat eden bir kişiyi büyük bir ağacın dibine defnetmek, ağaçlara çaput bağlamak gibi inanışlara sahip olmuşlardır. Osman Gazi rüyasında Şeyh Edebali'nin koynundan bir ayın doğup, kendi koynuna girdiğini ve göbeğinden çıkan ağacın bütün dünyayı kapladığını görmüştü.
Osmanlı Devleti’nin kurucusu Osman Gazi, rüyasında Şeyh Edebali'nin koynundan bir ayın doğup, kendi koynuna girdiğini ve göbeğinden çıkan ağacın bütün dünyayı kapladığını görmüştü. Türkler, pek çok yer adına o bölgedeki ağacın ismini vermişlerdir. Koğukpelit, Karapelit, Kirazlı, Ağaçlı, Ardıçlı, Meşeli bunlardan bazılarıdır.
Koğukpelit, arazisi 1880’li yıllara kadar tamamen ormanlarla kaplıydı. Haliyle Çamdağı’nın bir parçasıydı. Koğukpelit ilk olarak Osmanlı döneminde Çam Dağı’ndan kereste kesen oduncu Manav ve Yörükler tarafından kuruldu. 1885 yılında Ordu bölgesinden Pontus Rumları, maden ocaklarında çalışmak için Kovukpelit’e göç ettiler. Rumları Karadenizli Türkler takip etti. 1910 yılında Türk ve Rumların sayısı 40 haneye ulaşan Koğukpelit, Karapelit’e bağlı bir mahalle konumuna geldi.
Milli Mücadele döneminde Karapelitli Çete Reisi İstavri, Pavli ve Yorgi Kocaali ve Kirazlı bölgesindeki köyleri ele geçirmiş, Müslümanlara türlü zulümler gerçekleştirmişti. 1920’de Kovukpelit’i de ele geçiren çete, yaklaşık 1 yıl burayı muhasara altında tuttu. 1921 yılında Karasu Jandarması ve Kuva-yı Milliye çeteleri tarafından yapılan operasyonda köy Rum çetelerden temizlendi.
Nüfus Mübadelesi ile Rumların tahliyesinden sonra Karasu’ya ve oradan Adapazarı’na giden Rumlar Yunanistan’ın Stavros şehrine yerleştirildiler. Koğukpelit’e ise Doğu Karadeniz’den gelen Türkmenler yerleştirildi.
Koğukpelit, günümüzde Kocaali’ye bağlı köylerden biridir. Halkı çoğunlukla Kocaali ve Adapazarı’nda yaşamakta olup, fındık zamanı köye gelerek hasadını gerçekleştirmektedirler.