ফকির মকরম আলী শাহ বাংলা ১৩২২ বাংলার বৈশাখ মাসের প্রথম সোমবার জন্মগ্রহণ করেছেন ভাদরপুরে। পিতার নাম পীর সফাত আলী শাহ ও মাতার নাম জয়গুণ বিবি। মকরম আলী শাহর পিতা পীর সফাত আলী শাহ উর্দু, ফার্সী ও আরবী ভাষা জানতেন। পড়তে পারতেন সিলেটের নাগরি লিপি। পিতার মতো নাগরি লিপি পড়তে ও এরকম নানা ভাষায় পারদর্শী ফকির মকরম আলী শাহ নিজেও। ভাদরপুরের ইসলামীয়া মাদ্রাসা থেকে দাখিল পাশ করেছেন। ফকির মকরম আলী শাহ’র ৩ ভাই ও ২ বোন। তাঁর এক ছেলে, নাম বাউল শাহজাহান। ১৯৭৮ সাল পবিত্র হজ্ব পালন করেছেন। প্রায় ছয় বছর ছিলেন সৌদি আরবে। হজ্ব পালন করেছেন বাবা, দাদা, দাদী, স্ত্রী এবং নিজের। সেই দেশে নিয়েও গানের চর্চা ছাড়েননি। আরবীতে গান করেছেন সেখানে। একুশে পদকপ্রাপ্ত বাউল সম্রাট শাহ আব্দুল করিমের সাথে ছিল তাঁর একান্ত সম্পর্ক।