এ দেশে মুসলমানের আগমনের সূত্রপাত হয়েছে ৭ম শতাব্দীতে হযরত উমর ফারুক (রা.) এর খিলাফতের সময়। হযরত মাহমুদ ও হযরত মুহাইমিন নামক দুজন অতি উচ্চশ্রেণির সূফী দরবেশ এসে ইসলাম প্রচার করেছিলেন। তখন এদেশে ছিল রাজা শশাংকের আধিপত্য। আবার সমগ্র উত্তর ভারতে ছিল হর্ষবর্ধনের দুর্দান্ত প্রতাপ। হর্ষবর্ধন ধর্মের দিক থেকে ছিলেন বৌদ্ধ আবার শশাংক ছিলেন ভয়ানক বৌদ্ধ বিদ্বেষী। তার অত্যাচারে এ অঞ্চল থেকে পলায়ন করে বৌদ্ধগণ চট্টগ্রাম প্রভৃতি পার্বতীয় অঞ্চলে এবং সমুদ্রের উপকূলে আশ্রয় নিয়েছিলেন। তবে হর্ষবর্ধন বা শশাংক তাদের স্বকীয় রাজ্যে কোনো মুসলিম ধর্ম প্রচারকদের বাধা দেননি। অষ্টম শতাব্দী থেকে আরব দেশীয় বণিকগণ চট্টগ্রামের উপকূলে জাহাজ থেকে আগমন করে এদিকে যেমন ব্যবসা-বাণিজ্য করেছেন তেমনি অপরদিকে ইসলামও প্রচার করেছেন। এতেও রাজশক্তি থেকে কোনো বাধা-বিপত্তি দেখা দেয়নি। এভাবে অষ্টম শতাব্দী থেকে দশম শতাব্দী পর্যন্ত এ দেশে জনগণ নির্বাচিত বৌদ্ধ রাজা ও তার বংশধররা রাজত্ব করলেও তারা মুসলিমদের ওপর কোনো অত্যাচার করেনি। একাদশ শতাব্দীতে পাল বংশীয় রাজাদের বিতাড়িত করে দক্ষিণাত্যের কর্নাটক থেকে সেন বংশীয় রাজারা এ দেশে অধিকার করলে তারা শশাংকের মতো পুনরায় বৌদ্ধদের উপর ভীষণ অত্যাচার করতে আরম্ভ করেন। তাদের ভীষণ অত্যাচারের ফলে বৌদ্ধগণ তাদের পূর্ববর্তীদের মতো পাহাড়-পর্বত ও সমুদ্রের উপকূলে পলায়ন করে আত্মরক্ষা করেন। যারা নানা কারণে সে সকল স্থানে যেতে পারেনিÑ তারা বাধ্য হয়েই প্রকাশ্যে হিন্দুদের আচার-আচরণাদি অনুকরণ করতে থাকেন। এজন্য তাদের বলা হতো কপট বৌদ্ধ বা (Crypto Buddhist)। ১২০১ সালে ইখতিয়ার উদ্দিন মুহাম্মদ বিন বখতিয়ার খিলজী কর্তৃক এদেশ অধিকৃত হলে সেন রাজাদের দ্বারা লাঞ্চিত এসকল কপট বৌদ্ধগণই দলে দলে ইসলাম ধর্ম গ্রহণ করেন। ৭ম শতাব্দী থেকে ১৩শ’ শতাব্দী পর্যন্ত দলে দলে ইসলাম প্রচারকগণ এদেশে ইসলাম প্রচার করেছেন। তাদের এ প্রচারের ফলে এবং সেন রাজাদের অত্যাচারে অতিষ্ঠ হয়ে এ দেশীয় জনগণ অতি সহজেই ইসলাম গ্রহণ করে রাজশক্তিকে সাহায্য করে। এ সকল প্রচারক দরবেশগণ অবিভক্ত বঙ্গদেশের নানা স্থানে ইসলাম প্রচার করেছেন। তাদের সঙ্গে স্থানীয় সীমান্ত সর্দারগণ বা হিন্দু সমাজের দলপতিগণ সকল ক্ষেত্রে দুর্ব্যবহার করেননি। বগুড়াতে সুলতান মাহে সওয়ার, রাজশাহীতে শাহ মখদুম, পাবনায় মখদুম শাহ দওলাহ, মোমেনশাহীতে শাহ সুলতান ইসলাম প্রচারকালে কোনো স্থানীয় দলপতি বা সামন্ত তাঁদের উপর কোনো অত্যাচার করেনি। তবে সেনদের নিকটবর্তী স্থানে বাবা আদম নামক এক সূফী দরবেশকে বলাল সেনের আদেশে নামাযরত অবস্থায় হত্যা করা হয়।
মুসলিম জীবনে ইসলামী আচার-আচরণ পালন করার জন্য সিলেটের বুকে টুলটিকর বাকী বুস্তানুদ্দীনের উপর এবং তরফের নূরুদ্দীনের উপর হিন্দু রাজা ও সামন্ত সর্দার যে অত্যাচার করেছেন তার কোনো তুল্য নযীর অন্য কোথাও নেই। এটা ইতিহাসবিদিত সত্য যে, ছেলের আকীকাতে গো-যবেহ করে তার মানত পূর্ণ করার অপরাধে গৌড়ের (সিলেটেরই একটা মধ্যম ভাগে অবস্থিত রাজা) রাজা গোবিন্দ তার শিশুপুত্রকে হত্যা করিয়েছেন এবং তার ডান হাত কর্তনের হুকুম দেন। সমকালীন তরফের সামন্ত রাজা আজাক নারায়ণ তরফের একজন সম্ভ্রান্ত মুসলিম কাযী নূরুদ্দীনকে ইসলাম সঙ্গত কাজ করার জন্য নানাভাবে অত্যাচার করেন। তাঁকে তাঁর পুত্রের বিবাহ উপলক্ষ্যে গরু যবেহ করার জন্য হত্যা করা হয়। বুরহানুদ্দীন তাঁর উপর অত্যাচারের প্রতিশোধ নেওয়ার জন্য বাংলার সুলতানের শরণাপন্ন হলে এবং সুলতান কর্তৃক তার ভাগ্নেকে গৌড়গোবিন্দের বিরুদ্ধে প্রেরণ করেও তাকে পরাস্ত করতে পারেননি। গৌড়ের সুলতানের ফৌজ দুবার পরাজিত হলে অসম সাহসী বুরহানুদ্দীন স্বয়ং দিল্লীর স¤্রাট আলাউদ্দীনের শরণাপন্ন হলে স¤্রাট তার সাহায্যার্থে এক বিরাট বাহিনী প্রেরণ করার জন্য আদেশ দেন। সে সময় হযরত শাহজালাল (র.) ইয়ামানী তাঁর পীর ও মাতুলের আদেশে হিন্দুস্থানের দিকে ইয়ামানের শাহজাদা আফী ও মাত্র কয়েকজন অনুবর্তীসহ রওয়ানা দিয়ে পথিমধ্যে আরও সহগামী প্রাপ্ত হন। দিল্লীতে পৌঁছে তিনি তখন অবস্থান করেছিলেন এমন সময় বুরহানুদ্দীনের নিকট থেকে এ করুণ কাহিনী শুনে নিতান্ত বিচলিত হয়ে তিনিও ইলাহী সৈন্যের সঙ্গে সিলেট অভিমুখে যাত্রা করেন। তখন দিল্লীতে সৈয়দ নাসিরুদ্দীন লস্কর বলে এক সিপাহসালার ছিলেন। এক মতে, তিনিও এ বিরাট বাহিনীর সঙ্গে যোগ দিয়ে সিলেটের দিকে অগ্রসর হন। আবার তার বংশধরদের মতানুসারে তিনি পৃথকভাবে তরফের দিকে অগ্রসর হয়ে কাযী নূরুদ্দীনের নানাভাবে নির্যাতিত করে হত্যা করার কারণে শাস্তিদান করার জন্য তরফের সামন্ত সর্দার আচাক নারায়ণকে আক্রমণ করে পরাজিত করেন। সে সর্দার পরাজিত হয়ে তার আশ্রয়দাতা ত্রিপুরার রাজার রাজ্যে চলে যান।
হযরত শাহজালাল তাঁর অনুসঙ্গী দরবেশগণসহ সিলেটের দিকে অগ্রসর হলে গৌড়গোবিন্দ পথিমধ্যে নানা বিঘেœর সৃষ্টি করে। তবে আল্লাহর মেহেরবাণীতে তার সকল অতিসন্ধিই ব্যর্থ হয়। অতঃপর সুরমার দক্ষিণ তীরে তিনি সদলবলে উপস্থিত হন এবং সুরমা নদী অতিক্রম করে গৌড়গোবিন্দের রাজধানীতে পৌঁছেন। তার এতো খুব অলৌকিক শক্তির কথা শুনে গৌড়গোবিন্দ প্যাচাগড়ে চলে যান। হযরত শাহজালাল অতঃপর গৌড়গোবিন্দের দূর্গ তার অধিকারে নিয়ে আসেন এবং দূর্গের মধ্যে রক্ষিত অস্ত্রশস্ত্র ও দ্রব্যরাজি মুসলিম সৈন্যদের মধ্যে বিলিয়ে দেন। তখন থেকেই সিলেটে মুসলিম শাসন প্রতিষ্ঠিত হয়।
তার এ সংগ্রামের বৈশিষ্ট্য এই যে, তিনি অপরাপর দরবেশদের মত শুধু প্রচারই করেননি, তিনি অত্যাচারী যালিমদের বিরুদ্ধে তাঁর অনুসারীদের নিয়ে সংগ্রাম করেছেন। তবে তিনি তাঁর বিজয় লাভের পর দুরাচার রাজা গোবিন্দের রাজ্যের তার অনুগত অত্যাচারীদের হত্যা করার জন্য কোনো আদেশ দেননি। তাদের সঙ্গে প্রতিশোধমূলক কোনো ব্যবহারও করেননি। খাঁটি মুসলিম বীরের মতোই আচরণ করেছেন। এদেশে ইসলাম প্রচার করার উদ্দেশ্যে তিনি বিভিন্ন স্থানে যেসকল দরবেশদের প্রেরণ করেছিলেন তারাও স্থানীয় লোকদের উপর কোনো যুলম নির্যাতন করেননি। খুলাফায়ে রাশিদীন যেভাবে শত্রুদের সঙ্গে ব্যবহার করেছিলেন সে আদর্শ সম্মুখে রেখেই তিনি তাঁর কর্তব্য সম্পাদন করেছেন। এজন্য সিলেটে কেন এ উপমহাদেশের সমগ্র পূর্বাঞ্চলে তাঁকে একজন শ্রেষ্ঠ ইসলামী বীর, একজন শ্রেষ্ঠ তাসাওউফের পথপ্রদর্শক ও একজন শ্রেষ্ঠ মানব বলে শ্রদ্ধা প্রদর্শন করা হয়।
তিনি সিলেট বিজয়ের পর তাঁর সঙ্গে আগত সেনানায়ক হায়দর গাযীকে ইসলামের নীতি অনুসারে এদেশ শাসন করতে আদেশ দেন। তাঁর এ ফরমান দরগাহের মুতাওয়াল্লী শর-ই কওম এ জেড আব্দুল্লাহর বাড়িতে সযত্নে রক্ষিত ছিল।
এই আদেশের পরে বহুদিন পর্যন্ত সিলেটে ইসলামী শাসন প্রচলিত ছিল। ১৬১২ সালে মুঘল স¤্রাট জাহাঙ্গীরের রাজত্বের সময় বাংলার সুবাদার ইসলাম খাঁর সেনাপতি সুজাত খান কর্তৃক বিদ্রোহী পাঠান বীর খাযা উসমান খান লোহালীকে মৌলভীবাজার জেলার অন্তর্গত লম্বোদর যুদ্ধে পরাজিত করার পরে সমগ্র সিলেট তথা বাংলাদেশ মুঘলদের অধিকারে আসে। খুব সম্ভব সে সময় থেকেই ইসলামী শাসনের স্থলে মুঘলদের শাসন সিলেটে প্রবর্তিত হয়। হযরত শাহজালালের জীবনে এ ইসলামী শাসন প্রবর্তন প্রকৃতপক্ষে একটা অভূতপূর্ব ঘটনা। কারণ তখন দিল্লীর পাঠান সুলতানরা এদেশে ইসলামী নীতি অনুসারে শাসন করতেন না। প্রাচ্যদেশে তিনিই ইসলামী শাসন প্রবর্তন করেছিলেন।