১৯৫৭ সালে নওগাঁ কে. ডি. সরকারী উচ্চ বিদ্যালয় থেকে ম্যাট্রিকুলেশন, ১৯৬০ সালে বগুড়া আজিজুল হক কলেজ থেকে ইন্টারমিডিয়েট, ১৯৬৩ সালে ঢাকা বিশ্ববিদ্যালয় থকে বিএ অনার্স (রাষ্ট্রবিজ্ঞান) ও ১৯৬৪ সালে এমএ ডিগ্রী লাভ করেন। ১৯৬৫ সালে তিনি ব্যারিষ্টারী (বার.এট ল) পড়ার জন্য তিনি ইংল্যান্ডে যান।

তাঁর রাজনৈতিক জীবন শুরু হয় ১৯৫০-এর দশকের শেষ ভাগে। ছাত্রজীবনেই তিনি তৎকালীন বিভিন্ন গণতান্ত্রিক আন্দোলনে অংশগ্রহণ করতে শুরু করেন। তিনি ছিলেন বঙ্গবন্ধু শেখ মুজিবুর রহমানের ঘনিষ্ঠ সহচর। তাঁর অন্যতম পরিচয় ছিল ‘নওগাঁর জলিল’ হিসাবে। দেশে যখন স্বাধীনতার সংগ্রাম জোরদার হতে থাকে তখন আব্দুল জলিল লন্ডনে ছিলেন। ১৯৬৯ সালে দেশে আইয়ুব বিরোধী আন্দোলন চলছে। এ সময় বঙ্গবন্ধু ইংল্যান্ডে যান এবং সেখানে অধ্যয়নরত প্রাক্তন ছাত্র নেতাদের নিয়ে এক বৈঠক করেন। তখন জলিলের পরিচয় হয় বঙ্গবন্ধুর সঙ্গে। বঙ্গবন্ধুর ডাকে ১৯৬৯ সালেই তাঁর ব্যারিষ্টারী পড়া শেষ না করেই দেশে ফিরে আসেন এবং ঝাঁপিয়ে পরেন মহান স্বাধীনতা আন্দোলনে।১৯৭০ সালের ঐতিহাসিক নির্বাচনে নওগাঁ মহকুমার নির্বাচন পরিচালনার দায়িত্ব অর্পিত হয় আব্দুল জলিলের উপর। ১৯৭০ সালের নির্বাচনে আওয়ামী লীগ নিরঙ্কুশ সংখ্যাগরিষ্ঠতা অর্জন করলেও পাক সামরিকজান্তা ক্ষমতা হস্তান্তর না করে বিভিন্ন তালবাহানা ও কালক্ষেপণ শুরু করে। বঙ্গবন্ধুর ঐতিহাসিক ৭ মার্চের ভাষণ যা স্বাধীনতার ভাষণে সারাদেশবাসী আন্দোলিত ও উজ্জীবিত হয়ে উঠে যা স্বাধীনতার দলিল হিসাবে পরিচিত। ক্ষমতা হস্তান্তরের জন্য সমগ্র বাঙ্গালী জাতি প্রতিবাদ, প্রতিরোধের দূর্গ গড়ে তোলে। পাক সামরিকজান্তা পূর্বপরিকল্পিত নীল নকশার প্রতিফলন ঘটায়। গ্রেপ্তার করেন বাঙ্গালী জাতির অবিসংবাদিত নেতা সর্বকালের সর্বশ্রেষ্ঠ বাঙ্গালী বঙ্গবন্ধু শেখ মুজিবুর রহমানকে। ফুঁসে উঠে সমগ্র বাঙ্গালী জাতি। শুরু হয় স্বাধীনতা যুদ্ধ। আব্দুল জলিল নওগাঁ মহকুমার আপামর জনসাধারণ, কর্মরত ইপিআর,  পুলিশ আনছার বাহিনীকে সংগঠিত করে জীবন বাজী রেখে স্বাধীনতা যুদ্ধে অবতীর্ণ হন এবং ১৯৭১ মহান স্বাধীনতা যুদ্ধে এতদ্বঞ্চলের প্রধান সংগঠক হিসেবে দায়িত্ব পালন করেন।

মুক্তিযুদ্ধ শুরুর দিকে আব্দুল জলিল নওগাঁ থেকে যাওয়ার সময় ৭৪ জন যুবক ও তাঁর দলবল নিয়ে সীমান্ত অতিক্রম করে ভারতে চলে যান এবং বালুরঘাটে আত্রাই নদীর পূর্বতীরে শ্মশানকালী মন্দিরের পার্শ্বে একটি গৃহে অবস্থান গ্রহণ করেন। সেখান থেকে মুক্তিযোদ্ধাদের ভর্তি ও বাঙ্গালীপুর, মধুপুর, কামাড়পাড়া, প্যারিলাসহ ভারতের সীমান্তবর্তী এলাকায় বেশ কয়েকটি ট্রেনিং ক্যাম্প পরিচালনা করেন। ঐসব ক্যাম্প থেকে হায়ার ট্রেনিং এর জন্য শিলিগুড়ির পানিঘাটায় পাঠিয়ে দেওয়ার বিশাল দায়িত্ব গ্রহণ করেন আব্দুল জলিল।

নওগাঁ, জয়পুরহাট, দিনাজপুর, বগুড়া, সিরাজগঞ্জ ও পাবনার অধিকাংশ মুক্তিযোদ্ধা আব্দুল জলিলের তত্ত্বাবধানে পরিচালিত এসব ক্যাম্পে প্রশিক্ষণ গ্রহণ করে মুক্তিযুদ্ধে অংশগ্রহন করে। মুক্তিযুদ্ধের পর বঙ্গবন্ধু শেখ মুজিবুর রহমান তাঁকে উত্তরাঞ্চলের জেনারেল হিসাবে অ্যাখ্যায়িত করেন। নওগাঁ শহরের উত্তর-পশ্চিম পার্শ্বে আব্দুল জলিল চত্বরে তার প্রচেষ্টার নির্মিত হয় বিজয় মুক্তিযুদ্ধ স্মৃতিস্তম্ভ। ৭১ ফুট উঁচু এই স্মৃতিস্তম্ভ ১৯৭১-এর স্মৃতি বহন করে।আব্দুল জলিল শুধু মুক্তিযুদ্ধের একজন সংগঠকই ছিলেন না, ‘বঙ্গবাণী’ নামে একটি সাপ্তাহিক পত্রিকার মালিকও ছিলেন। আব্দুল জলিলের সাহায্য, সহযোগিতা ও পৃষ্ঠপোষকতায় বালুরঘাট নিউমার্কেট এলাকার সুনীতি প্রিন্টিং ওয়ার্কস থেকে উক্ত ‘বঙ্গবাণী’ পত্রিকাটি প্রকাশিত ও প্রচারিত হতো। উক্ত পত্রিকার সম্পাদনার দায়িত্বে ছিলেন অধ্যাপক খন্দকার মকবুল হোসেন ও সহ সম্পাদনার দায়িত্বে ছিলেন খন্দকার আবু বক্কর সিদ্দিকী। ১৯৭৩ সালে স্বাধীন বাংলাদেশের প্রথম সংসদ নির্বাচনে তিনি নওগাঁ সদর আসন থেকে জাতীয় সংসদ সদস্য নির্বাচিত হন। ১৯৭৫ সালের ২৫ জানুয়ারি, বাকশাল গঠিত হলে তাঁকে নওগাঁর গভর্নরের দায়িত্ব দেওয়া হয়। কিন্তু স্বাধীনতার বিপক্ষের শত্রুরা মাথাচারা দিয়ে উঠে। মানবতাবিরোধীরা, যুদ্ধাপরাধী, রাজাকার, আলবদর, আলশামস বাহিনী ও দেশী বিদেশী শত্রুরা ১৯৭৫ সালের ১৫ আগস্ট অতর্কিত হামলা চালিয়ে বঙ্গবন্ধু শেখ মুজিবুর রহমানসহ তাঁর গোটা পরিবারকে হত্যা করে। জনগণের মৌলিক অধিকার হরণ করে জারি করা হয় সামরিক শাসন। গণতন্ত্রের মুখ থুবড়ে পড়ে যায়। গণতন্ত্রকে হত্যা করা হয় গলা টিপে। অনেক নেতৃস্থানীয় ব্যক্তিবর্গের সঙ্গে আব্দুল জলিলকেও গ্রেপ্তার করা হয়। দীর্ঘ ৪ বছর কারাভোগের পর ১৯৭৯ সালে তিনি মুক্তিলাভ করেন।

১৯৮০’র দশকে তিনি স্বৈরাচার বিরোধী আন্দোলনে গুরুত্বপূর্ণ ভূমিকা পালন করেন। সে সময় থেকেই বিবিসি রেডিও এবং ভয়েজ অব আমেরিকায় নিয়মিতভাবে আওয়ামী লীগের মুখপাত্র হিসেবে তার কণ্ঠস্বর শোনা যেত।১৯৮১ সালে তাঁকে আওয়ামী লীগের আন্তর্জাতিক বিষয়ক সম্পাদক করা হয়। ১৯৮২ সালে সামরিক শাসন জারি করা হলে তাঁকে পুনরায় গ্রেফতার করা হয়। ১৫ দিন অজ্ঞাত স্থানে বন্দী রেখে অবর্ণনীয় দৈহিক নির্যাতন চালানো হয় তার উপর। জেলে থাকা অবস্থায় তাঁর মাতার মৃত্যু হলেও সামরিকজান্তারা মাতৃমুখখানা এক নজর দেখার জন্য কোন সুযোগ দেয় নাই।

১৯৮৩ সালে তাঁকে আওয়ামী লীগের যুগ্ম সাধারণ সম্পাদকের দায়িত্ব দেওয়া হয়। ১৯৮৪ এবং ১৯৮৮ সালে তিনি পরপর দু’বার নওগাঁ পৌরসভার চেয়ারম্যান নির্বাচিত হন। ১৯৮৬ সালে তিনি দ্বিতীয়বারের মত নওগাঁ সদর আসন থেকে সংসদ সদস্য নির্বাচিত হন এবং সংসদে বিরোধীদলীয় চিফ হুইপের দায়িত্ব পালন করেন। ১৯৯৩ সালে তাঁকে বাংলাদেশ আওয়ামী লীগের প্রেসিডিয়াম সদস্য করা হয়। ২০০২ সাল পর্যন্ত তিনি এই দায়িত্ব পালন করেন। ১৯৯৬ সালে জাতীয় সংসদ নির্বাচনে আওয়ামী লীগ বিজয়ী হলে ১৯৯৮ সালে তাঁকে টেকনোক্র্যাট কোটায় বাণিজ্য মন্ত্রীর দায়িত্ব দেওয়া হয়। ২০০১ এবং ২০০৮ এর জাতীয় সংসদ নির্বাচনে নওগাঁ সদর আসনের সংসদ সদস্য নির্বাচিত হন। ২০০২ সাল থেকে ২০০৯ সাল পর্যন্ত তিনি আওয়ামী লীগের সাধারণ সম্পাদক ছিলেন এবং মৃত্যুর আগ পর্যন্ত ছিলেন উপদেষ্টা পরিষদের সদস্য।জাতীয় পর্যায়ে অনেক গুরুদায়িত্ব পালন করা মহান এ মানুষটি ২০১৩ সালের ৬ মার্চ ব্যাংককের মাউন্ট এলিজাবেথ হাসপাতালে চিকিৎসাধীন অবস্থায় শেষ নিঃশ্বাস ত্যাগ করেন।