وفي خريف عام 1938، جرح عبد القادر ثانية في إحدى المعارك، فأسعفه رفاقه في المستشفى الإنجليزي في الخليل، ثم نقلوه خفية إلى سورية، فلبنان. ومن هناك نجح في الوصول إلى العراق بجواز سفر عراقي يحمل اسم محمد عبد اللطيف.
وفي بغداد عمل عبد القادر مدرسا للرياضيات في المدرسة العسكرية في معسكر الرشيد، وفي إحدى المدارس المتوسطة، ثم التحق بدورة لضباط الاحتياط في الكلية العسكرية.
أيد عبد القادر ثورة رشيد عالي الكيلاني في العراق عام 1941، وشارك مع رفاقه في قتال القوات البريطانية، لكنه بعد فشل الثورة ألقي القبض عليه مع رفاقه من قبل السلطات العراقية، وصدر عليهم الحكم بالسجن، وتحت ضغط الرأي العام العراقي والرموز الوطنية العراقية، استبدل السجن بالنفي عشرين شهرا إلى بلدة زاخو في أقصى شمال العراق.
كما مثلت أمام المحكمة السيدة (وجيهة الحسيني) زوجة عبد القادر بحجة مساعدتها وإيوائها للثوار، وتحريضهم على القتال، وحكم عليها بالإقامة الجبرية في بيتها ببغداد مدة عشرين شهرا.
وعلى أثر اغتيال فخري النشاشيبي في شارع الرشيد ببغداد، اتهم عبد القادر بتدبير خطة الاغتيال هذه، فبقي موقوفا في بغداد قرابة السنة بهذه التهمة .. ثم نقل إلى معتقل العمارة، وهناك أمضى ما يقرب من سنة أخرى، حيث أفرجت الحكومة العراقية عنه في أواخر سنة 1943، بعد أن تدخل الملك عبد العزيز آل سعود ملك العربية السعودية. فتوجه إلى السعودية وأمضى فيها عامين بمرافقة أسرته.
وفي مطلع عام 1944 تسلل عبد القادر من السعودية إلى ألمانيا، حيث تلقى دورة تدريب على صنع المتفجرات وتركيبها، ثم انتقل وأسرته إلى القاهرة وهناك وبسبب نشاطه السياسي وصلاته بعناصر من حزب مصر الفتاة وجماعة الإخوان المسلمين، وتجميعه الأسلحة، وتدريبه الفلسطينيين والمصريين على صنع المتفجرات، أمرت حكومة السعديين المصرية بإبعاده.. لكن الضغوط التي مارستها القوى الإسلامية المصرية حالت دون تنفيذ ذلك الإبعاد.
عندما علمت الهيئة العربية العليا نية الأمم المتحدة تقسيم فلسطين، سارعت الهيئة برئاسة المفتي أمين الحسيني إلى الانعقاد، وقررت مواجهة الخطط الاستعمارية الصهيونية بالقوة المسلحة، وتقرر إنشاء جيش فلسطين لممارسة الجهاد الفعلي، واختير المفتي قائدا أعلى لهذا الجيش وأعاد تموين منظمة الجهاد المقدس، ثم حولها إلى جيش الجهاد المقدس الفلسطيني. وأسند قيادته العامة إلى عبد القادر الحسيني، بالإضافة لمهمة الدفاع عن القدس ورام الله وباب الواد.
وعندما أصدرت الأمم المتحدة قرارها القاضي بتقسيم فلسطين عام 1947، تسلل عبد القادر إلى فلسطين سرا مع بعض رفاقه، وفي نفس الوقت اجتاز الحدود الفلسطينية عدد من المجاهدين القادمين من سورية ولبنان، والتقوا جميعا بعبد القادر ، وأخذوا يرسمون خطة جديدة للبدء في المرحلة القادمة من الجهاد. فأعادوا تشكيل قوات الجهاد المقدس، واتخذت بلدة (بير زيت) مقرا رئيسيا لتلك القوات، وتألفت في حيفا والناصرة وجنين وغزة قوات أخرى تابعة لها.
تعتبر هذه القوات طليعة العمل النضالي العربي التي انبثقت تنظيماتها من صميم الشعب الفلسطيني، وكانت في الحقيقة أول مظهر من مظاهر القوات الشعبية التي تحمل في جوهرها صفة الجيش الشعبي في بلد كان يرزح تحت نير الاستعمار البريطاني.