وكان لجهود حاييم وايزمان في لندن، وموشى شرتوك (شاريت) في القدس، دور مهم في إقناع بريطانيا بفكرة تكوين قوة مسلحة يهودية، فسمحت الحكومة البريطانية ليهود فلسطين عام 1940 بالانضمام إلى كتيبة كنت الشرقية، ومن ثم ظهرت 15 سرية يهودية خاصة نُظِّمت بين عامي 1942 و1943 في شكل ثلاث كتائب مشاة ليشكلوا «الوحدة الفلسطينية» التي تولت أعمال الحراسة في برقة ومصر. وقد استمرت عملية الضغط على الحكومة البريطانية لتكوين القوة اليهودية المسلحة. وفي الولايات المتحدة، تبنت المنظمة الحاخامية قرارات تدعو الرئيس روزفلت لإقناع بريطانيا بتحقيق هذا المطلب. ورداً على الحجة البريطانية بعدم كفاية الأسلحة، اقترح مجلس الطوارئ الصهيوني الأمريكي تسليح القوة اليهودية بأسلحة أمريكية طبقاً لقواعد الإعارة والتأجير.

وبعد تأسيسه، أمضى اللواء اليهودي فترة تدريب في برج العرب القريبة من الإسكندرية في أكتوبر 1944، ثم انضم بعدها إلى الجيش الثامن البريطاني في إيطاليا حيث قاتل ضد قوات المحور. وقد أسهم اللواء اليهودي في تنظيم هجرة يهود أوربا إلى فلسطين. ومع انتهاء الحرب وتصاعُد الصدام بين بريطانيا من ناحية والمنظمات العسكرية الصهيونية من ناحية أخرى، وتشكيل هذه المنظمات لما عُرف باسم «حركة المقاومة العبرية» ، بدأ اللواء اليهودي في إصدار نشرة نصف أسبوعية ثم أصدر نشرة أخرى يومية. وقد انتقدت هذه النشرات سياسة الانتداب البريطاني في فلسطين، وهو ما حدا ببريطانيا إلى اتخاذ قرار بحل اللواء اليهودي في صيف عام 1946 وإعادة رجاله إلى فلسطين حيث انضموا إلى التنظيمات العسكرية الصهيونية القائمة آنذاك. وقد ظهر من بين صفوف اللواء اليهودي عدد من القادة العسكريين في إسرائيل مثل مردخاي ماكليف وحاييم لاسكوف.