فقط چند ماه پس از اعدام شهداي هيئت هاي موتلفه اسلامي يك گروه اسلامي ديگر به نام حزب ملل اسلامي نيز پيش از هر گونه اقدام مسلحانه بر ضد رژيم شاه كشف و منهدم شد. مقدمات تأسيس اين گروه به گفته كاظم بجنوردي، رهبر آن به سال 1340 برمي گشت. بجنوردي فرزند يكي از فقهاي برجسته حوزه علميه نجف بود. او كه در دوران دبيرستان همكاري هايي با حزب الدعوه الاسلاميه عراق داشت تجربه اين همكاري را در تأسيس حزب ملل اسلامي به كار گرفته بود. تأثيرپذيري از امام و نهضت اسلامي و داشتن هدف بزرگ استقرار حكومت اسلامي و بالاخره استفاده از تجربه هاي مبارزاتي ملل ديگر از گروه هاي چپ كوبا و آسياي جنوب شرقي گرفته تا الجزاير و حركت ناسيوناليستي جمال عبدالناصر ، از مولفه هاي قابل توجه در شكل گيري اين سازمان بود. به جز روحاني 33 ساله گروه ( محمدجواد حجتي كرماني) بقيه اعضا جملگي در هنگام بازداشت سني كمتر از 26 سال داشتند. اعضاي آزاد شده مثل جواد و احمد منصوري، احمد احمد، عباس آقازماني و عليرضا سپاسي آشتياني در سال 1348 گروهي به نام «حزب الله » را تأسيس كردند. آنها مسجد شيخ علي را كه قبلاً از پايگاه هاي موتلفه اما به صورت تقريباً متروكه درآمده بود به عنوان پاتوق اين گروه تقريباً 20 نفره خود انتخاب كرده بودند.
در سال 1350 حزب الله خود را براي ورود به فعاليت مسلحانه آماده مي كرد. با مطرح شدن پيشنهاد ادغام اين گروه در گروه گسترده تري به نام سازمان مجاهدين خلق يكي از اعضاي مركزيت يعني جواد منصوري به دليل تأثيرپذيري سازمان مجاهدين خلق از ماركسيسم و لو رفتن سريع اعضا با توجه به تحت فشار بودن سازمان مزبور، با آن مخالفت كرد. اما بخش قابل توجهي از اعضا مثل احمد احمد، سپاسي آشتياني، محمد مفيدي، باقر عباسي و ... به اين سازمان پيوستند و چندي بعد در مهم ترين عمليات هاي ترور اين سازمان نقش ايفا كردند.
مهم ترين و در عين حال تلخ ترين تجربه در مبارزات مسلحانه نيروهاي مسلمان، تجربه سازمان مجاهدين خلق بود. در سال 1344 تعدادي از اعضاي جوان نهضت آزادي به نام هاي محمد حنيف نژاد، سعيد محسن و عبدالرضا نيك بين رودسري ( مشهور به حسن عبدي) اين سازمان را بنيان نهادند. يك سال بعد عضو ديگر نهضت آزادي يعني علي اصغر بديع زادگان به اين جمع پيوست. البته در همان اوان فعاليت «نيك بين» به سبب بيماري از سازمان جدا شد. انديشه حنيف نژاد رهبر اصلي اين جمع در دوران جواني با نظرات يك منتقد روحانيت شيعه به نام «يوسف شعار» در تبريز شكل گرفته بود. حنيف نژاد به دنبال ورود به دانشگاه تهران تحت تأثير افكار بازرگان قرار گرفت. اما پس از 15 خرداد، هم به مبارزه پارلماني بازرگان بي اعتقاد شد و هم مدعي تشكيلاتي نبودن نهضت امام خميني بود. بدين ترتيب حنيف نژاد به حركت مسلحانه اعتقاد پيدا كرده بود. اما تعيين كننده ترين باور حنيف نژاد اعتقاد به لزوم يك سازمان منضبط و آهنين با توجه به تجربه هاي پيروز انقلاب روسيه، چين ، كوبا و الجزاير بود. از اين مهم تر او به اين نتيجه رسيده بود كه «تجربه هاي انقلابي جهاني متكي بر يك اصول لايتغير علمي است كه آن را علم مبارزه مي دانيم.» تركيب مباني نظري مهدي بازرگان ( اعتقاد به علم گرايي به عنوان « راه طي شده » بشر و دنباله تعاليم انبيا) و پذيرش تجربه مبارزاتي جريان هاي ماركسيست دنيا ( به عنوان علم مبارزه) در انديشه حنيف نژاد، نوشته شدن كتابي به نام «شناخت » را توسط يكي از اعضاي گروه به نام حسين روحاني و اضافه شدن ملحقاتي از قرآن و نهج البلاغه توسط حنيف نژاد را به دنبال داشت. اعضاي سازمان مجاهدين خلق تصور مي كردند براي آن كه علم مبارزه را بياموزند بايستي به مطالعه آثار مختلف نويسندگان مادي گراي ماركسيست بپردازند و علاوه بر اين دستگاه فكري آنها را شرح دهنده آموزه هاي اسلامي بينگارند. پس از «شناخت» كتاب هاي ديگري مثل تكامل، اقتصاد به زبان ساده، راه انبيا، راه بشر، راه حسين و ... نيز يكي پس از ديگري با همين گرايش توسط اعضاي مختلف مركزيت سازمان مجاهدين خلق به نگارش در آمد و در بين اعضا توزيع شد . اما وجهه بيروني سازمان، يك گروه اسلامي با گرايش به مبارزه مسلحانه با رژيمي سركوبگر، دين ستيز و وابسته به آمريكا بود. لذا حتي روحانيت اين سازمان را مورد پشتيباني مالي و معنوي قرار مي داد. مخفي كاري مجاهدين خلق در مراحل اول اجازه اطلاع بزرگان روحانيت از مباني انديشه اي آنها را نمي داد. اولين فرد از روحانيت كه به ماهيت التقاطي انديشه اين سازمان پي برد امام خميني بود. در سال 1349 يك تيم از سازمان مجاهدين خلق كه هواپيماي حامل چند عضو دستگير شده سازمان در دبي را ربوده بود، آن را به عراق منتقل كرد. تعدادي از اين افراد به اردوگاه هاي آموزشي فلسطيني ها منتقل شدند. اما دو عضو اين تيم به نام هاي حسين روحاني و تراب حق شناس كه بعدها هر دو ماركسيست شدند پس از برقراري ارتباط با اعضاي بيت امام در ملاقاتي در سال 1351 به قصد كسب حمايت امام خميني با تشرف به محضر ايشان به تشريح مباني اعتقادي و نيز برنامه هاي مبارزاتي اين سازمان پرداختند و البته با پاسخ منفي امام روبه رو شدند. آنها حامل نامه كوتاهي از آيت الله طالقاني بودند كه تنها شامل عبارتي از قرآن درباره اصحاب كهف بود. در شهريور 1350 بخش اصلي رهبري سازمان و از جمله سه بنيانگذار آن محمد حنيف نژاد ، سعيدمحسن و بديع زادگان از طريق يك واسطه خروج از كشور لو رفتند و به زندان افتادند و اغلب اعدام شدند. تا آن زمان هنوز نام «سازمان مجاهدين خلق» بر اين گروه نهاده نشده بود و لذا ساواك آنها را اعضاي نهضت آزادي مي شناخت. در بهمن 1350 اولين اعلاميه به نام سازمان مجاهدين خلق ايران و به قلم حسين روحاني ( رهبر گروهك ماركسيستي پيكار در سال هاي بعد) منتشر شد. در اين زمان احمد رضايي نويسنده كتاب «راه حسين» سعي مي كرد تشكيلات منهدم شده را احيا كند. بدين ترتيب او ، برادرش رضارضايي و نيز بهرام آرام در مركزيت سازمان قرار گرفتند. با كشته شدن احمدرضايي و سپس خودكشي رضارضايي در درگيري مسلحانه، مجيد شريف واقفي و بهرام آرام رهبري سازمان را به دست گرفتند. اين درست زماني بود كه يكي از اعضا به نام تقي شهرام به تازگي و به طرز مشكوكي از زندان فرار كرده و در كنار شريف واقفي و آرام در مثلث رهبري سازمان قرار گرفته بود. در خلال اين سال ها مجاهدين خلق چند عمليات موفق براي ترور مسئولان امنيتي رژيم و مستشاران آمريكايي و نيز انفجار در چند مركز بزرگ و كوچك رژيم شاه انجام دادند. به دنبال ورود تقي شهرام به مركزيت سازمان، او با اعتراف به قابل جمع نبودن اسلام و ماركسيسم زمينه تغيير ايدئولوژي در سازمان، يعني كنار گذاشتن اسلام را فراهم ساخت. پس از علني شدن اين تصميم با همراهي بهرام آرام شريف واقفي به خاطر مخالفت با آن كشته و در بيابان هاي شرق تهران سوزانده شد. اجراي مشابه اين ترور درون سازماني در مورد صمديه لباف ديگر عضو عملياتي سازمان وي را در بيمارستان به دام ساواك انداخت. صمديه لباف پس از تحمل شديدترين شكنجه ها به شهادت رسيد. البته ترورهاي درون گروهي اعضاي سازمان از سال هاي قبل آغاز شده بود و پس از اين نيز در مورد افراد ديگري اجرا شد.
تمام كادرهاي اصلي سازمان در سال 1354 يا كشته و يا دستگير شدند اما افرادي مثل تقي شهرام، حسين روحاني و سپاسي آشتياني توانستند از مهلكه بگريزند. در سال هاي منتهي به پيروزي انقلاب بقاياي ماركسيست سازمان نيز در اثر اختلاف نظر درباره ادامه يا توقف مبارزه مسلحانه دچار انشعاب شدند. در داخل زندان مسعود رجوي با به دست گرفتن رهبري سازمان وارد يك جبهه گيري آشكار با نيروهاي اصولگراي مسلمان و اتحاد استراتژيك با ماركسيست ها شد. رفتار تخاصم آميز بقاياي سازمان با روحانيت تا پيروزي انقلاب ادامه يافت و پس از شكل گيري جمهوري اسلامي حوادث خونباري را رقم زد.