A szervezet a Hamásznál is régebb óta tevékenykedik Gázában.
A Hamász szövetségeseként Gázában működő Iszlám Dzsihád az Al-Ahli kórház elleni támadással kapcsolatban került be legutóbb a hírekbe. Az IDF állítása szerint ugyanis az ő meghibásodott és idő előtt felrobbant rakétájuk okozta a tragédiát a kórháznál. De mit lehet tudni erről a szervezetről, ami az utóbbi időben mintha meglapult volna a Hamász árnyékában.
Az Iszlám Dzsihád története régebbi még a Hamaszénál is és Egyiptomban kezdődött, ahol a mai iszlám fundamentalizmus eredőjének tekinthető Muszlim Testvériség is működött. Ennek a társaságnak volt az egyik vezetője egy Szajjid Kutb nevű teoretikus, akit a politikai iszlamizmus atyjának és első mártírjának is tartanak. Kutb ugyanis határozottan ellenezte az 1950-es, 60-as évek divatos arab nacionalizmusát, mivel a nemzeti alapú gondolkodás helyett az umma, tehát az Iszlám hívőinek közösségén keresztül képzelte el az államépítést.
Kutbot a korabeli nacionalista egyiptomi rezsim ezért előbb bebörtönözte, majd halálra ítélte és kivégezte.
Az 1970-es évektől a muszlim világban megjelenő különféle radikális szervezetek többsége Kutb követőjének vallotta magát, ilyen volt az Egyiptomban megalakult Iszlám Dzsihád és a később Afganisztánban létrejött Al-Káida is.
Az Iszlám Dzsihád aktivistái részt vettek az egyiptomi elnök, Anvár Szadat ellen 1981-ben elkövetett merényletben, ami a politikus halálával járt. Szadatnak azért kellett meghalnia, mert 1979-ben békeszerződést írt alá Izraellel, amivel fejére idézte az iszlamisták haragját, akik árulásként tekintettek az aktusra.
Szadat halála után nem sokkal két palesztin tagja (dr Fathi Shaqaqi és Abd Al Aziz Awda sejk) egy új szervezetet hozott létre és talán nem függetlenül az egyiptomi hatóságok üldözésétől az ekkor már izraeli megszállás alatt lévő Gázai övezetben telepedtek le. Ekkor kezdődött a Palesztinai Iszlám Dzsihád története. A szervezet létrejöttének első pillanatától kezdve egyértelművé tette, hogy nem ismeri el Izrael létjogosultságát és a helyén egy muszlim Palesztinát képzel el. Egészen nyilvánvaló volt, hogy ezt a célt csakis erőszakkal érheti el, így 1984-től kezdve fegyveresen harcol Izrael ellen és válogatás nélkül gyilkolja az ország állampolgárait, legyenek akár katonák, vagy civilek.
Ők hajtották végre az első öngyilkosnak szánt merényletet Izrael területén, amikor egy aktivistájuk 1989. július 6-án megragadta a Tel-Aviv és Jeruzsálem között közlekedő 405-ös számú buszjárat kormányát, majd a szakadékba vezette a járművet. Ugyan a támadásban 16 civil meghalt, az elkövető túlélte azt.
A szervezet idővel maga is átnyergelt a robbanószerekre és egyre halálosabb bombatámadásokat hajtott végre különféle izraeli célpontok ellen, ezek jellemzően buszok, éttermek, és bevásárlóközpontok voltak, ennek megfelelően Izraelben és az USA-ban is terrorszervezetként tartják számon.
Felmerülhet a kérdés, hogy miként férhet meg két dudás egy csárdában, azaz miért nem számolt még le egymással a Hamász és az Iszlám Dzsihád Gázában? Ennek leginkább az az oka, hogy a Hamásztól eltérően az Iszlám Dzsihád egy kizárólag katonai szervezetként tekint magára, tehát nincs ambíciója a palesztin közéletben való részvételre, nem jelölteti magát választásokon, nem követel magának politikai hatalmat.
Ugyanakkor ebből a felállásból konfliktusok is származtak, volt, hogy a politikai helyzet miatt a Hamász nem látta alkalmasnak részt venni egy-egy Izrael elleni akcióban (ez történt például 2012-ben is), míg az ehhez hasonló megfontolások a nem politizáló és egy terület közigazgatásért sem felelő Iszlám Dzsihádot nem feszélyezték, így ők tekinthetők a kisebb, de militánsabb frakciónak a két szervezet közül.