Создана в начале 80-х гг. в центральном Панджабе (Пакистан) мусульманскими религиозными деятелями. Вскоре после своего создания HUM стала посылать добровольцев в Афганистан в помощь афганским моджахедам, сражавшимся против советских войск. Добровольцы набирались в Пакистане и оккупированной Пакистаном части индийского Кашмира (по некоторым данным, всего их было около 5000 человек). Финансирование шло от сторонников HUM в Пакистане, Египте и Саудовской Аравии, в т. ч. от бин Ладена.

Поскольку война в Афганистане затягивалась, HUM начала набирать добровольцев в других мусульманских странах. Около 6000 прибыли из Алжира, Египта, Туниса, Иордании, Саудовской Аравии, Кашмира (Индия), Бангладеш, Бирмы и Филиппин.

Сначала добровольцы HUM проходили подготовку в афганской провинции Пактия в лагерях командира Джалалуддина Хаккани, лидера группировки моджахедов - сторонников "Хизб-и ислами" (Исламской партии) Юнуса Халеса, впоследствии примкнувшего к движению "Талибан". Впоследствии HUM создала собственные тренировочные лагеря в Северо-Западной пограничной провинции Пакистана.

После захвата моджахедами власти в Кабуле в апреле 1992 г. HUM превратилась в международную организацию боевиков, сражающихся за "дело ислама" по всему миру. С этого времени она распространила свою активность на штат Джамму и Кашмир, Египет, Тунис, Алжир, Боснию, Чечню, Таджикистан, Бирму и Филиппины.

HUM вошла во "Всемирный исламский фронт борьбы против иудеев и крестоносцев", созданный в феврале 1998 г. бин Ладеном. Один из ее лидеров, Фазл ур-Рахман Халиль, подписался под фетвой бен Ладена, призывавшей к нанесению ударов по американским и западным интересам. 

HUM имеет лагеря по подготовке террористов в восточном Афганистане, которые пострадали от американских ракетных ударов по лагерям бен Ладена в Хосте в августе 1998 г. США нанесли удары по следующим лагерям HUM:

- лагерь Салман Фаси (также известен как Хазрат Мавир Мавя), расположенный в окрестностях города Джава, в Афганистане, в двух километрах от пакистано-афганской границы.

- лагерь Халид бен Валид в районе Жавар около пакистанской границы. В ходе бомбардировки погибло 7 членов ХУМ, включая инструктора Абу Хурейра.

- лагерь Лиза в поселке Танаи, недалеко от города Хост. В лагере базировалась входящая в ХУМ группа Харакат уль-Джихад аль-Ислами, под руководством Кари Сайфула.

- лагерь близ Джелалабада. Движение Талибан передало его в распоряжение ХУМ в сентябре 1996.

В нестоящее время эти лагеря практически полностью разрушены в результате американских бомбардировок 1998 года и повторных в 2001-2002 гг.

Самая громкая акция организации - захват самолета AirIndia в декабре 1999 с целью освободить своего лидера Азхара, сидевшего тогда в индийской тюрьме с 1994 года. До своего ареста Азхар имел тесные связи с бин Ладеном и Талибаном, а также засветился в нападении сомалийцев в октябре 1993 года на американский контингент в Могадишо (показано в фильме "Падение черного ястреба" - Black Hawk Down).

Азхар был освобожден в обмен на 154 пассажира индийского самолета и в феврале 2000 года создал новую организацию - "Джаиш-е-Мохаммад" - Jayash-e-Mohamed (JeM).