紀元前91年（崇神天皇7年）に創建とされ、736年（天平8年）に行基が蔵王権現を勧請したと伝えられています。後、荒廃していたところ、1234年（文暦元年）、大中臣国兼を再建しました。以降は修験場として知られるようになり、関東の幕府や武士から多く武具が奉納され、武将たちの信仰を集めました。
それまでは御嶽大権現とされていましたが、明治に入ってからは神仏分離で大麻止乃豆天神社に改称しました。しかし、他にも大麻止乃豆天神社と比定される神社があったので、御嶽神社と改称し、更に1952年（昭和27年）、現在の武蔵御嶽神社に改称しました。
当社は珍しく犬を祀っているので、おいぬさまとして有名な面もあります。飼い犬と一緒に参拝でき、犬もお祓いを受けられるので、犬を連れた参拝客が数多く訪れます。また、当社へのアクセスは新宿の高層ビル群東京タワーなども望むことができるケーブルカーを経由した後、徒歩となります。ケーブルカーにはペット用の切符もあるので、家族皆で、気軽に足を運ぶことができます。
その他、参道の武蔵御嶽神社に向かう途中には国指定天然記念物である御岳の神代ケヤキがあったり、毎年6月第3日曜と9月の敬老の日には都指定無形民族文化財である太々神楽が披露されたりと、見どころや行事ごとが満載です。