当社の御鎮座の時期は明確ではありませんが、412年～453年（服部天神宮）頃、帰化人集団である「秦氏」が織部司に任じられ、当地を本拠地として外来神である少彦名命（医薬の神）を祀ったのが始まりといわれています。
それから数百年後、901年（延喜元年）、菅原道真が大宰権帥として左遷され任地へ赴く途中、当地の辺りまで来たところで、持病の脚気によって動けなくなってしまいました。そこで村人たちは少彦名命（医薬の神）を祀った祠へ足病平癒の祈願を勧め、菅原道真が少彦名命を祀る天神祠へお参りすると、境内近くの五輪塔が目に留まりました。その五輪塔は783年（延暦2年）頃、大宰府に左遷され筑紫国へ向かう道中当地で病没した藤原魚名のお墓で、菅原道真は天神祠と五輪塔両方に足病平癒を祈願しました。すると不思議なことに、少彦名命と魚名公の霊の御加護によってあっという間に菅原道真の足は良くなり、再び任地へ旅立つことができ、無事目的地であった太宰府へ到着できたと言い伝えが残されています。
菅原道真の没後は天神信仰によって菅原道真を合祀する事になり、新たに堂宇が建立され、その頃から「服部天神宮」と呼ばれるようになりました。また、菅原道真の故事にちなんで「足の神様」として知られるようにもなり、今では足の病気の平癒の他、サッカーや陸上競技など、足を使ったスポーツの上達を祈願する人達で賑わいます。