社伝では、日本武尊の死後の景行天皇46年、日本武尊の妃・布多遅比売命が神勅により、御子・建部稲依別命とともに住んでいた神崎郡建部郷千草嶽（現 東近江市五個荘伊野部町付近の箕作山）の地に日本武尊を建部大神として祀ったのが創建とされています。
御祭神、日本武尊は御年僅に１６才にて熊襲を誅し、更に東夷を平定され、遂に３２才にして伊勢の能褒野において崩御されまましたが、「日本書紀」によると、父君景行天皇は尊の永逝をいたく歎かれ、御名代として建部を定め、その功名を伝えられました。これが即ち建部の起源です。
のち、天武天皇4年（675年）に近江の守護神として、現在地の栗太郡勢多へ遷座いたしました。遷座後、元の千草嶽の麓には神護景雲2年（768年）に聖真大明神と建部大明神が設けられたとされ、現在は建部神社が残っております。
天平勝宝7年（755年）には、大己貴命が大神神社から勧請され、権殿に祀られました。平安時代中期の『延喜式神名帳』には「近江国栗太郡 建部神社 名神大」と記載され名神大社に列しているほか、近江国の一宮として崇敬されていました。源頼朝が平治の乱に敗れて伊豆国に流される道中、本社に立ち寄って源氏の再興を祈願、後に大願成就したことから、出世開運の神としても著名となることとなりました。明治4年（1871年）近代社格制度において「建部神社」として県社に列格され、同18年に官幣中社、同33年に官幣大社となりました。戦後の昭和23年（1948年）には神社本庁の別表神社となり、社名を「建部大社」といたしました。なお、昭和20年8月、日本で初めて作られた千円紙幣（甲号券）の図柄に日本武尊と当社本殿が使用されました。