創建は不詳ですが、三宅島（現 富賀神社）から下田・白浜海岸（現 伊古奈比咩命神社）へ、さらに大仁町（現 広瀬神社）から現在地と遷宮した伝承があり、奈良・平安時代の古書にも記録が残っております。それ以前については明確ではありませんが、摂津国三島鴨神社、あるいは伊予国大三島の大山祇神社から勧請されたともいわれております。『延喜式神名帳』には「伊豆国賀茂郡 伊豆三島神社」として記載されています。『延喜式』が書かれた平安時代初期には賀茂郡の下田・白浜海岸に正妃・伊古奈比咩命を祀る神社に隣接していました。
三嶋神は東海随一の神格と考えられ、平安時代中期「延喜の制」では「名神大」に列格されました。社名・神名の「三嶋」は、地名ともなりました。
現在の三嶋大社は、平安中期以降に田方郡の国府近くに新宮として分祀されたとされます。現在地には元々若宮八幡がありましたが、三島明神が若宮八幡に『藁一把分の土地を譲って欲しい』と言い、若宮八幡が『それくらいならば』と了承したところ、三島明神は藁の束を解いて輪にし、若宮八幡の広大な敷地を囲んで占有してしまったという伝承があります。そのためか、現在若宮八幡は三島市西若町にありますが、三嶋大社に背を向けて建ったといわれています（現在は三島大社と同じ南向き）。中世以降は武家・庶民の信仰を集め、殊に伊豆に流された源頼朝は深く崇敬し、源氏再興を祈願しました。鎌倉幕府成立後は伊豆山・箱根とともに当社を重んじました。また「三島暦」を発行して全国に知られることとなりました。武士の崇敬、神助を得てこれが成功すると、社領神宝を寄せ益々崇敬することとなりました。この神宝の中でも、頼朝の妻、北条政子の奉納と伝えられる 国宝「梅蒔絵手箱 及び 内容品 一具」は、当時の最高技術を結集させたものとして知られています。
頼朝旗揚げ成功以来、武門武将の崇敬篤く、又、東海道に面し、伊豆地方の玄関口として下田街道の起点に位置していたため、伊豆国 一宮として三嶋大明神の称は広く知られて行きました。
その後、明治4年の近代の社格制度では、官幣大社に列せられました。また平成12年には、本殿が重要文化財に指定され、文化的価値の高さも再認識されております。