大山祇神社は，JR岩船町駅（羽越本線）の東3キロメートル，旧神林村の指合に鎮座する。
「神社明細帳」に「岩船郡指合村字十二ノ前 無格社・大山祇神社」とある。大山祇命を祭神とする指合村の産土神である。
明治四十年（1907）に，字大聖寺の八坂神社（素盞嗚尊），字深田の若宮神社（仁徳天皇），字十二ノ前の雀神社（少彦名命）を合併し，字大門すなわち現在地に移転し，あわせてこの地に鎮座した神明社（天照大神）を合併した。
さらに明治四十一年（1908），字瀧ノ前の多岐神社（多岐里姫命）を合併した。合併された多岐神社を，『延喜式』所載の「多伎神社」（磐船郡八座の一）に比定する説がある。
参道に「大山祇神社」の社号標があるが，鳥居の額には「神明宮」とある。この場所が神明社の故地であることを示している。
