元大德《昌国州图志》卷二载为“三姑（岙）”，卷四载为“三姑山”。

明嘉靖《筹海图编》卷一也载为“三姑山”。

据传，三姑山之名源于岛北的三姑礁（前姑礁、中姑礁、圣姑礁的合称）。

清代以后，多称大羊山、老羊山，由小羊山派生得名。

清康熙《定海县志》卷五：“大羊山：江南、浙江分界，东至左营水汛小衢山，约计水程一百里；南至寨子山，约计水程一百里；西至乍浦官山，约计水程一百里；北至江省小羊山，约计水程十里；西北至大小七山，约计水程二百里。”又载：“大羊山，闽人呼为猴山。”以当时岛上多猴子得名。

1934年设大羊乡，属定海县。

1947年改称大洋乡。

1950年起属嵊泗特别区（县）。

1953年分设为大洋乡、洋东乡、洋西乡。

1958年改为大洋生产大队。

1962年4月划归大衢县，与滩浒山、小洋山、徐公岛合并设洋山公社。

1964年7月复归嵊泗县。

1966年分设为大洋、小洋、滩浒3个公社。

1984年复为大洋乡。

是年12月改置镇。

2001年2月与小洋、滩浒2乡合置洋山镇。