清初，黑龙江上游以北的达斡尔、索伦（今称鄂温克）部内迁，到讷谟尔河流域落居，建立了索勒格尔、红霍尔基（又作“红花基”，今团结村）、两间房（今团结村五队）、托密浅（今新生村）等屯落。

清康熙二十九年（1690），归东布特哈总管管辖。

清宣统二年（1910），隶属讷河直隶厅管辖。

1915年，划归克山县管辖。

1929年3月，划归德都设治局管辖，始为第四区，后改为第五区。

1946年3月，隶属北和区，1949年6月改隶第二区。

1956年3月，并村划乡，设置团结乡。

1959年初更名为团结管理区，隶属青山公社。

1961年4月，将团结管理区划出，改建团结公社，隶属北安市管辖。

1963年9月，恢复德都县后，隶属德都县管辖。

1984年春，改为团结乡。

1996年，德都县与原五大连池市合并成立五大连池市后，隶属五大连池市管辖。

2014年11月，经省政府批准撤乡设镇，设立团结镇。

名称沿用至今。