清乾隆二十四年（1759），清平定大小和卓叛乱，统一新疆后，吉木乃隶属塔尔巴哈台参赞大臣管辖。

清同治六年（1867），清设布伦托海办事大臣兼领塔城、阿尔泰事务，属之。

八年（1869），撤布伦托海办事大臣，阿尔泰归科布多参赞大臣管辖，属之。

光绪三十二年（1906），科布多、阿尔泰分治，吉木乃始属阿尔泰办事大臣管辖。

1916年，设吉木乃县佐。

1930年，吉木乃县佐升格为县，隶属阿山行政区。

1950年，属阿山专区。

1954年，隶属阿勒泰专区。

1970年，属阿勒泰地区。