成吉思汗陵的前身为成吉思汗八白宫。成吉思汗八白宫是指祭祀成吉思汗及其眷属和圣物的八顶白色宫帐。1227年，成吉思汗在西夏去世后，灵车返回蒙古高原的途中在鄂尔多斯建立了白色宫帐，供奉成吉思汗英灵。回到漠北也建立了白色宫帐，将象征成吉思汗灵魂的灵柩、画像和遗物等安放在宫帐内进行供奉。供奉成吉思汗的白色宫帐，最初称之为全体蒙古的“总神祗”。随着成吉思汗几位夫人的去世，祭祀宫帐也随之增多。十五世纪中叶，守护成吉思汗宫帐的鄂尔多斯部从蒙古高原南移，成吉思汗四大鄂尔多（宫帐）随之也从漠北迁至鄂尔多斯，与这里的成吉思汗祭灵白宫汇合，形成八白宫。

随着漠北守护、祭祀成吉思汗宫帐的部落鄂尔多斯人于十五世纪中叶从蒙古高原南移进入宝日陶亥即黄河河套地区，从此，鄂尔多斯人集中居住的宝日陶亥地区，也被称之为“鄂尔多斯”。鄂尔多斯，意为有诸多宫殿的地方。1649年（顺治六年），成吉思汗后裔、鄂尔多斯济农、伊克昭盟首任盟长额璘臣将八白宫及苏勒德等圣物，从黄河南岸的伊克召迁移至郡王旗中部，安奉在巴音昌呼格河畔的草地上。从此，这个地方被称之为“伊金霍洛”（圣主的院落）。后来，成吉思汗八白宫和苏勒德分别供奉于鄂尔多斯几个旗后，供奉成吉思汗宫帐的伊金霍洛被称之为“大伊金霍洛”。

清康熙年间首次提到“伊克昭盟境内，有成吉思汗园寝”。十九世纪后期，清光绪元年（1875年）开始，相继有西方国家的一些人士到伊金霍洛考察，向世界介绍了“成吉思汗陵园”。从此，在国内外对成吉思汗八白宫普遍称之为“成吉思汗陵”。

抗战初期，为了防止成吉思汗陵寝落到日本侵略者手里，时任伊克昭盟盟长的沙克都尔札布王爷积极策划迁移成吉思汗灵榇到安全地方。成吉思汗灵榇于1939年6月10日从伊金霍洛起灵，经延安、西安于7月1日到甘肃省榆中县兴隆山。1949年8月初，兰州解放前夕再迁移至青海省塔尔寺，1954年4月初返回故地伊金霍洛。这次成吉思汗灵榇的迁移，历史上称为“成吉思汗陵西迁”。1953年，中央人民政府政务院批准并拨专款兴建成吉思汗陵园，1954年4月，内蒙古自治区主席乌兰夫亲自选址，为陵园奠基。并于1956年落成，将分布于鄂尔多斯各地的成吉思汗八白宫等圣物全部集中于成吉思汗陵园供奉。在党和政府的亲切关怀下，成吉思汗陵经过不断地修缮和扩建，成为闻名遐迩的文化旅游胜地。