Der Tempel wurde im Jahr 1420 während der Ming Dynastie unter der Herrschaft des Yongle Kaisers erbaut, um dem Himmel zu opfern. Die chinesischen Kaiser betrachteten sich selber als Sohn des Himmels und in dieser Funktion ließen sie einen ganz besonderen Ort errichten um dem Himmel in angemessener Art und Weise Opfer bringen zu können und damit um eine gute Ernte zu bitten.
Mit einer Fläche von rund 2.700.000 m
2 ist die Anlage in der der Tempel liegt größer als die Verbotene Stadt aber kleiner als der
Sommerpalast. Der Tempel liegt im Xuanwu Bezirk im Süden Pekings inmitten eines großen Parks. Die Anlage ist von einer doppelten Mauer umgeben und bietet so eine Oase inmitten der Stadt.
Im nördlichen Teil der Anlage haben die Mauern einen runden Grundriss, während der südliche Grundriss viereckig ist. Von oben betrachtet sieht der Mauergrundriss also wie eine langgezogene Kuppel aus. Diese Form rührt aus der Vorstellung, dass der Himmel rund und die Erde eckig sei. Durch die doppelte Mauer um die gesamte Anlage in einem Abstand von etlichen Metern entsteht ein innerer und ein äußerer Bereich des Tempels. Die wichtigsten Gebäude der Anlage befinden sich im inneren Bereich. Auch der innere Bereich ist von einer Mauer unterteilt und bildet so einen nördlichen und einen südlichen Teil des Tempels.

Im Norden befindet sich die Halle der Ernteopfer, das wichtigste Gebäude des Tempels, wo im Frühjahr für eine gute Ernte gebetet und geopfert wurde.
Im Süden steht die Halle des Himmelsgewölbes, welche von der Echo Mauer umgeben ist. Es heißt, das ein Wort an einer Stelle gegen die Echo Mauer gesprochen überall in diesem Bereich gehört werden kann. Die Halle des Himmelsgewölbes diete als Altar während des Winters.
Nördliche und südliche Halle werden durch eine Danbi Brücke miteinander verbunden.