Uusi, kuningas Herodeksen rakennuttama temppeli vihittiin käyttöön vuonna 10 eKr., mutta rakennustyöt jatkuivat vielä Jeesuksen aikana (Joh. 2:20). Juutalainen historioitsija Josefus kertoo temppelin rakentamisen työllistäneen 18 000 miestä.

Josefus kuvaa haltioituneena myös temppelin ulkonäköä: ”Temppelin ulkoisesta olemuksesta ei puuttunut mitään katsojan sielun eikä silmien ihastuttamiseksi, sillä se oli päällystetty joka puolelta massiivisilla kultalevyillä. Auringon noustessa ne sädehtivät tulenhehkuista loistetta, niin että katsojien oli pakko kääntyä poispäin aivan kuin auringon säteiltä silmiään suojaten. Kaupunkiin saapuvista vieraista se näytti kaukaa katsottuna lumen peittämältä vuorenhuipulta, sillä siellä, missä sitä ei ollut kullattu, se oli hohtavan valkoinen.” (Flavius Josefus, Juutalaissodan historia.)

Josefuksen mukaan Jerusalemin tuhon ennusti tähti, joka miekan lailla lankesi yli kaupungin, ja komeetta, joka oli nähtävissä kokonaisen vuoden. Tuho toteutui vuonna 70 jKr., eikä temppelistä jäänyt kiveä kiven päälle.