L'existence de la ville de Pingyao est attestée aux environs du VIIIe siècle avant notre ère. Depuis les Wei 386-534, elle est capitale de district.

En 1370, Hongwu, fondateur de la dynastie Ming, décide la construction des remparts de Pingyao suivant sa politique d'expansion vers le nord et de défense contre les Mongols qu'il vient de chasser du pouvoir après un siècle d'occupation. Un périmètre de plus de 6 km de murailles en banchage terre damée entre des guides de bois nommés « banches » recouvertes de briques bleu-gris, est alors construit. Hauts de 12 m et larges de 5 m, les remparts présentent un profil crénelé et sont pourvus, à intervalles réguliers, de soixante-douze fortins. Des tours de guet sont postées aux angles des remparts.