1926年北洋军阀吴佩孚部刘镇华，将西安围城一座孤城。冯玉祥在内蒙古出兵进入西安，在城墙的西北部炸出一条豁口，军队进入城里，最后大败刘镇华。

1928年西安军民将城墙的西北角的残缺处，修缮完后，修筑了一座城门，起名“玉祥门”纪念冯玉祥对古城做出的贡献。