公開資料顯示，1984年7月加入中國共產黨的張國清于次年9月參加工作。1987年到1998年，張國清在中國北方工業公司從一名項目經理一步步升至中國北方工業公司黨委書記、副總裁。1999年始，張國清進入中國兵器工業集團公司，于2008年出任中國兵器工業集團公司總經理。2012年張國清當選為中共第十八屆中央委員，同時也是9位“60后”中央委員之一，這在當時的省級黨委副書記中并不多見。

張國清擔任兵器工業集團總經理期間，兵器工業集團于2011年成為首家營業收入邁上3000億元新臺階的軍工集團，他也因此被譽為“兵工少帥”。2012年兵器工業集團公司列世界500強企業第205位，當年實現主營業務收入3510億元。2013年張國清在離開兵器工業集團時曾感慨地表示，其入職兵器工業集團近三十年，和整個兵器工業集團的隊伍共同推動了兵器工業的發展成長，并形成了獨有的兵工文化。