武帝上台之后。张家玉被任命为兵部给事中，在江西和揭重熙等人并肩作战，曾经打败过金声桓的部队，后来在战场上负伤，回到福建后遭到排挤，被迫告假返回东莞老家。

接下来就是隆武帝汀州遇险，苏观生准备拥立唐王，作为苏观生的东莞老乡，张家玉也参与了这件事，后来发现隆武帝没有死，张家玉的处境更加尴尬。

在南明朝廷里，投降过大顺军的官员，都是“顺案”的罪臣，被所有派系排斥打压，张家玉又参与拥立唐王，又犯了重大的政治错误……他本来把希望放在苏观生身上，但是苏观生刚刚出任两广总督，一切以稳定为主，对广东官场维持现状，只带了少数亲信幕僚上任，张家玉就被彻底晾了起来。

名义上他还是兵部的给事中，但因为请长假，在兵部已经没有实际的位置，除此之外，他还挂着一个“监督总理”的头衔，却不属于朝廷的正规官职。

所谓“监督总理”，是隆武帝派给他的一个临时任务，让他到广东筹措兵饷，以支援赣州战役。张家玉也不负重任，奔走于潮汕和惠州地区，招降了好几万农民军，当然，这些农民军的素质参差不齐，有些是福建江西败退下来的义兵，更多的则是当地的山贼土匪。

他从这几万人里挑了一万精壮，操练一番准备支援赣州，不料赣州战役进展神速，张家玉还没出兵，就接到了赣州战役胜利的消息，这一万义兵如何安置，就成了一个大问题。

赣州战役既然已经结束，朝廷里用不到张家玉的义兵了，不愿继续拨发粮饷，张家玉却在这支部队身上花了很多心血，舍不得就这样解散，到处奔走讨要粮饷，想带着这支部队到抗清前线作战，但是他的人缘实在太差，处处碰壁，走投无路，最后才求到了汪克凡头上。

汪克凡对他很热情——张家玉不仅是著名的民族英雄，而且在政治上比较务实，在军事上也有一定能力，是十分难得的人才。

在政治上，张家玉对农民军却一直很同情，曾经和李自成合作，和江西义兵合作，和广东义兵合作，在封建士大夫之中，这样的开明人士非常难得。

在军事上，明朝大多数文官都一窍不通，但也有个别人会打仗，张家玉就是其中之一。他不仅在江西打败过金声桓的部队，在历史上还对抗李成栋入侵广东，带着一群乌合之众和清军奋战，在局部甚至取得过胜利，最后虽然兵败生死，也是虽败犹荣。

张家玉在广东混不下去，又有志报国，一心要去前线与清军作战，和汪克凡一拍即合。汪克