谢安也用桓冲都督徐、豫、兖、青、扬五州诸军事和徐州刺史，镇守京口，后又转任都督七州诸军事，兼任荆州刺史。

他对桓冲虽有猜忌，但总体还是达到了荆扬相衡，则天下平的目的，共同对付北方的前秦政权。

谢安心存仁义，辅助朝廷，劝导百官，即使是会稽王司马道子也依赖于谢安的辅助调和。

当时的前秦侵犯边境，告急文书频频传来，梁、益等州先后失陷，他面对危机，镇定自若，作长久打算，以宽仁安定内外。

广行德政，百官同心同德，不计小过，专心国事，恩威流布广远，当时人赞扬谢安，将他比作王导，并认为他在文雅方面则更胜王导一筹。

建康的宫殿毁坏，谢安打算整修宫殿，王彪之等人以外敌入侵为由谏阻谢安，谢安不听，竟独自决定修宫。

宫室设计，都依照天象，合符北极星的方位，而役夫也没有什么怨恨。

同年，谢安兼任扬州刺史，朝廷允许谢安可带甲仗百人入殿孝武帝开始亲政，升谢安为中书监、骠骑将军、录尚书事，谢安坚决辞让了骠骑将军之职。

恰好当时天象失常，大旱连年，谢安上书主张复兴衰败灭亡的侯国和贵族世家，寻找晋初开国功臣的后代加以封赏。

太元二年七月，朝廷加谢安为司徒，他所统辖的后军文武官员都配上高级府第，谢安辞让不受。

朝廷又加任谢安为侍中、都督扬、豫、徐、兖、青五州及幽州的燕国诸军事、假节。

前秦在其君主苻坚的治理下日益强盛，晋军在与前秦的交战中处于劣势。

同年，因广陵缺乏良将防守，谢安便不顾他人议论，极力举荐自己的侄子谢玄出任兖州刺史，镇守广陵，负责长江下游江北一线的军事防守。

谢安则自己都督扬、豫、徐、兖、青五州军事，总管长江下游。

谢玄不负叔父重托，在广陵挑选良将，训练精兵，选拔了刘牢之、何谦等人，并训练出了北府兵。

太元三年，前秦征南大将军苻丕率步兵、骑兵七万人进攻襄阳，苻坚又另派十万多人，分三路合围襄阳，襄阳守将朱序死守近一年。

太元四年，襄阳城破，朱序被俘。苻坚又派彭超围攻彭城，秦晋淮南之战爆发。

谢安在建康布防，又令谢玄率五万北府兵，自广陵起兵应敌，谢玄四战四胜，全歼秦军。

太元五年五月，谢安因功被任命为卫将军、开府仪同三司，进封建昌县公。

太元八年，苻坚率领着号称百万的大军南下，志在吞灭东晋，统一天下。

此事的军情危急，建康一片震恐，可是谢安依旧镇定自若，以征讨大都督的身份负责军事，并派谢石、谢玄、谢琰和桓伊等率兵八万前去抵御。

谢玄手下的北府兵虽然勇猛。但是前秦的兵力是东晋的十倍多，搞得他有点紧张，只好去请教谢安。

谢安只说朝廷已另有安排，过后默默不语。