兖州平定后，谢玄忧患水道险阻不通，运粮艰难，便采纳督护闻人奭的建议，筑土坝拦截吕梁之水，树立栅栏，合七埭为一支流，承接两岸的流水，以利于漕运，从此公私两便。又进军攻青州，所以将这一水利工程称为青州派。
再遣淮陵太守高素率三千人马出击广固，迫使苻坚的青州刺史苻朗投降归顺。又进军讨伐冀州，遣龙骧将军刘牢之、济北太守丁匡据守碻磝，济阳太守郭满据守滑台，奋武将军颜雄渡过黄河建造营垒。苻坚之子苻丕遣部将桑据进驻黎阳。谢玄命刘袭夜袭桑据，桑据逃走。苻丕惶恐不安，打算降晋，谢玄答应请求。苻丕告饥，谢玄送给苻丕二千斛军粮。又遣晋陵太守滕恬之渡过黄河据守黎阳，三魏之地皆归降东晋。
朝廷因兖、青、司、豫四州均已收复，便任命谢玄都督徐、兖、青、司、冀、幽、并七州军事。谢玄上疏朝廷，认为刚平定河北之地，幽州冀州必须专门命人总督，司州遥远，应归豫州统管。朝廷论功封谢玄为康乐县公。谢玄请求把他先前所封东兴侯的爵位赐予侄儿谢玩，朝廷许可，封谢玩为豫宁伯。谢玄又遣宁远将军竂演讨伐占据魏郡的申凯，击败了申凯。谢玄打算让豫州刺史朱序镇守梁国，自己坐镇彭城，北可以巩固河北之地，西可以援救洛阳，内可以扞卫朝廷。
但此时朝臣却议论认为征战已久，应当设置戍守边关，然后休兵养息，派谢玄回镇淮阴，朱序镇守寿阳。适逢翟辽叛乱，占据黎阳，拘捕滕恬之，又加上泰山太守张愿率全郡反叛，河北之地骚动不安。谢玄自认为处置不当，便上疏朝廷，奉还符节，请求解除全部职务。朝廷下诏慰劳谢玄，命令他暂且回镇淮阴，以朱序代镇彭城。
谢玄回到淮阴后，患上疾病，又上疏请求解除职务，诏令不许。谢玄又自陈述，说既然不能履行职责，恐怕会荒废军务。
朝廷又下诏让他移镇东阳城。谢玄便奉命上路，以病重恳求解职。朝廷为谢玄派了一名医术高明的医士，并让他好自调养休息，又让他回京口治病。
谢玄奉诏回京口，病却长期不见好转，于是又上疏道:“臣兄弟七人，都先后凋谢殒灭，惟有臣一人，孑然独存。经历的艰难困苦，谁可与臣相比!臣之所以含悲忍痛，希求继续苟活人世，是因为满怀无穷忠心，欲上报朝廷恩德，或许能恢复康健，便可以完成此志。况且臣家中遗孤甚多，想起他们，心中就不胜悲伤，为此求生之心，不能即刻付与尘土。臣一片勤恳之情，实可哀怜。恳求陛下怜悯臣的忠诉，霈然降恩，不使臣含恨九泉。“
谢玄所上的十余道奏疏都被扣住，未予答复。许久后，朝廷才调谢玄为散骑常侍、左将军、会稽内史。谢玄抱病登车去会稽郡任职。
太元十三年(388年)，谢玄在会稽去世，终年四十六岁。朝廷追赠车骑将军、开府仪同三司，谥号“献武“。
永初元年六月十四日(420年7月10日)，刘裕代晋称帝，建立刘宋，当时前朝东晋的封爵中只有王导、谢安、温峤、谢玄与陶侃子孙的爵位未被废除，谢玄的爵位康乐县公被降封为康乐县侯，食邑五百户。
谢池告诉女儿小花，谢玄虽然因为谢安成名，但是也因为谢安，到最后被皇帝和皇室遗弃。他之所以中年亡故，就是因为他后来郁郁不得志。他也是谢家最后一个有大出息的人物。谢池告诉小花，谢安和谢玄都是他们的祖先。只不过谢玄和他们的关系更加近一点，他们其实是谢玄的后人。当年谢安的五世孙没有后人，过继谢玄四世孙的一个儿子为自己家的孩子。所以谢池名义上是谢安的后人，其实他是谢玄的直系后代。
提到了谢家，提到了谢安和谢玄，就不能不提及谢家还有一个重要人物谢道韫。
谢道韫(生卒年不详)，字令姜，又名韬元，东晋女诗人。陈郡阳夏(今河南太康)人。她是安西将军谢奕之女，东晋政治家谢安的侄女，王凝之的妻子，王羲之的儿媳。
谢道韫少博学，聪颖有才智，以大雪天吟出“未若柳絮因风起“之句得到谢安的赞赏，后世遂称女子文学才能为“咏絮才“。婚后，丈夫王凝之之弟王献之与宾客谈论，词理将屈，谢道韫在青绫屏障后参加议论，发挥王献之前议，宾客不能折屈。其谈锋之健不让男子。后在孙恩起义中，其夫与子均被义军杀害，她率领侍女挥刃入敌群，手杀数人。后被俘，坚贞不屈，被孙恩释放，重归故里，一直寡居于会稽。
谢道韫风韵高迈，谢安称她有“雅人深致“。济尼常称赞:“王夫人神情散朗，故有林下风气“。从此后称赞妇女超逸脱俗，常用“林下风“比喻。谢道韫所着诗赋诔颂，原有集，已失传，今仅存数篇。如《古诗源》收录的《登山》诗，描写东岳景象，颇得自然之趣;《拟嵇中散咏松诗》则带有玄言习气，表现出诗歌题材从“庄老告退“到“山水方滋“之间的演化。
谢道韫出身名门“陈郡谢氏“，东晋女诗人，安西将军谢奕的长女，宰相谢安的侄女，谢氏家族的才女。自幼受到良好的教育。一次叔父谢安问她，“《毛诗》中何句最佳?“谢道韫答道:“诗经三百篇，莫若《大雅·嵩高篇》云，吉甫作颂，穆如清风。仲山甫永怀，以慰其心。“谢安大赞其“雅人深致“。
谢安颇为谢道韫的婚事操心。魏晋时代，谢氏与王氏是两大望族，有“王与谢共天下“的说法。出于门当户对的考虑，谢安在王羲之的儿子当中物色侄女婿。最先看中的是王徽之，但谢安听说此人不拘小节，遂改变了初衷，将谢道韫许配给王凝之。
王凝之是王羲之的次子，善草书、隶书，先后出任江州刺史、左将军、会稽内史，迷信五斗米道，平时踏星步斗，拜神起乩。道韫嫁王凝之为妻，婚姻并不幸福。婚后不久，谢道韫回到娘家，整天闷闷不乐。谢安感到奇怪，就问道:“王郎，是逸少(王羲之)之子，不是庸才，你为什么不开心?“谢道韫回答:“谢家一族中，叔父辈有谢安、谢据，兄弟中有谢韶、谢朗、谢玄、谢渊，个个都很出色，没想到天地间，还有王郎这样的人!“封是指谢韶，胡是谢朗，羯是谢玄，末是谢川，都是谢家兄弟的小字。言下之意是，这个丈夫让她失望。谢道韫抱怨说谢家兄弟都这么有名气，为什么单单出了王凝之这个蠢才呢!
谢道韫在王家平淡地过了数十年，此时东晋王朝气数已尽，孙恩、卢循起义爆发了。当时任会稽内史的王凝之已迷恋上道教，面对强敌进犯，不是积极备战，而是闭门祈祷道祖能保佑百姓不遭涂炭。谢道韫劝谏了丈夫几次，王凝之一概不理，谢道韫只好亲自招募了数百家丁天天加以训练。孙恩大军长驱直入冲进会稽城，王凝之及其子女都被杀。谢道韫目睹丈夫和儿女蒙难的惨状，手持兵器带着家中女眷奋起杀贼，但终因寡不敌众被俘，此时她还抱着只有三岁的外孙刘涛。她对孙恩厉声喊道:“大人们的事，跟孩子无关，要杀他，就先杀我。“孙恩此前听说过谢道韫是一位才华出众的女子，今日又见她如此毫不畏惧，顿生敬仰之情，非但没有杀死她的外孙刘涛，还派人将她们送回会稽。从此谢道韫寡居会稽，足不出户只是打理本府内务，闲暇时写诗着文，过着平静的隐士生活。孙恩之乱平定不久，新任会稽郡守的刘柳前来拜访过谢道韫。谢道韫究竟跟他说了些什么，不得而知。事后，刘柳逢人就夸奖谢道韫说:“内史夫人风致高远，词理无滞，诚挚感人，一席谈论，受惠无穷。“谢道韫的后半生写了不少诗文，汇编成集，流传后世。
谢道韫长于诗文，刘孝标注《世说新语·言语》引《妇人集》说:谢道韫有文才，所着诗、赋、诔、讼传于世。她的作品《隋书·经籍志》载有诗集两卷，已经亡佚。《艺文类聚》保存其《登山》(又名《泰山吟》)和《拟嵇中散咏松》两首诗，《全晋文》收其《论语赞》。
谢道韫不仅诗文写得很出色，而且她具有很高的思辩能力。魏晋时代，“人士竞谈玄理“(时人称道家的《老子》、《庄子》和儒家的《易》为“三玄“)，清谈成为一种风气。有的人甚至通过谈玄，“累居显职“。谢道韫虽然不想当官，对玄理却有很深的造诣，并善于言谈。据《晋书·王凝之妻谢氏》记载，有一天，王凝之的弟弟王献之在厅堂上与客人“谈议“，辩不过对方，此时身在自己房间的谢道韫听得一清二楚，很为小叔子着急，想帮他一下，遂派遣婢女告诉王献之要为他解围。然而，封建时代“男女授受不亲“的规矩又限制女人不能随便抛头露面。谢道韫就让婢女在门前挂上青布幔，遮住自己，然后就王献之刚才的议题与对方继续交锋，她旁征博引，论辩有力，最终客人理屈词穷。
谢道韫出生于陈郡谢氏家族，其家在谢玄时代已经成为江左高门，号称“诗酒风流“。谢道韫生父为安西将军谢奕，母亲阮容，乃阮籍、阮咸族人。有弟弟谢寄奴、谢探远、谢渊、谢攸、谢靖、谢豁、谢康、谢玄七人，妹妹谢道荣、谢道粲、谢道辉三人，谢道韫为长女。叔父为宰相谢安，堂伯父为尚书仆射谢尚。