太安三年正月辛未，刘羡以晋朝太尉的身份，与征西军司完成了和谈。
谈和的內容並不多，主要是刘羡的要求比较简单，那就是让张方放开道路，让朝廷与这些衣食无著的洛阳难民们尽数离开，然后隨东来的援军一齐前往许昌。
为此，刘羡可以將洛阳留给张方。
刘羡並非不想保下洛阳，但京畿鏖战至今，几乎已经被打成了一片废墟，朝廷所掌握的所有粮秣都已用尽，许多难民已难以立足，別说春耕的粮种，避雨的房屋，就连今日果腹的粮食都没有。若继续留在此地，可以预见到，洛阳不仅將发生一场大饥荒，並且將衍生出一场大瘟疫。
而且还要考虑到，这並不会是最后一次发生在洛阳的大战。太平时，洛阳是天下之中，帝都的天然之选，可这也意味著，一旦进入乱世，洛阳就成了四战之地。洛阳註定要成为乱世中诸方爭锋的战场，与其握在手中做烫手之物，还不如將百姓尽数迁走，留给张方一片白地。
当然，张方自然是不会满意於这个条件，他很快向刘羡提出別的要求：
一，如今西军的粮秣也快用尽，需要朝廷供粮五十万斛，绢帛五万匹；
二，任命张方为司隶校尉，司马顒为雍州牧，加九锡；
三，將凉州刺史张轨与秦州刺史皇甫重划归到征西军司管辖下。
四，废黜皇后羊献容，並处死振威將军皇甫商。
张方的想法非常明確，他已经下定了要自立的决心，但至少在名义上，他也要对司马顒也有一个交待。故而他必须要取得政治上的胜利，让朝廷承认，西军是这一战的贏家，並且划给张方一块地盘，作为立身之基。
相较於之前他与司马越谈判时定下的条件，张方此时的条件已经要宽鬆许多，但刘羡也不满意，还是儘量做了爭取。在经过一个时辰的爭论之后，双方最后確定了最终条款：
一，朝廷向征西军司供给粮秣十五万斛，绢帛两万匹，在一月內分三批交付；
二，任命张方为河南尹，使持节，都督司州诸军事，封弘农郡公；
三，將并州刺史司马腾与梁州刺史张微併入征西军司；
四，刘羡卸去太尉之职，重新任命河间王司马顒为太尉，加九锡；
五，和谈之后二十日內，朝廷须转交洛阳城，而同日，张方须释放此前俘获的所有官僚藩王。
在最后的和约中，刘羡还是儘可能为朝廷与朋友们减轻了一些负担，爭取了一些体面，同时儘可能地祸水东引，希望能让征西军司的目光放在并州上，或者挑起张方与司马顒之间的內斗。如此一来，也能给祖逖他们一些喘息的时机。
张方对此也比较满意，虽然没能得到最想要的司隶校尉一职，但他直接被加封为郡公，爵位上一步登天，就有资本与司马顒抗衡了。虽没能拿到司隶校尉，但河南尹的职位也不差，既如此，他就有名义在关东驻军，不受河间王遥控了。而且，他也为征西军司爭取了一些利益，河间王那边也能交差。
最重要的是，刘羡愿意在此战后去职。在张方看来，这无疑是在向天下宣告，刘羡承认败给了自己。自此以后，这天下第一名將的称號，恐怕要就此易主了。
而刘羡並不在乎这些虚名，在和张方达成协议的那一刻，他只感到全身一阵由衷的轻鬆。
一项使命就此完成了，压在心头最后的一块大石，霎时化为一汪春水，自脾肺间流淌而去。身体似乎因此化身为风，从大地不断地往上升，一直往上升，儼然飘到了九天之上，再从漫天的云朵包裹之中，轻飘飘降落下来，化作一场纷纷细雨。
出了张方的帅帐，刘羡一行人往金墉城走，他们此时才发现，原来真的下了一场雨。雨水打在刘羡的脸上，湿润的水从脖子一直渗透到身体的深处，痒痒的，使他感到非常地畅快。於是他们策马奔跑起来，好像如此就能追赶上过去那些平静的岁月，无忧无虑的过往。
回到金墉城下，大门已经打开，城內的人们听著退兵的鼓声，就知道了谈和成功的消息。於是他们聚集起来，在烟雨清晨之中，高举火把，注视著刘羡在马上奔驰的英姿，全都在怔怔发呆。
这场灾难结束了吗？他们欢呼了一整夜，眼下想继续欢呼，却有些力竭了，反而有更多的人开始掩面哭泣。
一直处在死亡的威胁下，许多人都已忘却了该如何生活。他们不过是在麻木地苟活著，靠著本能，多活一天就是一天。可在现在，希望实现，灾难结束，意识回归肉体，他们才恍然想起，自己已经失去了家园，失去了亲人，失去了过去。
一无所有的他们，將如何去开启新的生活呢？这使得许多洛阳人悲戚且茫然，继而开始哭泣。
金墉城由此显得有些忧鬱与阴沉，可不管怎么说，哭声也是生气。与寂静相比，哭声是这座城池还活著的证明。
天大亮以后，当日晌午，在孟討的引领下，城东的援军终於开赴进来。这些士卒们还带著诧异与懵懂的脸色，他们不知道昨夜是多么惊心动魄的一夜，只是怀有一点躲过了战乱的侥倖，怜悯且自豪地打量著这座庞大的都城。
与此同时，隨著征西军司放开封锁，越来越多的难民涌入到金墉城周遭，混乱与活力开始重新涌现。接下来一连好几日，到处都是纷闹与爭吵的人。城內的士卒们艰难地维持著賑灾的秩序，官吏们不断地重申著迁民的条例与规定，难民们则急切地抢注侨籍，並討要著为数不多的賑粮。
不过这大多与刘羡无关了。在和谈完以后，他先是好好歇息了两日。
连日的战爭，早已使他的精神紧绷到极限，放鬆之后，倦意瞬间笼罩了脑海，令刘羡只想倒头就睡。於是他果断地將整理手头上的事务，將其统统交还给朝廷，然后进驻到金墉城角的百尺楼上，听著淅淅沥沥的雨声入眠。
再醒来时，已经是第二天天亮了，细雨已经停了，太阳从东边的山头升起来，金灿灿地洒满百尺楼。刘羡从楼上下来，发现诸葛延、李盛、孟討、公孙躬等人都齐聚在楼下，他们睁眼看著自己，脸上都带著恍如隔世的神色。
当然还有其他人，刘琨、孟和、傅畅、郗鉴、毛宝、郭默等人都在，所有人都好似宿卫一般，守卫在百尺楼前。只有何攀这一位老者，坐在眾人之前，浅饮著一碗热茶。
何攀看见他醒来，就放下茶汤，冲他笑道：“主公歇息好了么？”
刘羡回以笑意，他道：“很好，自从记事以来，还从来没有睡过这么安稳的觉。”
“那太好了，主公，接下来，我们该做什么事呢？”
刘羡舒了一口气，徐徐道：“告別，当然是告別。”
既然要离开故乡了，任何有情感的人，都不可能不与亲朋好友们进行告別。
事实上，不仅仅是刘羡需要告別，在洛阳的所有人，都即將离开这座昔日的繁华之都，他们都需要与这座洛阳城进行告別。
第一场盛大的告別仪式，正是长沙王司马乂的葬礼。
葬礼在谈和结束的第四日，由豫章王司马炽主持，朝廷上下的所有官僚將校，都著素衣出席。当时为司马越劫持的长沙王妃吴妃，以及剩下的两个儿子，司马硕与司马鲜，此时才终於出现在眾人的面前，他们在灵堂嚎啕大哭，闻者皆为之悽然。
而在这个正式的葬礼上，刘羡是外宾中第一个致礼的。他举酒在手，对灵柩拜倒：“我与驃骑，虽有齟齬，仍相交捨命，为事合契。君知我心，我知君志，平生知己，几人而已！金兰之情，念念在兹，知遇之恩，来世犹还！”
说罢，想起这几年的种种过往，刘羡不禁慟哭出声，隨即洒酒於地，再三拜礼。左右诸將也都悲痛落泪。司马乂这一生，虽然常常固执执拗，但他待人真诚，勇於任事，作风又节俭亲民，大家都议论说，他有武皇帝之风。可谁能想到呢？仅仅执政一年，长沙王就惨死於空前惨烈的內斗之中。
到现在，甚至他的妻小都怀疑不能自保。为此，吴王妃抹著眼泪专门向刘羡表示感谢，並悄悄问他，此前司马鲜与其女儿灵佑的婚约是否还算数。