本來，段匹磾與劉琨結(jié)盟，是想借助劉琨的威望提高自己的號召力，可根本沒啥作用。更讓段匹磾始料不及的是，劉琨的威望沒能讓段氏內(nèi)部實力派聽命于己，卻贏得了原來居住在幽州的晉人之心。這讓段匹磾如坐針氈。

如今的段匹磾可謂是內(nèi)外交困，面對咄咄逼人的段末柸，惶恐不安的他找到了劉琨，主動提出撤出薊縣，并將幽州的胡人和晉人一起轉(zhuǎn)移到代郡。然而，代郡被拓跋鮮卑占據(jù)著。其新任首領(lǐng)拓跋郁律拓跋郁律：五胡十六國時期鮮卑拓跋氏首領(lǐng)，其父為拓跋弗，其子為拓跋翳槐、拓跋什翼犍。與劉琨并無多深的交情，此時如果逃難到代郡，顯然是兇多吉少。因此，劉琨堅決反對。他說，如果要撤離幽州的話，最好還是南下，這樣就更接近江南的朝廷。但是，段匹磾沒有采納。

就在這個當(dāng)兒，段匹磾?shù)难策壉プ×藦亩文〇饶沁厑斫o劉琨送信的使節(jié)，并從使者的身上搜出了劉群親筆書寫的那封密信。當(dāng)時，劉琨住在征北將軍府所在的小城，與段匹磾并不居住在同一個城內(nèi)，因此對此事完全不知情。

段匹磾?shù)玫絼⑷簳乓院?，滿腹狐疑，謊稱有要事相商，派人請劉琨進城。不知情的劉琨毫無防備地進城來見段匹磾。段匹磾一向都對劉琨十分敬重，他將劉群的書信拿給劉琨看?？催^書信，劉琨從容地說道：“我發(fā)誓與您結(jié)為同盟，一起效力王室。這次不說我沒有收到書信，即使收到了書信，我也不會因為一個兒子，就做出辜負您的事情！”段匹磾說：“我根本就不懷疑您，所以才拿出來叫你看來著?！?/p>

話雖這樣說，但這封書信不能不讓段匹磾有所警惕。段匹磾?shù)牧硪粋€弟弟段叔軍私下對他說道：“我們是胡人，之所以能讓晉人服從，只是因為他們屈從于我們?nèi)硕?。如今，我們骨肉相殘，正是晉人人心思動之時。如果現(xiàn)在有人站出來，奉劉琨為主，我們就全完了?！倍纹ゴ敱緛磉€打算將劉琨送回，但聽段叔軍這么一說，滿腹狐疑，就把劉琨軟禁起來了。

劉琨被軟禁的消息很快像瘟疫一樣迅速傳播，事態(tài)開始失控。

留在小城的劉琨的庶長子劉遵擔(dān)心被殺，趕緊閉城自守。段匹磾派人前往曉諭，但劉遵置之不理。于是，段匹磾派兵強行攻擊小城。城內(nèi)糧食不多，守軍堅守了一段時間。最后，劉琨的某部將因乏食，被迫率眾開門投降，劉遵被俘。

劉琨被段匹磾關(guān)押了將近一個月時間，消息傳來，晉人義憤填膺。代郡太守辟閭嵩、雁門太守王據(jù)、后將軍韓據(jù)等人密謀，準(zhǔn)備攻下幽州，襲殺段匹磾，救出劉琨。韓據(jù)的女兒是段匹磾兒子的妾，她聽說自己父親的計劃，就向段匹磾告密。段匹磾立即逮捕了辟閭嵩、王據(jù)以及牽連到的部眾，將其全部殺掉。事已至此，再無挽回的余地。

這時候，正好建康方面派來了使者。史書稱，這是王敦的使者。

聽說建康來的使者是王敦派來的，劉琨對兒子說：“處仲(王敦字)使來而不我告，是殺我也。死生有命，但恨仇恥不雪，無以下見二親耳。”說罷，他忍不住歔欷長嘆，淚落如雨。此時的劉琨知道自己必死無疑，但他早已將生死置之度外了。