徐懷玉，本名叫琮，亳州焦夷縣人。小時(shí)以雄勇俊杰自任，跟隨太祖起軍。唐朝中和末年，跟隨太祖到大梁。光啟初年，蔡州賊人屯駐金堤驛，徐懷玉帶領(lǐng)輕裝騎兵接連打敗他們，因而不斷升遷直到親從副將，改任左長劍都虞候。又隨從太祖在板橋打敗蔡州賊寇，占取秦宗權(quán)八座營寨，太祖上奏朝廷加封他為檢校右散騎常侍。文德初年，同眾軍解除河陽之圍，從太祖攻下徐州、宿州。乾寧年間，上奏加封為檢校刑部尚書，太祖賜名懷玉。在金鄉(xiāng)南邊打敗朱瑾，活捉宗江獻(xiàn)上，上表授與金紫光祿大夫、檢校右仆射。

　　乾寧四年(897)，龐師古在清口失利，僅徐懷玉保全軍隊(duì)退回。光化初年，轉(zhuǎn)任滑州右都押牙兼右步軍指揮使，不久上奏授與沂州刺史。隨后，王師范據(jù)青州反叛，屢次出兵侵犯沂州，徐懷玉擊退他。天復(fù)四年(904)，轉(zhuǎn)任齊州防御使，加封檢校司空，跟隨大軍到岐下迎駕。回來后暫任華州觀察留后。一年后，又領(lǐng)部下士兵戍守雍州，接著應(yīng)召赴河中，補(bǔ)任晉、絳、同、華五州馬軍步軍都指揮使。天..三年(906)任左羽林統(tǒng)軍，轉(zhuǎn)任右龍虎統(tǒng)軍，領(lǐng)六軍士兵奔赴澤州。旋即被晉軍攻擊，晝夜沖擊，挖地而入，徐懷玉率親兵迎殺敵軍于隧道之中，晉軍于是后退。開平元年(907)，任曹州刺史，加封檢校司徒。第二年，任晉州刺史。那年秋天，晉軍大舉撲來，已經(jīng)登上城墻，徐懷玉挑選親兵五十多人，一擁而上將敵人殺下城墻。晉軍后退后，徐懷玉拿出家財(cái)來獎賞戰(zhàn)士。這年中，晉軍再一次攻來，徐懷玉領(lǐng)兵在洪洞打敗他們。開平三年(909)，詔令授與..坊節(jié)度使、特進(jìn)、檢校太保，徐懷玉訓(xùn)練士兵，修繕城墻，人人都感安心，徐懷玉被加封為檢校太傅。

　　乾化二年(912)，庶人朱友王圭已經(jīng)篡奪帝位，河中朱友謙抗拒朝令，派兵襲擊..州，徐懷玉沒有防備，旋即被河中軍俘虜，囚禁在公館。到朱友王圭派康懷英領(lǐng)兵包圍河中時(shí)，朱友謙擔(dān)心徐懷玉有變，于是殺害他。徐懷玉才質(zhì)氣概剛健英勇，臨陣未曾受挫敗退，平生創(chuàng)傷遍體，有戰(zhàn)將的英名。