邢君牙是瀛州樂壽縣人。年輕時(shí)到幽薊、平盧等軍鎮(zhèn)當(dāng)兵。憑戰(zhàn)功歷任果毅、折沖郎將。安祿山反叛，跟隨侯希逸渡海進(jìn)入青州。田神功任兗鄆節(jié)度使，派邢君牙領(lǐng)兵駐扎好田寺保衛(wèi)邊境秋收。

　　吐蕃侵犯京城，代宗皇帝流亡陜州，因?yàn)樽o(hù)駕有功，多次提升，封為河間郡公。

　　建中初年，李晟隨馬燧征討田悅，用君牙任都將，在武安、襄國間共五次作戰(zhàn)，斬殺的功勞最多。德宗流亡奉天，李晟率領(lǐng)君牙用比平?？煲槐兜男熊娝俣缺几皣y。遷移駐地到渭橋，軍中應(yīng)辦的事務(wù)，只有君牙預(yù)先有準(zhǔn)備。李晟在鳳翔，多次巡視邊防，常用君牙留守鳳翔。李晟回朝任職后，君牙代理鳳翔觀察使，不久，兼任節(jié)度使、檢校尚書右仆射。吐蕃每年侵犯邊境，邢君牙獎勵耕種，訓(xùn)練軍隊(duì)備戰(zhàn)，吐蕃軍不能侵入邊塞。又在隴州平戎川筑城，名叫永信城。

　　死在任上，追封為司徒。

　　當(dāng)初，沒做官的讀書人張汾，沒有誰介紹就去求見君牙，并高高地坐在客位上。碰到部下小官因貪污酒宴錢丟棄了賬簿，君牙因被欺騙而發(fā)怒，張汾不致謝就離去，說：“我在京城，聽說邢君牙是當(dāng)世豪杰，今天竟為部下的小官計(jì)較錢財(cái)，這怎么說呢？”君牙覺得慚愧，很快釋放了小官，把張汾待為上賓，挽留一個(gè)多月，用五百匹細(xì)絹?zhàn)鳛橘浰偷亩Y品。他降低身份喜歡讀書人到了這種程度。