1922年注定要成為劉天華音樂生涯一個里程碑式的年份。北京大學“音樂研究會”的琵琶導師王露因病去世，故琵琶技法無人傳授。于是曾受教于劉天華的幾位學生打算向校方推薦劉天華來京任教。北大教務處很快答應了該要求。于是，劉天華終于可以躋身當時國內(nèi)音樂的主流地域。家鄉(xiāng)的父老鄉(xiāng)親更是倍感光彩，奔走相告：“天華能進京深造，猶如‘喬木出幽谷’，其前途將不可限量也！”

的確，北京大學給劉天華提供了一個任其自由發(fā)揮的大舞臺。在這里，劉天華如同一個貪婪的食客，瘋狂地品嘗北京城內(nèi)的各種音樂盛宴。他可以不顧眾人鄙夷的眼神，放下北大教師的架子，拜天橋的說唱藝人為師，學習傳統(tǒng)樂器技法；亦能不惜冒著入不敷出、傾家蕩產(chǎn)的危險，購買高價門票，去聆聽奧地利小提琴家克萊斯勒、美籍俄裔小提琴家津巴利斯特、艾爾曼、美爾茨的演奏會，了解西方音樂的最新進展。然而，他做這些的初衷并非邯鄲學步，而是要青出于藍，亦即改進祖國的音樂。一次，劉天華在院子里聽完民間藝人們的演奏，其中一位藝人見到桌上放著那把劉半農(nóng)贈送的小提琴，就好奇地問道：“先生這洋弦子拉起來一定很好聽吧？”劉天華微笑著說：“這可不叫洋弦子，叫小提琴。”那位藝人又說：“先生，您就給咱們拉一曲聽聽吧。”劉天華欣然接受，拿起小提琴拉了一曲。藝人又問道：“先生，您干嘛要拉這洋玩意兒？”劉天華不假思索地回答道：“為了好改進咱們的國樂嘛！”

為此理想，劉天華于1927年初夏組建“國樂改進社”。他在《國樂改進社緣起》里寫道：“我國近來最沒長進的學問要算音樂了，雖然現(xiàn)在也有人在那里學著西人彈琴唱歌，大都還只是貴族式的（可還是少數(shù)人弄的玩意兒），要說把音樂普及到一般民眾，這真是一件萬分渺遠的事。而且一國的文化，也斷然不是抄襲些別人的皮毛就可以算數(shù)的，反過來說，也不是死守老法，固執(zhí)己見，就可以算數(shù)的，必須一方面采取本國固有的精粹，一方面容納外來的潮流，從東西的調(diào)和與合作之中，打出一條新路來，然后才能說得到進步兩個字。”

他如是說，更是如是做的。1930年，京劇藝術(shù)大師梅蘭芳先生應邀赴美演出，為了使外國聽眾對中國這種陌生的京劇有譜可循，加深理解，以便更好地向世界宣傳我國民族文化中的這一瑰寶，行前梅蘭芳等人再三思忖，覺得如能把演出的戲曲唱腔譜成世界通行的五線譜就好了。主意既定，大家一致公認此事非通曉中西音樂、學養(yǎng)深厚的劉天華先生不能勝任，于是由當時著名的京劇理論家、編劇家齊如山親自出馬，邀請劉天華跨刀記譜。推廣科學的記譜法正是劉音樂事業(yè)的題中應有之義，因此他爽快地答應下來。

聽寫記譜的工作是異常艱巨繁瑣的。當時由梅的琴師徐蘭沅和笛師馬寶明二人提供梅的所演各戲唱腔譜出的工尺譜初稿，劉據(jù)此再譯成五線譜的初稿。那時錄音機尚未問世，只好一遍又一遍地聽徐拉京胡、馬吹笛子，劉天華按譜反復細心揣摩，發(fā)覺工尺譜中有許多差錯和遺漏的地方，于是一點點加以修改補充。修改完畢，再請梅蘭芳清唱幾遍，根據(jù)唱腔逐一推敲修改。以上工作結(jié)束后，劉天華按譜拉小提琴給梅蘭芳和徐、馬、齊幾位先生細聽，再征求大家意見，反復修改，最后才算定稿，并命名為《梅蘭芳歌曲譜》。此項工作前前后后竟耗去劉三個多月的寶貴時間，也累得他憔悴不少。梅蘭芳在《曲譜》序言里曾頗帶感謝地追憶道：“天華先生為譜歌曲十余出，因得旦夕承教。先生秉德溫懿，于音律析究，尤能入微。每自按梵烏林（小提琴），以代胡琴。試辨工尺，常至夜分。反復推求，不厭其屑，凡百余日，始得竣事。”