黃遵憲的.曾祖母粗通文墨，背得不少兒歌和古詩。黃遵憲剛會說話，就跟著她老人家學唱兒歌《月光光》：“月光光，秀才娘。騎白馬，過蓮塘。
蓮塘背，種韭菜。韭菜花，結親家。親家門口壹口塘，放個鯉魚八尺長。長個拿來炒酒食，短個拿來娶姑娘。”這首充滿生活情趣的兒歌，在黃遵憲幼小的心靈裏留下極深的印象。隨著年齡的增長，他開始有意識地學唱民歌。
有壹次，他碰見兩個窮苦人，壹面打著拍子，壹面唱著《乞兒歌》：“壹天只有十二時，壹時只走兩三間，壹間只討壹文錢，蒼天蒼天真可憐！”黃遵憲聽了，潸然淚下，馬上送給討飯人壹百文錢，並安慰了他們壹番。回到家裏，他憑著記憶，把這首民歌工工整整地抄在了本子上。
由於受民歌的影響，黃遵憲小小年紀己能寫出壹手好詩。有壹天，老師出了個題目：《壹路春鳩啼落花》，讓遵憲寫詩。他來得也真快，隨即應聲答道：“春從何處去，鳩亦盡情啼……”老師聽了又喜又驚，第二天又出了個題目：《壹覽眾山小》。遵憲揮筆寫道：“天下猶為小，何論眼底山……”
破題這兩句就氣概不凡。
黃遵憲成年以後，更加註重對傳統民歌的學習和繼承，提出了“我手寫我口”的響亮口號，成為清末“詩界革命”的壹面旗幟。