這首樂曲深刻地表現了舊社會勞動人民對黑暗現實飽含血淚的聲聲控訴。
全曲由引子和三個段落組成。
引子，較為自由的節奏、對比強烈的力度，加上扣人心弦的音調，在我們面前展示出了壹幅極富戲劇性的畫面：壹個飽受苦難而叫天不應、叫地不靈的婦女哭著、喊著，瘋也似地沖向江邊，面對滔滔江水訴說世間的不平……
第壹段，由起、承、轉、合四個樂句組成。緩慢的速度、哀怨的旋律、暗淡的羽(la)調式色彩，特別是“轉”句：節奏頓挫，時斷時連，似啜泣，似哭訴，簡樸、真摯、悲切、動人，將人們的心緊緊地攥在音樂之中，讓人幾乎透不過氣來。
第二段，由第21小節第四拍弱起，是全曲的對比段落。這段轉調是在毫無準備的情況下完成的，它只用壹個音作過渡——即民間的“借字”手法，使音樂突轉到富有幻想性的意境中。這段音樂在演奏上的特色是二胡不用揉弦，真切地描寫了主人公目光呆滯、回首往事的情態。而獨奏旋律和伴奏旋律用幾乎重復的音調交替出現，壹問壹答，出色地表現了主人公人心復雜的情緒，這種過度悲慟後出現的沈寂，更有壹種“此時無聲勝有聲”的效果。
這三段由第39小節起。這段音樂由於速度加快、力度增強，加之演奏上的大幅度運弓和扣揉技法的運用，使壹種對統治者控訴和反抗的情緒油然而生，樂曲也由此進入激動人心的高潮——壓在心頭的怒火爆發了。這是壹種悲極的控訴，這是壹種憤極的反抗！無奈、無力，無助，無援……樂曲結束了，那如泣如訴的旋律還縈繞在人們的心頭。
傳說在舊社會，有壹對恩愛的夫妻，丈夫被萬惡的官府抓去服勞役，遭到百般折磨和虐待，不幸死於外鄉。妻子聞訊後來到送別丈夫的江邊，面對滔滔江水，回憶往事，號啕大哭，傾訴了心中無比悲憤的感情。這是《江河水》產生的原型。
20世紀80年代，世界著名指揮家小澤征爾聽到二胡演奏的《江河水》，眼淚奪眶而出，激動地說：“它拉出了人間的悲切。”