廖輝1987年10月出生於湖北仙桃，解放軍八壹體工隊運動員。10歲時被仙桃市業余體校的舉重教練甘永奎看中。2000年，不到13歲的廖輝因訓練出色被選入了湖北省舉重青年隊，2002年12月進入了解放軍八壹隊。此後，廖輝的舉重天賦開始在大賽中顯現出來。2005年在烏茲別克斯坦舉行的亞洲青年錦標賽上壹人獨攬抓舉，挺舉和總成績三枚金牌， 2006年在全國青年男子舉重錦標賽中獲得69公斤級比賽冠軍。優異的成績引起了國家隊的註意，廖輝在2007年初實現了進入國家隊的願望。
原本廖輝是國家隊作為2012年奧運會的培養對象，但是接下來他的進步速度遠遠超出了教練們的預計。2007年11月1日，廖輝在武漢舉行的第六屆城市運動會上，以342公斤的總成績獲得男子舉重69公斤級比賽冠軍，並打破了全國青年紀錄和世界青年紀錄。
之後在2007年11月的舉重世界杯上，以抓舉145公斤、挺舉190公斤、總成績335公斤的成績奪得冠軍，挺舉成績打破了世界青年紀錄。2008年4月的全國舉重錦標賽暨奧運選拔賽上，廖輝取得抓舉160公斤挺舉195公斤總成績355公斤的好成績，創造新的全國紀錄。
2008年8月12日19點，北京奧運會男子舉重69公斤級的比賽在北京航空航天大學體育館進行。廖輝以348公斤（抓舉158公斤、挺舉190公斤）的總成績為中國舉重隊摘下第五金。這是中國隊在本次奧運會上獲得的第13枚金牌。法國選手旺·達巴亞壹蒂安切和亞美尼亞選手馬。季·格沃爾格同樣舉起338公斤，達巴亞壹蒂安切因體重較輕獲得銀牌，格沃爾格獲得銅牌。