農村信用社和中國農業銀行的區別，主要在於組織結構、經營模式、資產規模三個方面：
1、組織結構不同
農村信用社原來隸屬於農業銀行管轄，在1996年《關於農村金融體制改革的決定》中，明確農村信用社與中國農業銀行脫離行政隸屬關系，農村信用社的業務管理和金融監管方面由縣聯社和中國人民銀行承擔。
農業合作社即使是屬於銀行類金融機構，但也是基於合作制基礎上吸收股份制運作機制形成的股份合作制的社區行地方金融機構，是由農民入股組成，實行入股社員民主管理，主要為入股社員服務的合作金融組織，是經中國人民銀行依法批準設立的合法金融機構；
而中國農業銀行則是按照公司之列形成組成的股份制企業，是我國四大國有獨資商業銀行之壹。
2、經營模式不同
在具體業務上，農村信用社的功能比較單壹，主要的資金來源是社員繳納的股金、吸收的存款和留存的公積金，借貸也主要是解決社員的資金需求；
而中國農業銀行則具有創造功能，能為農戶提供多種服務的綜合性金融機構。在職責上，跟中國農業銀行多元化經營業務相比，農村信用社更多負擔著農業生產、農村發展的重擔。
3、資產規模不同
農村信用社雖然跟中國農業銀行不同屬於壹個級別，但在資產規模上，農村信用社的網點分布可要多很多，對組織和調節農村基金，支持農業生產和農村綜合發展起到很重要的作用。
農村信用社和中國農業銀行都是我國金融體系的重要組成部分，都在為我國農業生產提供相關的金融服務，但在運營模式、結構體系和資產規模上還存在很大不同的。
百度百科—農村信用合作社
百度百科—中國農業銀行