根據上述職責，上海市審計局設以下內設機構：
辦公室(信訪辦公室)
負責局機關文電、會務、值班、機要、檔案(圖書資料)、保密、安全、工作聯絡、內外事接待等機關日常運轉工作；承擔本級財務核算和本局部門預決算、資產管理、政府采購等工作；負責對局屬事業單位預決算管理及財務監督；負責局機關行政事務和後勤保障工作；承辦來信來訪工作；承辦局領導交辦的其他事項。
人事處(老幹部處)
負責局機關及所屬事業單位的機構編制、人員錄用、考核獎懲、工資福利；負責本市審計機關的教育培訓工作；負責本市審計專業技術職稱考評；負責外事管理工作；負責統戰、知識分子、民族宗教工作；負責離退休幹部管理工作；負責指導局屬事業單位的人事管理工作；負責協管區、縣審計機關負責人的有關事項；承辦局領導交辦的其他事項。
綜合計劃處(政策研究室)
負責對有關經濟形勢、方針政策和審計發展現狀、趨勢進行分析調研，提出對策建議；負責起草、修改重要文稿；負責擬訂審計工作政策、發展規劃和年度計劃；牽頭起草本級預算執行和其他財政收支的審計結果報告、審計工作報告及審計發現問題的糾正和處理結果報告；承擔統計、信息、新聞宣傳、政務公開、督促檢查、網站管理、歷誌編撰及行政公文核稿；負責特約審計員工作；承擔委托審計管理工作；負責與有關部門協調查處重大案件工作；負責承辦人大代表書面意見和政協委員提案的有關工作；承辦局領導交辦的其他事項。
法規處(復核審理處)
負責起草本市審計工作法規、規章和局審計業務管理制度；承擔局機關有關規範性文件的合法性審核工作；承擔審計法制宣傳教育工作，起草依法行政規劃並組織實施，指導區、縣審計機關的法制工作；組織實施本市審計機關審計項目質量檢查和優秀審計項目評選；復核及審理有關審計業務事項；承擔行政復議和行政應訴工作及組織實施對審計處罰的聽證；組織核查社會審計機構對依法屬於審計監督對象的單位出具的相關審計報告；承辦局領導交辦的其他事項。
財政審計處
組織協調本市部門預算執行審計工作，草擬本市財政預算執行情況的審計工作方案，匯總預算執行審計結果和審計整改工作情況；負責審計本級財政預算執行情況和其他財政收支情況以及本市稅收征收管理情況；組織審計區、縣政府預算執行和決算以及其他財政收支情況；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關財政審計業務；承辦局領導交辦的其他事項。
區縣審計處
組織實施區、縣黨政領導幹部經濟責任審計工作，草擬區、縣黨政領導幹部經濟責任審計工作方案，匯總審計結果和審計整改工作情況報告；負責對區、縣審計機關主要負責人的經濟責任審計；負責對戶管單位的專項審計和審計調查；承辦局領導交辦的其他事項。
金融審計處
負責審計本市國有金融機構和國有資本占控股或者主導地位的金融機構的資產、負債、損益狀況；對審計署授權的金融機構進行審計監督；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關金融審計業務；承辦局領導交辦的其他事項。
行政事業審計處
負責對戶管單位的專項審計和審計調查；負責本局實施的市本級部門決算(草案)審計結果的匯總工作；指導區、縣審計機關行政事業審計業務；承辦局領導交辦的其他事項。
社會保障審計處
負責審計由市政府主管部門管理和其他單位受市政府及有關部門委托管理的社會保障基金、住房公積金、社會捐贈資金以及其他有關基金、資金的籌集、管理和使用情況；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關社會保障審計業務；承辦局領導交辦的其他事項。
農業與資源環保審計處
組織開展本市農業、資源環境審計工作；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關農業與資源環境審計業務；承辦局領導交辦的其他事項。
經貿審計處
負責審計本市國有企業及國有資本占控股或者主導地位的企業的資產、負債、損益狀況；對審計署授權的中央在滬企業的資產、負債、損益狀況進行審計；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關經貿審計業務；承辦局領導交辦的其他事項。
經濟責任審計處(內部審計指導處)
組織、指導、協調本市經濟責任審計工作，草擬經濟責任審計工作方案，匯總起草全市經濟責任審計結果和審計整改工作情況報告；承擔市經濟責任審計聯席會議辦公室工作；負責對戶管單位的專項審計和審計調查；承擔本市內部審計工作的業務指導和監督；指導區、縣審計機關經濟責任審計業務；承辦局領導交辦的其他事項。
國有資產鑒證審計處
負責對市本級國有資本經營預算編制執行和管理以及國有資本收益情況進行審計監督；負責對市本級企業國有資產產權交易情況進行審計監督；負責對戶管單位的專項審計和審計調查；組織實施市屬國有企業申報核銷不實資產鑒證審計；指導區、縣審計機關國有資產鑒證審計業務；承辦局領導交辦的其他事項。
固定資產投資審計壹處
組織協調本市政府投資和以政府投資為主建設項目的審計工作；負責對本市市級建設財力和其他政府性資金投資的城市基礎設施建設項目的預算執行情況和決算進行審計監督；負責對政府性投資公司建設的城市交通建設項目財務收支和決算進行審計監督；負責審計政府設立的建設類專項基金和資金；負責對戶管單位的專項審計和審計調查；指導區、縣審計機關固定資產投資審計業務；承辦局領導交辦的其他事項。
固定資產投資審計二處
負責對本市市級建設財力和其他政府性資金投資的科技、教育、文化、衛生、體育、社會保障等社會事業類建設項目和高新技術產業項目，以及本市市級機關、事業單位等財政預算單位相關建設項目的預算執行情況和決算進行審計監督；負責對政府性投資公司建設的城市交通項目以外的其他重大建設項目財務收支和決算進行審計監督；負責對市級國有及國有控股企業投資建設的關系國計民生和產業發展的重大建設項目財務收支和決算進行審計監督；負責對戶管單位的專項審計和審計調查；承辦局領導交辦的其他事項。
外資運用審計處
負責對國際金融組織和外國政府貸款、援款和贈款項目的財務收支審計；負責對國際金融組織和外國政府貸款建設項目竣工決算進行審計監督；負責對本市在境外設立國有企業集團及其分支機構的資產、負債、損益情況進行審計；負責對戶管單位的專項審計和審計調查；承辦局領導交辦的其他事項。
計算機審計與信息技術處
組織、指導、協調本市審計機關信息化建設工作；負責擬訂本市審計信息化發展規劃，起草信息化建設方面的規章制度；負責計算機審計的推廣運用，實施信息系統的審計；組織計算機軟件開發；管理計算機信息安全和保密工作；組織開展計算機培訓和對外審計信息化交流合作及聯絡工作；指導信息中心業務工作；承辦局領導交辦的其他事項。