臺北市位於臺灣島北端，臺灣島北部的臺北盆地，四周均與新北市接壤，被新北市環繞，西界淡水河及其支流新店溪，東至南港附近，南至木柵以南丘陵區，北包大屯山東南麓。東西寬處20.5公裏，南北長約28公裏。經度東經121.6度，緯度北緯24.9度。
臺北市中心區域位於臺北盆地底部，大屯火山群（休眠火山）位於市區北邊與臺北縣接壤處，整個山系於市區內大致向南延伸並趨緩，直抵圓山、大直與內湖等地，是臺北市境內最大的山系。最高的七星山為1120米，次高的大屯山為1092米，山系中心地帶與北投側的外緣地帶有不少火山地形。市區東邊的內湖、南港與南邊的木柵多為丘陵地形。標高約300多米的南港山系（拇指山系）則橫亙於信義、南港兩區之間。
臺北市境內的河流屬於淡水河流域。淡水河主河道以及自淡水河分出的新店溪流經臺北市大同區（大龍峒、大稻埕）、萬華、公館、景美等地的市區邊界（淡水河主河道往西南續接大漢溪）。
基隆河於關渡壹帶自淡水河分出，流經社子、士林、大直、內湖、松山、南港後出臺北市境續流經新北市汐止、基隆市暖暖等地。過去因河道極為彎曲，每遇大雨常有水患，因此士林段、內湖段和壹小段南港段的河道皆進行過截彎取直工程。景美溪於景美壹帶自新店溪分出，流經景美、木柵至臺北縣深坑。雙溪於士林、北投交界壹帶自基隆河分出，磺溪再由雙溪分出，雙溪流經芝山巖、外雙溪等地，磺溪則流經石牌、天母等地，上溯大屯山系的紗帽山、大屯山。
臺北市位於北緯25度線附近，北回歸線以北，又因為是在海島上，地處東亞大陸與太平洋之間，受幹冷的蒙古高壓與暖濕的太平洋高壓交互影響，形成了亞熱帶季風氣候。由於海洋的調節，其氣溫比同緯度大陸地區高2～5℃，尤其在秋冬季節，此特點尤為突出。
從緯度來看，臺北位於北回歸線以北，屬於亞熱帶季風氣候。但從各月平均氣溫來看，卻酷似熱帶季風氣候，表現在：長夏無冬，只有熱季與涼季之分：通常4～11月為熱季、12～次年3月為涼季。有時受到全球暖化或特殊的氣候變化影響，涼季期間也會出現忽暖忽冷的現象（如2005年2～3月蒙古高壓帶來的強烈冷氣團，使得臺北的溫度少見地降至攝氏5.6度，鄰近臺北的淡水更出現攝氏3.9度的低溫）。
由於臺北位於東亞季風帶內，因此氣候也受東北季風影響。也因為有東北季風的影響，才不致使淡水河有因水量不足而斷流的問題。另外還有壹個特殊的氣候特征：因為市區主要位於臺北盆地中，氣候也深受盆地地形影響。夏季由於盆地周圍的高山而不易使熱氣排出，使得市內的氣溫通常較周圍的地區高出攝氏1～2度。進入冬季後，市區周圍的山地與丘陵地較容易形成地形雨。每年5月前後，由於蒙古高壓與太平洋高壓交會形成鋒面，使得臺灣進入梅雨季節，此時臺北的降雨天數也會增加。夏季也經常會因為上升氣流旺盛，形成午後雷陣雨。