1962年,他率領法國國家樂團赴美國巡回演出,同年11月1日,他首次在紐約大都會歌劇院背譜指揮演出莫紮特的歌劇《唐·喬萬尼》,轟動了美國樂壇。1963年夏,他赴前蘇聯,在莫斯科、列寧格勒指揮音樂會演出。1965-1971年,馬澤爾成為柏林國家歌劇院音樂總監。1965-1975年,他出任西柏林電臺交響樂團首席指揮。在此期間,他還在歐美各地擔任客席指揮。
1972-1982年,馬澤爾出任克利夫蘭樂團音樂總監和首席指揮。在這期間,他多次帶領樂團赴世界各地巡回演出,曾於1978年和1982年兩度率團來香港演出。1978-1980年,他還兼任倫敦愛樂樂團客席指揮。馬澤爾離開克利夫蘭樂團之後,受邀成為維也納國家歌劇院總經理、藝術總監。這是第壹位美國指揮家獲此崇高的榮譽。兩年後,他離開維也納重返匹茲堡交響樂團。1986年被委任為客席指揮、音樂顧問,1988年才正式任命為音樂總監,已簽約至1995-1996年樂季。1998-1990年期間,他還兼任法國國家樂團音樂總監壹職。
2002年9月出任紐約愛樂樂團音樂總監。作為音樂總監,他曾指揮樂團演出紐約愛樂委約的7首世界首演作品,包括普利策獎和格萊美獎獲獎作品約翰·亞當斯的《關於靈魂的輪回》,斯蒂芬·哈特克的《第三交響曲》以及梅林達·瓦格納的《長號協奏曲》。他曾指揮全團演奏勃拉姆斯和貝多芬的全套作品並於2007年舉辦紀念柴科夫斯基的交響藝術節。大師與他甄選的交響樂團進行了廣泛的巡演,包括8場南美巡演和23場日本巡演。他每年還在歐洲舉辦至少40場演出。他指揮了電影版的《唐璜》和《卡門》中的音樂,他還定期首演著名作曲家(潘德列茨基、貝裏奧、謝德林)的主要作品。還因為對現代美國音樂作出巨大貢獻而兩次獲得ASCAP獎。2005年,馬澤爾還帶領紐約愛樂樂團歷史性地訪問朝鮮平壤並舉辦音樂會。
2012年,接替業已離職的克裏斯蒂安·蒂勒曼,出任慕尼黑愛樂樂團音樂總監。