永淳元年（682年），丘神勣擔任左金吾衛將軍。
弘道元年（683年），唐高宗去世。光宅元年（684年），武則天派丘神勣前往巴州（今四川省巴中市巴州區）監視章懷太子李賢。同年二月二十七日（3月18日），丘神勣奉武則天之命殺害李賢，事後武則天竟歸罪於丘神勣，將他貶任疊州（今甘肅省叠部縣）刺史。
不久，丘神勣復職回京，擔任左金吾衛大將軍，深受武則天的寵愛與信任。曾奉命與周興、來俊臣審訊制獄中監禁的犯人，都被人們稱作酷吏。
垂拱四年（688年），博州刺史、瑯邪王李沖在博州（今山東聊城東北）起兵反叛，武則天任命丘神勣為清平道大總管。不久，李沖遭百姓孟青棒、吳希智所殺。丘神勣到達博州後，官吏們都穿著白色的孝服來迎接他，丘神勣因無叛可平，而將揮刀把他們全部殺死，殘害壹千余家，於是加任左金吾衛大將軍。
當時李沖之父豫州刺史、越王李貞亦在豫州（今河南汝南）起兵呼應。武則天分遣丘神勣、魏崇裕擊之。
天授元年（690年），有人告發周興與丘神勣等陰謀造反。天授二年（691年）十月，武則天下令處死丘神勣，五城兵馬使武三思監斬，斬於太乙門前的菜市口。
神龍初年，武則天禁錮丘神勣的子孫。