習仲勛1913年10月15日生于陜西富平縣淡村鎮中合村。
1926年5月在縣立誠中學高小讀書時加入中國共產主義青年團。
1928年4月轉為中國共產黨黨員。后從事農民運動。
1930年1月被派往楊虎城部警備騎兵第三旅開展兵運工作。
1932年3月在甘肅 兩當發動兵變，失敗后曾轉赴渭北、三原開展革命工作。
1933年3月起任陜甘邊游擊隊總指揮部政委、中共陜甘邊特委軍委書記、陜甘邊革命委員會副主席，參與創建以照金為中心的陜甘邊革命根據地。當中共陜西省委書記杜衡（后叛變）執行“左”傾冒險主義，提出放棄照金根據地并南下渭（南）華（陰）失敗后，參與創建以南梁為中心的陜甘邊革命根據地。
1934年2月起任陜甘邊革命委員會主席，中共陜甘邊特委代理書記
1932年習仲勛發動兵變
、軍委書記，陜甘邊蘇維埃政府主席。參與領導軍隊反擊國民黨軍“圍剿”。
1935年9月在錯誤的肅反中被關押，中共中央領導人長征到達陜北后獲釋。
1936年1月任中共關中特委常委、蘇維埃政府副主席。同年6月參加西征，曾任中共環縣縣委書記。9月調回關中任中共特委書記、游擊隊政委。抗日戰爭爆發后，任中共關中地委書記、專員公署專員、軍分區和關中警備區第一旅政委。
1942年7月調任中共西北中央局黨校校長。
1943年2月任中共綏德地委書記兼綏（德）米（脂）警備區和獨立第一旅政委。
1945年6月當選為中共第七屆中央候補委員。同年7月任陜甘寧邊區集團軍政委，與司令員王世泰率部在淳化爺臺山地區反擊國民黨軍進犯。抗日戰爭勝利后，曾任中共中央組織部副部長。
1945年10月任中共中央西北局書記，兼任陜甘寧晉綏聯防軍政委。
1947年起任陜甘寧野戰集團軍政委，西北野戰兵團副政委、西北人民解放軍野戰軍副政委。協助彭德懷指揮青化砭、羊馬河、蟠龍戰役，三戰三捷。繼又參與指揮隴東和三邊戰役。同年7月再次兼任陜甘寧晉綏聯防軍政委，與司令員賀龍統一領導西北地方武裝和后方工作。1949年2月起任西北軍區政委、中共中央西北局書記。中華人民共和國成立后，任中央人民政府委員、人民革命軍事委員會委員，西北軍政委員會副主席、代主席。
1950年9月任中共中央宣傳部部長兼政務院文教委員會副主任。
1953年9月任政務院（后為國務院）秘書長。
1956年9月當選為中共第八屆中央委員。
1959年4月至1962年10月任國務院副總理兼秘書長。
1978年3月被選為第五屆全國政協常委，后任中共廣東省委第二書記、第一書記，兼廣州軍區第二政委。同年12月被增選為中共第十一屆中央委員。
1979年任廣東省人民政府省長。
1980年兼任廣州軍區第一政委。同年９月被補選為第五屆全國人大常委會副委員長。
1981年6月，中共十一屆六中全會上被增選為中央書記處書記。
1982年9月當選為中共第十二屆中央政治局委員、書記處書記，負責中央書記處的日常工作。
1988年4月被選為第七屆全國人大常委會副委員長，兼任內務司法委員會主任委員。
1993年后，不再擔任黨和國家領導職務。
2002年5月24日在北京病逝。