绥化，清同治元年（1862年）开发设镇，名为北团林子，隶属呼兰厅。清光绪十一年十月十四日(1885年11月20日)设理事通判厅，即绥化直隶厅，厅治在北团林子。当时，北团林子南北一带有3个圆形林子，以泥河为界，位于泥河南岸的称南团林子，北岸的称腰团林子，最北的称北团林子，绥化建置时将北团林子改名为绥化。绥化：书语史载，“绥”为安好、安抚之意，《诗·小雅·鸳鸯》：“福禄绥之。”《周颂·桓》有“绥万邦”记载。多为祝颂安好用语。“化”则“变也”，造化、教化之意。绥化，有安抚教化、造化发展、吉祥安顺的意思，可谓寓意之深。

绥化历史悠久。大约在1万年前旧石器时代，绥化市境内就有古人类繁衍、生息。

夏商时期，绥化为肃慎地。“肃慎者，虞夏以来东方大国也”。自虞舜至夏、商、周时，肃慎与中原华夏各族关系一直很密切。

西周至西汉时期，今绥化市的庆安、绥棱、海伦、望奎、兰西等市县仍为肃慎地；西部的明水、青冈、安达，西南部的肇东等市县为涉貊地东汉至两晋，绥化属夫馀地，夫馀世居东北，是貊族的后裔。晋时，绥化市大部分市县属夫馀的寇漫汗，其农牧经济、文化和习俗都深受中原影响。这一时期，夫馀地仍臣服于当时的中原王朝。

南北朝时期，绥化属勿吉地。勿吉先后与南朝、北魏王朝建立了臣属朝贡关系。

隋唐时期，属靺鞨黑水部、黑水靺鞨地。唐代，分别归属于唐渤海都督府和黑水都督府所辖。

宋辽金时期，绥化先后归契丹族建立的辽、女真族建立的金管辖。

元朝时期，绥化市为成吉思汗幼弟帖木哥斡赤斤的分封地，即归元朝的开元路管辖。这一时期农业得到较大的发展。

明朝时期，绥化为努儿干都指挥使司所辖。主要居住着女真族和汉族、蒙古族、朝鲜族和其他少数民族。

清朝时期，绥化归镇守黑龙江将军管辖。清王朝建立之初，视东三省为“龙兴之地”，实行封禁政策，将东三省山林、土地当作皇室围场，严禁开发耕种。清咸丰十年(1860年)经黑龙江将军特普钦奏准，开始出放民荒。清光绪十一年(1885年)设绥化理事通判厅，光绪三十年十二月二十四日（1905年1月29日）由厅升府。光绪三十三年(1907年)，在东北设东北三省总督，统辖奉天、吉林和黑龙江三省，绥化归黑龙江省管辖。

民国元年（1912年），东北三省承袭清末地方行政制度，仍实行省、道、府（直隶州、厅）、县（州、厅）4级制度。民国2年（1913年）裁府州，改为行省、道、县3级制，绥化府改为绥化县。民国3年（1914年）6月，设黑龙江省龙江道、绥兰道。今绥化市所属各县（市）区分别归龙江道、绥兰道所辖。民国18年(1929年)，东北政务委员会成立，废道制，县归省直接管辖。海伦、绥化为一等县，肇东、兰西、青冈、安达、望奎、庆城为二等县，绥棱、明水为三等县。

东北沦陷时期（1934年），明水县归龙江省管辖，其余9县归滨江省管辖。1939年，明水、绥化、海伦、望奎、庆城、绥棱6县为北安省所辖，其余4县仍由滨江省管辖。

解放战争时期，庆城(庆安)、绥棱、海伦、望奎、绥化、明水和青冈、兰西、安达、肇东等县分属当时的黑龙江省和嫩江省、松江省管辖。1949年新中国成立前夕，今绥化市10个市县均划归黑龙江省管辖。

1949年10月1日，中华人民共和国成立。建国初期，今绥化市各县（市）区一直归黑龙江省直辖。

1956年1月3日，中共中央批准，成立绥化专区。1月17日，中共黑龙江省委根据中央1月3日关于成立绥化专区的批准，将原由省直接领导的绥化、北安、海伦、望奎、德都、铁力、庆安、绥棱、呼兰、巴彦、兰西、通河、木兰等13个县划为绥化专区领导；成立绥化专员公署和中共绥化地委，地委、专署机关设置于绥化县。2月28日，中共绥化地委组成。3月6日，国务院批准，黑龙江省成立绥化专署，将原省直辖的绥化、北安、海伦、望奎、德都、铁骊、绥棱、庆安、呼兰、巴彦、兰西、通河、木兰等13个县划为绥化专区管辖，绥化专员公署驻绥化县。同时，将由省直辖的青冈、安达、明水等6县划归嫩江专区管辖。肇东、肇州、郭尔罗斯后旗3县（旗）仍归黑龙江省直辖。同年4月11日，国务院批准，郭尔罗斯后旗改称肇源县，仍由省直辖。

1958年8月16日，国务院决定撤销绥化专员公署，成立松花江专员公署，专员公署驻哈尔滨市，辖1市13县，即伊春市、绥化、巴彦、双城、五常、肇州、肇源、木兰、通河、望奎、兰西、绥棱、海伦、庆安县。同时，将省直辖的肇东县划归哈尔滨市管辖。1960年5月12日，将由嫩江专区所辖的明水、青冈、安达3县划归松花江专区；将松花江专区所辖的五常、双城、巴彦、木兰、通河5县划归哈尔滨市；将由哈尔滨市所辖的肇东县划归松花江专区。至此，松花江专区辖伊春、绥化、海伦、庆安、望奎、兰西、绥棱、肇州、肇源、肇东、安达、青冈、明水共1市12县。同年5月26日，撤安达县设地级安达市，仍由松花江专区所辖。1962年10月，恢复铁力县，由松花江专区所辖。至此，松花江专区辖2市12县。1963年12月，伊春市从松花江专员公署划出。1964年6月撤安达市设安达特区，由石油部和黑龙江省双重领导。1965年3月恢复安达县，由松花江专区所辖。1965年6月，国务院决定重新成立松花江专员公署，原松花江公署改为绥化专员公署，绥化专员公署驻绥化县，辖肇东、肇州、肇源、安达、绥化、海伦、望奎、兰西、明水、青冈、庆安、绥棱、铁力13县。1967年3月，成立绥化地区革命委员会。1970年4月，铁力县划归伊春地区所辖。

1979年2月，撤销绥化地区革命委员会，设置绥化地区行政公署，辖绥化、肇东、安达、海伦、肇州、明水、望奎、庆安、绥棱、兰西、肇源、青冈12县。经国务院批准，1982年12月，撤绥化县设县级绥化市；1984年11月，撤安达县设县级安达市；1986年9月，撤肇东县设县级肇东市；1989年12月，撤海伦县设县级海伦市。1992年12月，肇州、肇源2县划归大庆市。

1999年12月28日，国务院批准，撤绥化地区，设地级绥化市；撤县级绥化市，设县级北林区。绥化市、北林区行政领导体制2000年6月1日起实行。

2000年,绥化市辖北林1区，肇东、安达、海伦3市，望奎、兰西、青冈、明水、庆安、绥棱6县，72个镇、130个乡、6个街道办事处,2155个村民委员会。

2001年,根据黑龙江省统一部署,撤并乡镇。3月14日,绥化市撤并乡镇，调整为70个镇、90个乡、6个街道办事处。至此，绥化市辖1区、3市、6县，70个镇、90个乡、6个街道办事处。

2014年,绥化市将所辖县（市）区中的8个乡撤乡设镇。北林区东富乡撤乡设镇；海伦市百祥乡撤乡设镇，政府所在地迁至百信村；兰西县远大乡撤乡建镇；望奎县东郊乡撤乡设镇；青冈县劳动乡撤乡设镇,迎春乡撤乡设镇；庆安县同乐乡撤乡设镇；绥棱县阁山乡撤乡设镇。

2019年，绥化市辖1区、3市、6县，78个镇、82个乡、6个街道办事处。1个国家级开发区，即绥化经济技术开发区。

绥化全市林地总面积66.7万公顷，有林地面积49.02万公顷，林木蓄积量6161万立方米，森林覆盖率达到13.9%。其中市属林地总面积31.64万公顷，有林地面积23.12万公顷，活立木总蓄积为3281万立方米；按林种分为公益林和商品林，其中公益林面积为24.31公顷，蓄积2504万立方米；商品林面积为7.33公顷，蓄积772万立方米。森林资源是生物多样化的基础，是生态文明建设的根基，森林能够涵养水源、调节气候、防止、减轻旱涝、风沙、冰雹等自然灾害，同时为我市生产和生活提供多种宝贵的木材和原材料。

绥化市草原面积436.6万亩,基本草原面积357.8万亩，非基本草原面积78.8万亩。其中，西部5个牧业半牧区县市的草原属松嫩草场，地势平坦且集中连片，草质优良，是天然的饲草贮存库；东部5个农区县市有草山草坡、河套地及零星宜牧地。全市草场植被种类繁多，盛产羊草、小叶樟、披碱草等优质牧草，平均亩产干草100公斤以上。

绥化市现有耕地2880.5万亩，其中旱田2352.7万亩，水田513.5万亩。

绥化市境内河流密布，水系发达，共有河流336条，河流总长8092公里。其中主要江河38条，总长3125公里，均属松花江水系。