土名孤榆树。榆树地名的由来，据《满洲地名考》记载：市街用土壁围绕，在土壁之上生长着繁茂的榆树，由远望去如同个森林，故此地得名为榆树；另一种说法，地名源于城南的一棵参天古榆树。据说这棵榆树需十余人合抱。而树的周围百米无其它树木生长，因此，目标明显，引人注目。在很早以前，从宁古塔（今宁安县）等地移居的汉人，在此树周围垦荒建屯，称之为大孤榆树屯。后来垦荒的人口愈增多，渐成集镇，于是大孤榆树屯的名称逐渐传开，后来又称孤榆树。县名榆树便由此演变而来。
1951年在大于乡周家油坊屯，发现古人类化石、原始哺乳类动物化石、打制石器。1977年又发现旧石器时代晚期打制石器和骨器。中国科学院古脊椎动物和古人类研究所定称为“榆树人”，命名为“榆树文化”。历史纪年西汉属秽貊族夫余国。东汉先隶于元菟郡，后归辽东郡。公元493年(北魏太和十七年)，勿吉族灭夫余国，榆树为勿吉族伯咄部。隋属伯咄靺鞨。 唐属渤海国扶余府（今吉林省农安县管辖）。辽属东京道宁江州。 金属上京肇州路。
元属开原路屯田万户府。
明为努儿干都司撒叉河卫。
公元1682年(清康熙二十一年)，榆树隶属于吉林将军。
公元1692年（清康熙三十一年），移吉林副都统于伯都讷，榆树为伯都讷属境。
公元1727年1月12日 (雍正四年十二月二十一日)，添设长宁县，隶于奉天府尹，榆树为其属境。
公元1736年8月11日(清乾隆元年七月五日)撤县，所属民人、民地拨归永吉州管理。
公元1747年3月12日(清乾隆十二年二月二十一日)，裁永吉州添设吉林厅，同时添设伯都讷巡检，隶于吉林厅，管理境内狱事。
公元1761年(清乾隆二十六年)，裁伯都讷巡检，改设理藩院委署主事，驻伯都讷，管理蒙务。
公元1811年(清嘉庆十六年)，裁理藩院委署主事，置伯都讷厅理事同知。同时添设分防巡检两员，分驻伯都讷和孤榆树屯，“管理监狱捕务，弹压私采开荒等事”。公元1882年3月17日(清光绪八年正月二十八日)，伯都讷厅衙门迁至孤榆树屯，改理事同知为抚民同知，原孤榆树屯分防巡检改为厅衙门司狱。
公元1906年2月15日(清光绪三十二年正月二十二日)，伯都讷厅升府，移府衙门于新城(今扶余)，在孤榆树屯地方设榆树县。
公元1909年6月2日(清宣统元年四月十五日)，榆树县改为榆树直隶厅，隶于吉林省西北路分巡兵备道。
公元1913年（民国二年）3月改称榆树县，隶于吉林省滨江道。
东北沦陷时期榆树县隶于吉林省。
1946年1月1日成立榆树县民主政府。5月22日改称榆树县人民政府，隶于吉北专署。1947年2月，划出黑林、秀水区和大坡村，舒兰县划出法特区成立榆南县，隶于吉北专署。1947年11月撤销榆南县，黑林、秀水、大坡复归榆树县。1948年6月22日，撤销吉北专署，榆树为吉林省直辖县。1955年北月，榆树县人民政府改称榆树县人民委员会。1956年7月3日，榆树县隶于吉林省怀德专署，10月6日，怀德专署改为公主岭专署。1958年10月23日，撤销公主岭专署，榆树县划归长春市辖。1966年1月10日，划归德惠专署。1968年7月26日，成立榆树县革命委员会。1969年7月3日，撤销德惠专署，改归长春市辖。1980年9月，县革命委员会改称县人民政府。
1990年12月26日，撤销榆树县，设立榆树市（县级），由长春市代管。
光绪二年（1876年）十月初三日（夏历）,王洛十率马贼六十多人攻占了榆树县城，大肆抢掠并放火烧了巡检衙门。这次匪患，使城内商民受到了很大的损失。匪灾过后的第二年（1877年），城内一些绅商纠结一起，商议修筑城壕及城门来防御匪患，并立即付诸实施。于是，绅商伙同各界出钱出工，开始进行挖城壕、修城门。当时，挖出的城壕上口为4米，下口是2.6米，深度为4米，壕沿两侧的垒土高度是1.83米，底宽为3.3米，壕的实际深度已是5.83米。这时，环绕榆树城内一座长方形的城壕建成了。城内从南到北长达1550米；东西宽度平均为1200米，整个城周的长度是5233.3米，约为10.5华里。
城壕修成之后，壕的两侧，普遍栽种了榆树，以防壕身塌陷及水土流失。在城壕的每面中间，还修筑了城门，又在它的四角地方打起了四个小炮台（后又接着增了四个）。四座城门都有它的命名。东门叫迎旭门；南门叫向阳门；西门叫承恩门；北门叫星拱门。这四座城门名的取意是：东——迎初升旭日；南——对五行说正南为“丙丁火”（属阳）；北——有北极、北斗诸星卫。所以，取这城门的名字都不外乎用吉庆或颂皇恩的意思罢了 。
到1941年间，这座城的四角，又由土木建筑重新修筑为砖瓦结构的了。城门的格局，大体都是起脊的形似大砖瓦房。但不同的是，上一层设有守望楼，并砌有放置抬枪的垛口；下面是守望人员的住室。东北沦陷以后，伪满洲国时，这守望室又变成了警察派出所的驻扎地了。城门的另一侧砌有高4米的拱形门洞。洞宽约5米左右，能通过一般载重汽车。门洞靠外边的一面，安有向里对开的两扇厚度10厘米的大木门。门的外面都有4厘米左右的大铁钉，横竖排列的以10厘米左右的间距，密密地铆钉在大门上。靠里边一面，安有鹅蛋般粗的横铁栓和装有加锁的链子，以供关闭城门时用。门扇造得十分笨重，但都很结实。那时，城门并不是昼夜开放、畅通无阻的，它规定有启闭时间：早启以日出为准，晚闭以日落为限。而遇有阴雨（雪）天气时，那守门的警察就随意启闭了。不到开门的时间，有天大的事，也进不来；关了城门也是难以出进的。城门关闭的时候，就断绝了城里城外的来往行人。有时遇有紧急情况，守门的警察白天也关门落锁，或加岗放哨。
这四座城门的位置是：南北门位于当时榆树城内唯一的一条大街的两端（即现在的榆树大街，取直后南端移向东南，北端偏向西北）；东门位于当时的胡仙堂院北；西门在那时的李篓铺西面。它们现在的位置是：南门在县新华旅社（今华天手机大楼）的西侧；北门在县原纸厂西北墙角的西面；东门在通向柴油机厂南大门的坡道开始下坡的地方；西门在第四小学的西北墙角的北侧。
榆树县城的城壕，到东北沦陷时，两侧的榆树森荫茂密，已有五十多年的种植历史，成长到直径（根部）四五十或五六十厘米，高达十多米的参天大树了。从城周的远处向城里望去，一片郁郁葱葱十分壮观。据历史文件记载，1916年时，城壕两侧的榆树经警察所逐棵查点，共有3202棵，株距是3米左右。1931年“九一八”事变后，伪政府曾几度进行修补壕身，清理壕底和叠堵豁口。同时，还在壕上拉上了两层铁丝网，树上钉着“小心有电”和“有电危险”的一些木牌子。但，始终没有通过电，只不过是用来威胁偷爬城壕的人们而已。另外，在沿着城壕内外两侧，都有环行全城的大道。临树的一侧，又分为四段，各段上设有一个木制的巡逻箱。警察们巡逻到这里时，先打开小箱把名章按在巡逻单上，然后再锁上小箱，才算完成了一次巡逻任务。
东北沦陷的时候，守驻在这四个门上的警察，大施权威，以稽查“经济犯”为名，经常盘查、刁难、勒索和打骂进出城的黎民百姓。那时，一般老百姓进城给亲属带点肉蛋或大米白面之类的东西，他们查看出来，不全给你没收，也得扒下一层皮。特别是南门和东门的两个派出所，卡的更严更紧。两个派出所里都有号称大巴掌的警察。一个是程大巴掌，一个是周大巴掌。他们见“油”就卡，见钱就勒，见物就拿，人们稍有怨气，他们就给一顿耳光、一顿嘴巴、打你告饶、服软才算了事。
1945年12月27日，东北民主联军曹里怀部队等解放榆树县城时，由地方维持会把持和左右的警察马队，曾用城壕与城门作掩护、负隅顽抗，攻打曹部。开始，民主联军为保护城内居民，没有动用重火力。但，设在城门守城的马队，则用机枪射击，杀伤了民主联军十多人（可查的烈士邱营长）。在忍无可忍的情况下，民主联军才集中火力，并用掷弹筒配合，击败了守城的顽敌，从南门攻入城内，迫使警察马队与伪官吏弃城从北门（当时北门没包围）逃遁。
1946年春，由于战时需要，榆树县人民政府对城内及城外附近的居民发出填壕锯树的号召，人们积极响应，立即行动起来，不到一天的功夫，就把树全部锯倒，把壕统统填平。从此，榆树县城的四周就成为平坦无阻之地了。建国以后的几年里，虽然在县城的四周种植了不少树木，但还没呈现出林森密茂，绿荫如盖的景象。
1946年1月成立县民主政府，5月改称县人民政府，1955年12月改称县人民委员会。1968年7月，成立县革命委员会。1980年9月复称县人民政府。
1990年12月26日，国务院批准，撤销榆树县，设立榆树市。
1991年9月，榆树撤县设市后，组建4个街道办事处。
2000年，榆树市辖4个街道、16个镇、21个乡。 根据第五次人口普查数据：总人口1155670人，其中：华昌街道 38942人、正阳街道 46746人、培英街道 22448人、城郊街道 29364人、五棵树镇 45244人、弓棚镇 35475人、闵家镇 33534人、大坡镇 32692人、黑林镇 28377人、土桥镇 23507人、新立镇 29803人、大岭镇 32312人、向阳镇 29316人、泗河镇 31617人、八号镇 29803人、刘家镇 29984人、秀水镇 26908人、保寿镇 35564人、怀家镇 24159人、新庄镇 37963人、育民乡 29840人、红星乡 32396人、大岗乡 23318人、武龙乡 27255人、太安乡 28121人、先峰乡 27609人、前进乡 19907人、大于乡 21843人、谢家乡 20482人、光明乡 22172人、十四户乡 18741人、青顶乡 20888人、于家乡 18604人、青山乡 27307人、延和朝鲜族乡 1356人、双井乡 32057人、恩育乡 32320人、城发乡 22750人、李合乡 23575人、福安乡 26960人、环城乡 34411人。
2002年，榆树市辖4个街道、16个镇、14个乡。总人口122．3万人，其中非农业人口18万人。
2003年，榆树市辖：正阳街道、培英街道、华昌街道、城郊街道、向阳镇、泗河镇、土桥镇、新立镇、黑林镇、大坡镇、闵家镇、五棵树镇、弓棚镇、大岭镇、保寿镇、秀水镇、刘家镇、八号镇、怀家镇、新庄镇、环城乡、城发乡、于家乡、光明乡、谢家乡、福安乡、先锋乡、大岗乡、恩育乡、太安乡、红星乡、育民乡、青山乡、延和朝鲜族乡。
2004年，榆树市辖：正阳街道（办事处驻榆树大街）、培英街道（办事处驻榆树大街）、华昌街道（办事处驻三盛路）、城郊街道（办事处驻三盛路）、八号镇（镇政府驻大八号）、大坡镇（镇政府驻大坡）、弓棚镇（镇政府驻弓棚子）、刘家镇（镇政府驻刘家店）、五棵树镇（镇政府驻人民路）、刘家镇（镇政府驻刘家店）、闵家镇（镇政府驻闵家屯）、秀水镇（镇政府驻秀水）、保寿镇（镇政府驻保寿屯）、黑林镇（镇政府驻黑林子）、新立镇（镇政府驻新立屯）、土桥镇（镇政府驻土桥屯）、怀家镇（镇政府驻三家子）、大岭镇（镇政府驻大岭）、新庄镇（镇政府驻大房身）、向阳镇（镇政府驻东中央堡）、泗河镇（镇政府驻泗河城）、大岗乡（乡政府驻东大岗）、育民乡（乡政府驻六号）、红星乡（乡政府驻西三号）、太安乡（乡政府驻复州岗）、先锋乡（乡政府驻三道街）、光明乡（乡政府驻孟家岗）、谢家乡（乡政府驻范家店）、于家乡（乡政府驻双窝堡）、青山乡（乡政府驻青山）、延河朝鲜族乡（乡政府驻明新）、恩育乡（乡政府驻恩育）、城发乡（乡政府驻双河屯）、福安乡（乡政府驻六合屯）、环城乡（乡政府驻榆树大街）。
2005年，将城郊街道的榆树村，环城乡的靳家、兴隆2村划归正阳街道管辖；将城郊街道的东门村，环城乡的东沟、王家村划归培英街道管辖；将城郊街道的南门村，原双井乡的新民、南岗村，正阳街道的榆西、铁西社区划归华昌街道管辖；将双井乡立新、欢洞村，华昌街道的昌盛、健康、中兴社区划归城郊街道管辖。
截至2006年底，榆树市辖4个街道、15个镇、9个乡，12个社区、388个村。
