长葛此地名，最早见于《春秋左氏传》：“鲁隐公五年，宋人代 郑围长葛”，鲁隐公五年，即公元前718年。又（民国十九年）长葛县志记载：长葛，盖葛天氏故址也；后人思永其泽，故名曰长葛（见旧志）。战国时，“其社中树暴长，更名长社”。

春秋时，长葛为郑国城邑，宋人伐郑围长葛，引发“长葛之战” ，其后周郑交恶，大战于长葛，史称“繻葛之战”，长葛亦称“繻葛” 。

战国时，郑国为韩哀侯所灭，长葛归属于韩（周烈王元年，即前375年），后为魏伐取，长葛归魏，改名长社。

秦始皇统一中国后，在全国范围内推行郡县制，长社始为县，属颍川郡。汉承秦制，长社仍属颍川郡。王莽新朝，改颍川郡为左队，长社属左队。东汉，复西汉旧制，长社属颍川郡。东汉末，行州郡县三级制，长社仍属颍川郡（属豫州），东汉末年，南方黄巾军与东汉官军、地方义兵联军大战于长葛，史称“长社之战”。

长葛新貌

南北朝时期，宋少帝景平元年（423年），刘宋与北魏交战，长社为北魏占领，时许昌城夷毁，颍川郡治徙长社（今长葛市老城），长社属颍川郡。北魏分裂后，属东魏。魏孝静帝天平初（534年），置颍州（治长社城），长社属颍州，后为西魏夺取，“长社之战”后东魏收复颖川，长社又属东魏。武定七年（549）治所移治颍阴城（今许昌市），颍州改曰郑州，长社属郑州颍川郡 。北齐因之。北周改郑州为许州，长社属许州。

隋唐时期，开皇三年（582年），罢郡，行州县制，改长社县为颍川县，属许州。开皇六年（586年），析置长葛县（治所今老城），长葛属许州。大业三年（607年），复行郡县制，改许州为颍川郡，长葛县属之。唐武德四年（621年），改颍川郡为许州，长葛属许州。

贞观元年（627年），分天下为10道，长葛属河南道许州，天宝元年（742年），改许州为颍川郡，乾元元年（758年），颍川郡又复为许州，长葛县归属不变，属河南道。后梁改唐许州忠武军为许州匡国军，长葛属之。后唐复许州匡国军为许州忠武军，后晋、后汉、后周俱因之。

两宋时期，长葛先属京西路许州，后熙宁五年（1072年），分京西路为京西北路、京西南路，长葛属京西北路许州，元丰三年（1080年），升许州为颍昌府，长葛属颍昌府。（北宋亡后）金贞元元年（1153年）改颍昌府为许州昌武军，长葛属许州昌武军。

元明清时期，长葛先后属河南江北行省汴梁路许州、河南布政使司开封府许州、河南省开归陈许郑道许州直隶州