據歷史記載，大運河是由春秋時期的吳王夫差開始鑿造的，到隋煬帝楊廣時才初具規模，之後又在元世祖忽必烈時再度擴建，基本形成現在的大運河。大運河在中國歷史上扮演著一個不容忽視的角色，深深的影響了歷史上的每一個朝代。
春秋時, 吳國為了稱霸中原而開鑿邗溝。邗溝從揚州北上,與淮河、長江相接。邗溝建成後，吳王夫差便迫不及待地進攻齊國，後又用其與晉國爭雄。
公元581年，隋朝統一中國後，建都於長安，為便於從黃河下游和江淮地區轉運糧食等物資及堅固北部邊防，便對運河進行了全面的規劃和建造。從605年開始，分別開鑿四條運河，分別為通濟渠、邗溝、永濟渠、江南河，全長二千五百多公里。大運河共施工近十年，動用了上千上萬的民工。大運河沿途儘是江南工商繁榮和農桑發達的名城重鎮，如無錫、蘇州等。從此，南方豐富的物產源源不斷的運向北方。
元世祖忽必烈滅南宋統一中國之後，因統治中心北移、京都地區物資匱乏及江南地區往來不暢等情況出現，世祖乃令郭守敬等對隋代大運河的北段進行大規模的改造。一是引水將京都和大運河中段連結起來,二是裁彎取直,縮短了大都到江南富庶地區的航程距離。
公元1280年，利用汶、泗諸河之水源，開鑿了濟州河。九年後,又開鑿了從東平到臨清的會通河，與隋代開鑿的永濟渠接通。1290年，又徵集民工開挖了從大都至通州的通惠河，總長八十餘公里。當新修的通惠河、會通河、濟州河與原運河接通之時，從以北京為起點至杭州為終點的大運河全線貫通。元代大運河完成後，航程比隋代大運河縮短了近七百公里，使南方的糧食、絲帛可以便捷的運到大都。
明、清兩代仍以北京為都城，經濟仍依賴於繁華的江南，因而依然不斷修整和疏濬京杭大運河。在元、明、清三代這五百多年間，京杭大運河成為南北交通的大動脈。
直至清代康熙二十七年（1688年），大運河才與黃河完全分離。大運河的河段並非全部由人工開鑿，當中很多地方利用了天然的河流和湖泊，不僅減少了資金和勞力的投入，縮短了開挖時間，還解決了新開河道往往缺乏水源的難處。乾隆皇帝自乾隆十六年至乾隆四十九年的三十三年間，六次南巡，他從北京到杭州，均沿京杭大運河向南行，對大運河的治理有著重要的影響。
至1855年,因河道枯竭和海運興起,所以漕糧改作海運, 經大運河北上的只佔小部分。1901年,終將漕糧全部折現,停止漕運。
大運河的開鑿與航運是應歷史而生的結果。許多歷史事件，朝代的生存和發展都與大運河都有密切的關係。在長達一千多年的時間內，大運河一直是中國的運輸大動脈。 一旦運河的通航情況不理想，整個國家的發展必定受到影響，所以歷代都特別注重運河的開發及整治。
「船舶往來，商旅輻輳」。運河暢通後， 一直是溝通南北的交通要道，許多古城因此而興起。中國的繁榮逐漸的由西向東轉移。中國東南方由於統治中心的東移北上，與大運河的連通而繁榮興旺起來。對此，明清古運河研究學者有這樣的形容：「運河沿岸的古墩、古廟、古塔、古橋、老街、老店、老廠、老窯以及街市的繁華景象、市民的生活習俗，猶如《清明上河圖》的長幅畫卷展示在人們面前。」兩朝，運河沿岸地區更是市場發達、經濟繁榮。
大運河是中國古代一項偉大的水利建築工程。它隨著中國繁榮的東移而發展，又隨著海運的興起而衰落。
