中国的河流大都是东西走向，比如黄河和长江都是从西向东流。因此，在古代，东西交通的联系比较便利。相比之下，由于缺乏贯穿南北的大江大河，所以南北纵向的交流受到很大影响。
隋炀帝迁都洛阳以后，深深感到南北交通的不便。因为政治中心洛阳在华北平原上，从华北到富庶的江南，陆地交通漫长而艰难，既不方便从北方派驻军队南下，也不便于把江南丰富的物质运送到北方。
为了改变这一局面，隋炀帝下令大规模地开凿大运河。
隋炀帝开凿的大运河并不是第一条人工河流。春秋时期，江南已有小规模的运河，那就是吴王夫差修筑的邗沟。邗沟南起扬州以南的长江，北至淮河。不过，到了隋朝，这条邗沟已有多处堵塞。隋炀帝开凿的大运河，既需要重新疏通古邗沟，又需要开凿新的河段，然后把新的运河和老的运河连接起来，成为一条贯通南北的人工河流。
从605年开始，隋炀帝任命杰出的工程专家宇文恺主持修建工程，花了六年的时间，先后分四次，开通了四段贯穿南北水系的运河。
第一段“通济渠”开凿于605年。隋炀帝征调了河南、淮北的百多万人，在战国时期修建的“鸿沟”和汴河的基础上，开通了从洛阳城西到今天江苏淮安的运河。同一年，隋炀帝又征调淮南民工十多万人，疏通了春秋时期吴国修建的邗沟，使之从江苏淮安流到今天的扬州，进入长江。第三段“永济渠”，从洛阳的黄河北岸到今天的北京市，修建于608年，征调河北等地的百多万人，耗费无数人力。第四段“江南河”，始于今天的江苏镇江，终于浙江杭州，共八百余里，修建于610年。
大运河修筑好以后，纵向沟通了海河、黄河、淮河、长江和钱塘江，还把涿郡（今北京附近）、洛阳、江都（今扬州）、吴郡（今苏州）、余杭（今杭州）等重要城市连接在一起。商旅船舶通过运河在这些城市之间来往穿梭，络绎不绝，促进了物质交流，使得沿岸城镇日渐繁华起来。
到了唐朝，大运河又经过一些局部的修整。比如，在三门峡以东新增一条名为“天宝河”的渠道，又在洛阳立德坊开凿新潭，安置来往的船舶。一时间，运河通航畅通无阻，南北往来十分热闹。唐代诗人皮日休有诗句描写这个盛况：“万艘龙舸绿丛间，载到扬州尽不还。应是天教开汴水，一千余里地无山。”
隋唐大运河运营了五百多年。到南宋末年，因疏于管理，一些航段堵塞，就停止了航行。元朝定都北京以后，改建了部分河道，使之不再绕道洛阳，而从南方直通北京，形成“京杭大运河”。直到今天，这条大运河仍在发挥作用。
在中国历史上，大运河和长城并列为中华民族最伟大的两项工程，是中华民族的骄傲。放在世界运河史上看，大运河是世界上最长和开凿时间最早的人工运河，堪称人类智慧的结晶！
