秦始皇统一中国后，为了加强对江南地区的控制，相继在吴国故水道和吴百尺渎的基础上开通了从镇江到苏州，以及从苏州到杭州的河道，奠定了江南运河的基本走向。西汉帝国建都长安。狭小的关中平原虽有肥沃的土地，却无法维持国家、皇室和军队的庞大开支，必须依赖漕运将各地的贡赋运往京都。因此，汉武帝于公元前129年开凿了从长安直通黄河的漕渠。东汉末年的社会动荡使秦汉以来开凿的运河网遭到极大破坏。曹操统一中原后，有计划地在华北平原开凿多条运河，形成了以白沟为主干的运河网。这些运河为隋代开凿永济渠和通济渠奠定了部分基础。