春秋后期，吴国崛起东南，建都于吴（今江苏吴县），地处太湖流域水网地带。其人民善于棹楫驾舟，积极开发利用河道，是一个水运发达的国家。当时，各诸侯国之间的兼并斗争十分激烈，局处江南一角的吴国，力图扩展其势力范围，为西征楚国，于周敬王十四年（前506年），开凿了从太湖向西直达长江的胥溪。周敬王二十五年（前495年），吴王夫差继位后，为了从海道进攻越国，又修凿了从太湖往东直达海口的胥浦，构成了以太湖为中心，西接长江，东出海口的水运干渠，发挥水运的优越性，战胜和征服了越国。周敬王三十四年（前486年），为向北与齐国争霸中原，于长江北岸的邗（今江苏扬州东南）筑城并向北凿一条运渠，经射阳湖至末口（今江苏淮安北），沟通了长江与淮水，名为邗沟，从此打通了江淮间的运道，是我国历史上建设南北运河的开端。周敬王三十六年至三十八年（前484年～482年）间，吴王夫差在打败了楚、齐两国后，为进一步称霸中原，准备率师北上，与晋定公午会于黄池（今河南封丘南），于商（宋国都城，今河南商丘）、鲁（鲁国都城，今山东曲阜）之间，开凿一条渠道，引古菏泽水东流注入泗水，沟通了济、泗二水，使江淮之间的邗沟运道一直延伸到黄河。