相传早在商朝末年，我国即已凿成一条规模可观的运河，它的名字叫泰伯渎，是周太王的长子泰伯将王位继承权让给其弟季历、避地到荆吴（太湖流域）后穿凿的。它位于今无锡市东南。 春秋时期，开凿的运河渐多，有的为陈、蔡两国所开，在今淮水上游；有的为楚国所开，在湖北、安徽境内；有些为吴国所开，在太湖流域和长江、淮河、黄河之间。吴国凿的这批运河，无论对当时及后代，都有深远的影响。首建于商末周初的泰伯，长期默默无闻。到春秋末年，阖闾、夫差父子相继为王，由于当时的太湖流域有了初步开发，又有伍子胥、孙武等人的襄助，国力逐渐强大。它首先对南方地区的两个邻国越国、楚国发动战争。为了在战争中便于运兵和运粮，公元前6世纪末至公元前5世纪初，在太湖流域，利用自然河道的基础，陆续凿成三条运河。一条叫胥浦，北起太湖东面，南到杭州湾。这是一条从对越战争的需要出发而穿凿的运河。另一条叫胥溪，位于太湖西面，是沟通太湖、长江间的运河，便于吴船向西进入楚地。还有一条由吴（江苏省苏州市）北上，到今江阴西部与长江会合，便于吴船经此骚扰长江下游的楚地。