约60万年一1万年前，人类的祖先观察到树叶飘落到水里，微风吹来，远远地荡开了去，又看到抛到水里的树干也漂在水上被冲走。于是受到启发创造了独木舟，那是用一整段木头挖成的。
后来人们又模仿双手的样子，创造了桨。尽管用原始的工具制造出来的小船看起来是那么笨拙，但它却把人们引向了一个新世界。
伴随着社会生产力的发展，新的工具不断出现。当人们能得心应手地从事木工时，造船也就发展起来了。
大约在使用青铜器的奴隶社会(约公元前15—16世纪)，船只的建造已经具有相当的规模，并且开始使用帆。后来船帆问世，扩大了船的活动范围，可以凭借风力驰骋在海面上。可以说真正的航海是从帆船开始的。在漫长的历史时期里，无论是单桅的、双桅的、还是多桅的，帆船一直独占着海洋。
我国在周朝(约前1l世纪一前256年)就设置了专门管理船只的官吏。春秋时期的造船工业已经相当发达。当时北起辽东半岛，南到南方沿海地区，在今辽宁、河北，山东、浙江直到福建、广东，各地都已分封建国，各诸侯国之间交往日益频繁，海洋已成为南北交通的捷径。越国的战舰曾沿海北上。那时以吴国的船最为有名，最大的战舰可载战土90人，桨手50人及许多军事装备，这种船称为“大翼”。船队的组织也日益完备，除满载战土的战舰之外，尚有称为“赊鲈”的指挥舰。
齐景公(公元前547—490年)，曾乘船在海上漫游数月，并到转鲋(今山东省烟台市附近)观看海潮的胜景，甚至要长此遨游下去，不想回国。后经晏子劝驾，才算回到陆地上来。
通过这些事情，我们可以想见，当时的船只一定相当大，并且抗风浪能力较强，稳定性较好，否则便满足不了长期海上活动的需要。
到了战国时期，我国沿海地区出现了一些著名的港口，如燕国的碣石(今河北乐亭县南)，齐国的转鲋和琅琊(今山东胶南县南)、越国的吴(今江苏苏州市)，会稽(今浙江绍兴市)、句章(今浙江宁波市西)、冶(今福建福州市)、番禺(今广州市)。这些港口接待着海上来往的船只。船，把我国东、南连成一片，南北货物靠着船载来又载去。文化交流，人民来往，也靠船来进行。
史书上记载，秦始皇为了寻求长生不死药，派徐福携带童男女千余人，去寻求海上仙岛。可以想见参加这支船队航海的船，决不是些经不起风浪的小筏子。
西汉时期的船只就更多样化，更适于海上活动了。楼船高达10余丈(汉尺略小，10余丈约30米)，分为4层。率领这种战舰的将军被封为“楼船将军”。至于2层、3层的战舰和各种用途不同的战舰都是组成“特混舰队”的部分。汉武帝刘彻元鼎五年(公元前112年)发兵攻打南越时，曾出动“南方楼船士20万”，公元前109年也曾“遣楼船将军杨仆，从齐浮渤海，兵5万人”。这些说明，用船的数量之巨大是十分可观的。
