这个成语来源于《淮南子.汜论训》，百川异源，而皆归于海。
西汉的思想家、文学家刘安，是汉高祖刘邦的孙子，袭父封为淮南王。他爱好读书鼓琴，才思敏捷，曾召集宾客和懂得天文、医学、历算、占卜等数千人，集体编写了一部数十万字的书《鸿烈》，也称《淮南子》。
《淮南子》中有一篇《汜论训》，讲了人类社会发展的一些情况，它的基本观点是符合历史唯物主义的。文章中写道：“我们的祖先早先住在山洞里和水旁边，衣着非常简陋，生活十分艰苦。
后来出了圣人，他们带领人们建造宫室，这样人们才从山洞里走出来，住进了可以躲避风雨寒暑的房子。圣人又教人们制造农具和兵器，用来耕作和捕杀猛兽，使人们的生活比过去有了保障。
后来，圣人又制礼作乐，订出各种各样的规矩，使人们有了礼节和约束。由此可见，社会是不断发展的，人们不是老是用一个方式生活。所以对古时候的制度，如果不再适合使用，就应该废除；而对于现在的，如果适合使用，就应该发扬。
以上的一切都说明像千百条来自不同源头的江河，但最后都会归流入大海一样，各人做的事不同，但都是为了求得更好地治理社会，过更美好的生活。
