春秋末年，各诸侯国的奴隶因受不了国君的压迫，纷纷逃到大夫的封地去做佃农。这样，大夫的势力越来越大。在晋国，有四个大夫拥有的土地和佃农最多，他们是智伯瑶、赵襄子、魏桓子、韩康子。
四个晋大夫中，智伯瑶为人贪婪，势力最大。他向韩、魏两家索要土地，韩康子和魏桓子因为势力较弱，只好暂时忍让，给了他土地。
接着，智伯又向赵襄子要地，赵襄子不给。智伯勃然大怒，率韩、魏两家进攻赵襄子。赵襄子躲进了晋阳城。
智伯等三家包围晋阳，放水灌城，城墙露出水面只剩六尺了。城中家家进水，到处都是青蛙，但百姓仍一心守城。一天，智伯驾车观察水势，韩康子和魏桓子在车上相陪。智伯说：“我现在才知道水还能灭国。”听了这话，魏桓子用胳膊肘碰了碰韩康子，韩康子用脚碰了碰魏桓子的脚面。因为他们知道，汾水可以灌魏家的安邑，绛水可以灌韩家的平阳。智伯的家臣絺疵对智伯说：“韩、魏两家必反。”智伯问道：“你怎么知道呢?”絺疵回答说：“我是根据常理推断的。如今主公率韩、魏两家之兵攻赵，赵亡之后，战祸必然轮到韩、魏两家了。我们约韩、魏两家攻打赵家，答应赵家灭亡之后三分其地。现在晋阳马上就要攻破了，而韩康子和魏桓子却面有忧色。这不是要造反，又是要干什么呢?”智伯不相信絺疵的话。絺疵为了避祸，请求出使齐国去了。
赵襄子派家臣张孟谈偷偷出城，对魏桓子和韩康子说：“俗话说：‘唇亡齿寒。’如今智伯率韩、魏两家攻打赵家，如果赵家灭亡了，接着便是韩、魏两家了。”魏桓子和韩康子说：“你说的我们也明白，只是害怕举事未成而计谋泄露，反而惹祸啊!”张孟谈说：“计谋出于二位之口，入我一人之耳，怎么会泄露呢?”魏桓子和韩康子听了这话，便同张孟谈约期举事，然后打发他回城去了。赵襄子派兵趁黑夜杀了智伯安排的守堤士兵，将堤掘开，让河水灌入智伯大营，智伯营中大乱。赵襄子趁机从正面攻入智伯大营，韩、魏两家则从两翼包抄过去。不多时，智伯便兵败被杀了。赵襄子向魏桓子和韩康子说：“多谢二位相救之恩。请二位收回献出的土地，至于属于智伯的地和人，就由我们三家瓜分吧。”魏桓子和韩康子说：“这样最好。”于是，三家把智伯的地和人都分了。不久，三家又想平分晋国了。
周考王三年(公元前438年)，晋哀公去世，他的儿子晋幽公即位。晋幽公软弱无能，赵襄子、魏桓子和韩康子见时机已到，便将晋国平分了，只给晋幽公留下绛州和曲沃两座城池。周威烈王元年(公元前425年)，赵襄子、魏桓子和韩康子都去世了，他们的继承人分别是赵籍、魏斯和韩虔。这三个人野心更大，已经不满足大夫的地位，想要做诸侯了。
周威烈王二十三年(公元前403年)，赵籍、魏斯和韩虔派人去见周天子，要求封他们为诸侯。周威烈王心里想：这三个大夫兵强马壮，我不封他们为诸侯，他们也会自封为诸侯的。于是，他封赵籍为赵侯，魏斯为魏侯，韩虔为韩侯。待使者回报后，赵籍、魏斯和韩虔立即宣布了周天子的任命，立了宗庙，并向各国通报。各国诸侯纷纷贺喜。这三个新国家分别称为赵国、魏国、韩国。因为它们是由晋国分裂而成的，所以历史上也称这三国为“三晋”。从此，中国历史进入了战国时期。
周安王二十六年(公元前376年)，到了晋幽公的孙子晋靖公在位的时候，三晋国君又将晋靖公废了，把他仅有的那一点土地也给分了。
