早在尔朱荣认识高欢时，对高欢能让马匹乖乖地站着让他清洗，感到十分惊讶，就问高欢：“贺六浑（高欢的鲜卑名字)，你是如何做到的？”高欢就回答说：“不管是对人还是对待牲畜，软硬兼施才是唯一方法。”尔朱荣因此对他记忆十分深刻，开始拔擢他。

后来，高欢的儿子一个接一个的出世，到了他们成长后，有一次，高欢想看看几个儿子中哪个是最有计谋的，于是他给每个儿子发上一堆乱麻，让他们尽快理清，大儿子一根根慢慢抽，越抽越乱，小儿子将乱麻分成两半然后再分开。

几个儿子想方设法想要解开这堆乱麻，摸索了许久都没有办法解开。

次子高洋就问：“阿父，这捆乱麻还有何用途？”

高欢就说：“乱成这个样子，都无法再用了。”

高洋听后，走去厨房取了一把菜刀出来，一刀一刀地将乱麻砍断，几刀砍下去再理出一缕缕短麻来递给父亲高欢看。然后就说：“阿父，我解开乱麻了。”

高欢见后就问他：“为何要这样做？”

高洋就答：“阿父，乱则需斩。”

高欢听后十分高兴，认为高洋的话十分有理，还夸奖他的做法为“快刀斩乱麻”。这也是“快刀斩乱麻”一语的典故由来，自北魏流传至今。

高欢的长子高澄自幼聪颖过人，能言善辩，十岁时曾领父命，独自前往信都，招降高敖曹。十一岁时，以高欢特使的身份，两次去洛阳朝觐孝武帝元修。十二岁时，娶东魏孝静帝元善见的妹妹元仲华为妻。

高澄还经常被高欢叫去谈论时事政务，每次都对答如流，并且详加剖析，丝丝入扣，深得高欢赏识，允许他参与军国要务的筹划。