段韶在高欢生前，曾随高欢参与广阿之战、邺城之战、韩陵之战，消灭尔朱兆，后在邙山之战、玉璧之战中亦发挥作用。

高欢临终时，令段韶随次子高洋镇守邺城，并嘱咐长子高澄加以重用。高澄掌权后，段韶奉命继续镇守晋阳。

高澄回到邺城后，赐给段韶女乐十几人，黄金十斤，还有缯帛，封长乐郡公。

当高澄准备出征讨颍川时，他写信给段韶，要他留守晋阳，又封他为真定县男爵，并行使并州刺史事。

同年十二月，段韶跟随尚书左仆射慕容绍宗讨伐侯景，段韶于涡水两岸暗中顺着风向点燃干草纵火，打算阻止侯景撤退。

但侯景十分精明，他率领骑兵进入水中，然后跃出往后撤退，岸上的干草被水打湿以后，火便熄灭，让侯景侥幸逃出了生天。

在高洋代魏建齐的过程中，段韶曾代高洋试探斛律金对其簒魏的意见，可见段韶也颇得高洋的信任。

武定八年（550年）五月，高洋受禅即位，建立北齐，是为文宣帝。随后，段韶被另封为朝陵县公，又封霸城县侯，加位特进。

段韶上表请求归还朝陵县公，乞请封自己的继母梁氏为郡君。梁氏是在段韶的生母娄氏因病去世后入门的，她待段韶兄妹不错，故段韶与继母的感情融洽。

高洋嘉奖他，另封梁氏为安定郡君。段韶又将霸城县侯让给了自己继母所生的弟弟段孝言，其高尚的行为，因此受到当时舆论的普遍夸赞。

段韶与广武王高长弼不和。当高洋准备于天保元年（550年）底前往晋阳时，高长弼对高洋说：“段韶在晋阳拥有强大的兵力，恐怕他的行动会出人意料之外，岂可直接去他那里！”

高洋没有理会高长弼的劝告，继续向晋阳进发，等到抵达晋阳后，高洋就把高长弼的谗言告诉段韶，还说：

“像您这样忠诚的臣子，人们尚且有馋言，何况其他人呢！”

同年十月初九，段韶被加授为尚书右仆射。天保三年（552年），任冀州刺史、六州大都督，段昭任职期间，为地方百姓施行惠民政策，深得地方吏民的爱戴。

天保四年（553年）十二月，投降南梁的起义将领东方白额暗中抵达齐国边境宿预这个地方，他派人引诱边民，杀害长吏，致使淮、泗地区百姓骚动不安，地方局面混乱。

天保五年（554年）二月，高洋下诏段韶前去讨伐。段韶率军抵达后。适逢南梁叛将严超达带兵围攻进逼泾州城；

同时，南梁反将陈霸先又率众将要进攻广陵城，时任广陵刺史的王敬宝急忙遣使向朝廷告急；而另一名南梁叛将尹思令拥众万人，准备袭击盱眙这个城池。