早在永安三年（530年），孝庄帝元子攸杀死尔朱荣，尔朱家族起兵讨伐孝庄帝，孝庄帝战败被杀，尔朱家族立长广王元晔为帝，并封高欢为平阳郡公。高欢却没有参与这次行动，他选择保存实力，置身事外，率领自己的二十万余军队回了河北屯兵驻守。

高欢是从尔朱荣的手下一路走来的，他非常看不惯尔朱荣的暴虐无道，当年的尔朱荣等人不把底层士兵和百姓当人看待：尔朱荣俘杀葛荣之后，将他昔日统治二十万的部众连哄带骗地押送到并州、肆州，但尔朱荣和他的契胡军士们一直残酷地凌虐、剥削这些人。

葛荣的部众在尔朱暴政之下忍无可忍，总共组织了二十六次起义，即使被屠杀的人数超过一半，却依然奋力反抗，至少十几万人因此而丧命。

尔朱天光依靠贺拔岳之力打赢了关陇之战，却下令活埋了一万七千名早已投降的士兵，还将降兵的亲人们尽数掳去充当奴婢。

尔朱荣当政擅权的三年内，他和他的亲人们不分轻重肆意妄为，行事残忍严酷，从不顾百姓死活，尔朱荣也因此人心尽失，百姓皆对尔朱氏恨之入骨。

当尔朱荣图谋篡位未果，反被孝庄帝亲手斩杀的消息传出后，无论宗室朝臣还是洛阳百姓们皆拍手称快，欢呼声响彻洛阳。

高欢作为一个出色的政治家，他吸取了尔朱荣做事凶狠，暴兴暴亡的教训，为防止自己落得和尔朱荣一样人人唾弃的下场，高欢在做事为人都故意与尔朱荣反其道而行之。

高欢在行军途中，严肃军纪，对手下军士倍加约束，甚至不敢多拿沿途百姓的一点儿东西，每次经过麦地的时候，高欢为防止骏马失控，踩坏百姓的麦子，他都会下马牵着缰绳步行经过。

高欢因为严格约束军队，对沿途百姓秋毫无犯，因而收获了不少民众的好感。高欢早年治理东魏，政治尚算清明，也做了很多对百姓有利的好事。

只是到了他的管治后期，他害怕如果太过严格要求一众功臣，担心他们会投向西魏宇文泰的怀抱，因而逐渐对他们的贪腐行为只眼开、只眼闭。

根据《北齐书卷十八》中的描述，都城“四贵”中的司马子如自恃与高欢有旧情谊，为官贪滥成性，公然纳贿，完全没有顾及国家的律法纲纪。而且司马子如这个人一向没有原则性，身为公职人员却无忠诚正直的人品，不能公正待人接物。

高欢眼见司马子如越来越不像样，就暗中指使东魏御史台弹劾这几个最有权势的勋贵。包括元坦、司马子如，把他们都关进了监狱中，这次吓得司马子如一夜白头。

另一名勋贵孙腾的贪污行为比司马子如有过之而无不及。他不管是谁来找他办事，都一律要拿钱，有钱就办事。