高欢本来为尔朱荣帐下大将，他随同尔朱荣起兵，深得尔朱荣的赏识。后“葛荣众流入并肆者二十余万，为契胡凌暴，皆不聊生，大小二十六反，诛夷者半，尤草寇不止”（《北齐书曰》）。于是高欢自请领其众，约二十万六镇鲜卑部队，遂成尾大不掉。其于北魏普泰元年在河北信都起兵，反对尔朱氏专权。尔朱氏没有想到高欢会造反，匆忙调集各地的尔朱军队前来作战，结果一败于广阿，二败于韩陵。 史称这是一场“以少胜多”的战役。但实际上，广阿之战，高欢对尔朱阵营使用了反间计，而韩陵之战则是真正的以少胜多，充分暴露了尔朱阵营的问题。高欢自称是河北大族渤海高氏的后裔。六世祖高隐曾任西晋玄菟太守，以后三世又有人在鲜卑慕容人所建立的前燕、后燕政权里为官。拓跋珪灭后燕，曾祖高湖降魏，为右将军。祖父高谧仕魏，官至侍御史，因犯法依律徙居怀朔镇，降为兵户。