初平二年秋，张燕率众劫掠河内，被张辽打退，吕布起兵三万征讨黑山军。
张燕，本姓褚，常山真定人。张角率领黄巾起义时，褚燕聚集一帮少年为强盗，在山水间转战出击，待回到真定时，部众已经达到一万多人。当时博陵人张牛角也聚集起一伙人，自称将军。褚燕推举张牛角为首领，进兵攻打瘿陶，张牛角被流箭射中，身受重伤，临死之前，命令他的部下尊奉褚燕为首领。张牛角死后，众人一起拥戴褚燕为首领，于是褚燕改姓张，唤作张燕。
后张角败亡，他率领麾下黄巾之众藏匿于太行山中，号称百万黑山军。张燕剽扞，敏捷过人，时人有“飞燕”之称。黄河以北的各郡、县都受到侵扰，朝廷无力派兵围剿。张燕派使者到京城洛阳，上书朝廷请求归降，刘宏于是任命张燕为平难中郎将，使他管理黄河以北山区的行政及治安事务，每年可以向朝廷推荐孝廉，并派遣计吏到洛阳去汇报。
初平元年，袁绍与公孙瓒夺冀州，公孙瓒派人联系张燕相助，袭兵邺城，然而被袁绍所败，才稍稍收敛一些。吕布便也是想借此之际剿灭黑山军，然而因诸侯讨董，便一直拖到现在。
黑山军并非铁板一块，而是有好多个不同的势力，听闻吕布攻伐黑山军，小头领孙轻、王当等人连忙去求见张燕。张燕轻笑：“黑山军有雄师十万，更兼地利，那吕布不过区区三万人，竟是妄图剿灭吾等，未免太过自大。”
他带兵不但不避，反而从太行山中穿过到河内，与吕布对峙。
“待我打败这名扬天下的飞将，整个并州便是我的了。”
如今天下纷乱，汉室倾颓，即便是张燕对此也是有些想法的。当今诸侯，尚且还算弱小，那为何不能有张燕的一席之地呢。太行山虽大，然而难以耕种，缺少物资，只能一时维稳，不能长远发展。而太行山外的并州，在吕布的治理下开始有所发展，有粮食，有物资，这无疑是张燕极度匮乏的。
他对吕布的名声自然是听说过，然而却没有将其放在眼中。花了三日，张燕率领数万兵马在河内出现，吕布闻声与之对峙。
他怒斥：“尔等贼子，上不尊天子，下不惜百姓，不事生产，劫掠害民，有何面目立于世间。一日为贼，子子孙孙皆为贼也，何不早降！”
张燕哈哈一笑，道：“吕布，世人皆言汝为飞将，何必学妇人多作长舌？”
吕布闻言，为之一怒，却见麾下成廉大怒：“主公，末将请战！”
自张仲死后，成廉便投在吕布之下，此后他也做了随军校尉，官职虽说不算高，但日子也算是清闲。然而多年没有战事，让成廉心中焦急了不少。他不比曹性、高顺等人，他已经快四十岁了，若还不能立功升迁，这辈子恐怕成就有限。
尽管他知晓吕布与他尚有几分情谊，但他其实更想要的是堂堂正正坐上自己的位置上。
吕布颔首，只见成廉纵马提刀，在阵前大喝：“雁门成廉在此，贼将谁敢一战！”
“我来战你！”
黑山军中出现一名骁将，拍马而上，成廉迎去，战不至三两合，便取下他的首级。成廉轻蔑一笑：“便是这点本事，黑山军还不如散了吧。”
张燕面色阴沉，那出去的骁将他也认得，平日在黑山军中自恃勇武，也是有一番本事。只是没想到却被他未听过名声的成廉所斩了。
麾下又有两人请战，张燕却犹豫不决，然后还是点了点头。
成廉与二将混斗一处，招过十二合，他先是一刀砍翻一人在地，后借马力再劈开一人，汉军士气大振。吕布借此机会率军奔袭，只取张燕。张燕亦是反击，然而黑山军擅长劫掠，却疏于战阵，又因为士气大跌，直接被吕布所破。
张燕带头冲向吕布，却是被魏续所阻拦，交手数招后，他暗暗心惊：“麾下一偏将便有如此勇力，那吕布究竟是何等风流。”
他收起了与吕布搏命的想法，而是开始疯狂的后撤。魏续终究是武力不足，没有办法留下张燕，然而张燕所率领的十万兵马，有一大半都被吕布所俘获。他后撤山中，吕布因脑中闪过孙坚的案例，没有去追。
而后，吕布经常骑着赤兔，能够腾跃城墙、飞跨壕沟，与成廉、魏越等几十个人骑马冲击张燕的军阵，有时一天去三四次，每次都砍了黑山军的首级回来，彰显勇武。因轻骑来去如风，举止从容，张燕等人基本无可奈何，只能任由吕布刷人头。
一连过了十几天，黑山军的意志开始有些动摇了。
太行山的地势还算陡峭，只能纵容几十个骑兵，然而便是这几十个，成为了上万黑山军的噩梦。他们如同在猎杀野兽一样在猎杀人，绝对不正面冲突，若是黑山军想要去追，却是追不上，毕竟黑山军的战马远远不如五原大马。
然而不去追，他们就会受到无尽的疲扰。
“渠帅，我们退兵吧。”
营门外的将领开始受不了吕布的这种方式，他们已经不想再呆在这里了。那个提议退兵的人开口道：“吕布就是一个彻头彻尾的疯子，我们不能耗在这里。退出去，我们还是百万黑山军。”
“那便是吕布和袁绍一同剿灭黑山军呢？”
张燕说的话，让他们都不由一愣。去年他们已经得罪了袁绍，而今年，吕布又来招惹他们，接连两次，黑山军证明了周围的邻居没有一个惹得起。所谓卧榻之侧，岂容他人鼾睡，黑山军想要左右逢源坐地起价，而另外两家也想着消灭不确定的炸弹。
他阴沉着脸，说：“若是找不到方法对付吕布，百万黑山军至少有一半会饿死在太行山中。”
其余人默然。
太行山的情况他们是知晓的，百万之众黑山军，每一日的吃喝都是极大的开销。即便安排了老弱去耕地，然而每年的粮食基本都不够吃的。唯有劫掠才能勉强维持。然而，袁绍已经在太行山附近驻扎兵马严防死守，而吕布更是亲率兵马讨伐。可见之后的日子里，黑山军便没有粮食的来源。
这便是没有地盘的尴尬之处，纵然是百万大军，不过一盘散沙。
“那渠帅，我们应该如何？”
“对啊对啊，要怎么办啊。”
帐外的将领议论纷纷，张燕咬着牙，道：“事到如今，我等只能降了。”
众人一想起吕布，不由一阵打酥，纷纷同意。降了总比饿死好，更何况以黑山军的体量，说不定还能谋得一官半职。
不过张燕却是冷笑一声：“不过我说的，可不是降吕布，而是应当降了袁绍。”
有人忍不住问：“渠帅，这是为什么？”
“无它，吕布唯一莽夫尔。袁绍四世三公，享誉海内，那吕布迟早被其所迫。吾观袁绍优柔寡断，好谋不绝，今吾等率众归降，或许被人所不齿，然则无性命之虞。反观吕布，杀人毫不手软。听闻吕布麾下高顺军纪严苛，黑山军又是劫掠多年，岂能不授人以柄，任人宰割。孰重孰轻，尔等还不明白吗？”
众人闻言，纷纷露明悟之色：“渠帅英明。”
初平二年八月，吕布于河内大破张燕，张燕退守太行山内，降于袁绍。袁绍听从幕僚田丰之计，让其蛰伏太行山中，每月供应以粮草，意图拖住吕布。