兴平二年（公元195年），曹操率军击败吕布，吕布走投无路，只得率残部投奔刘备，刘备念其勇武，将其收留。

建安元年（公元196年），曹操上表举荐刘备为镇东将军，封宜城亭侯。不久后，袁术亲率大军进攻徐州，刘备留张飞镇守下邳，自己亲率大军前往迎击袁术，两军在盱眙、淮阴一带相持一月有余，互有胜负，陷入胶着。不料后方生变，张飞欲诛杀陶谦旧将曹豹，曹豹率众坚守城池，暗中引吕布偷袭下邳。吕布一举攻破下邳，击败张飞，将刘备的妻儿老小尽数俘虏。刘备得知后方失守，连忙率军回援，行至下邳时，军队已然溃散，只得收拢残部东取广陵，却又被袁术击败，被迫转军海西。此时军中粮草断绝，困顿至极，将士甚至自相残杀以果腹，全赖东海麋竺倾尽家财资助，才得以渡过难关。

经此一败，刘备决意重回小沛，遂向吕布求和。吕布应允，任命刘备为豫州刺史，令其返回豫州，与自己合力攻打袁术，同时归还刘备的妻儿及部曲家属，还亲自在泗水之滨为刘备送行。刘备得以重回小沛，重整旗鼓。

不久后，袁术命部将纪灵率领三万大军攻打小沛，刘备兵力薄弱，只得向吕布求救。吕布率军屯于小沛城外，设宴邀请刘备与纪灵，以辕门射戟为赌约，巧妙化解了两军兵戎相见的危机，为刘备解了燃眉之急。

可没过多久，刘备再度招募兵马，部众已达万余人，势力渐长令吕布心生忌惮，遂亲自率军进攻小沛。刘备兵败不敌，只得前往许都投奔曹操。曹操麾下谋士程昱、郭嘉皆看出刘备有雄才大略、不甘人下，屡次劝说曹操趁早将其铲除，以绝后患。曹操却不以为然，非但没有加害刘备，反而拨给兵马粮草，举荐其为豫州牧，自此之后，世人皆称刘备为“刘豫州”。

建安二年（公元197年），韩暹、杨奉在徐州、扬州一带纵兵施暴，祸害百姓，刘备设计诱杀杨奉，为民除害。

建安三年（公元198年）春，吕布派人携带黄金前往河内买马，途中被刘备的士兵劫掠。吕布大怒，当即派遣中郎将高顺与北地太守张辽率军攻打刘备。曹操虽派夏侯惇率军救援，却被高顺等人击败。同年九月，沛城被攻破，刘备的妻儿再次被吕布俘虏，刘备孤身一人仓皇逃走。十月，刘备在梁国边境与曹操相遇，随即与曹操联手，共同进攻吕布。吕布兵败被擒后，刘备以丁原、董卓皆被吕布背叛之事，劝说曹操将吕布处死，终除心腹大患。

曹操收服臧霸之后，曾命刘备前去，让臧霸献上昔日背叛自己的徐翕、毛晖二人首级，臧霸重情重义，不肯做出此等不义之事，恳请刘备代为向曹操求情。刘备感念臧霸忠义，从中斡旋，终让曹操赦免徐、毛两人。

此后，刘备随曹操返回许都，被封为左将军。曹操对刘备礼遇有加，恩宠甚厚，出行时同乘一车，落座时同坐一席，一时之间，刘备在许都地位显赫。

建安四年（公元199年），车骑将军董承受汉献帝衣带诏，暗中联络刘备与偏将军王子服、长水校尉种辑、议郎吴硕，密谋诛杀曹操。众人尚未发难，一日曹操与刘备闲谈，忽然从容说道：“当今天下，能称得上英雄的，唯有你我二人。袁绍之流，根本不值一提。”刘备正在用餐，听闻此言心中大惊，手中筷子不觉掉落地上。恰逢此时天上惊雷炸响，刘备借机掩饰道：“圣人曾说，迅雷烈风，必使人神色变动，此言果然不虚。一声惊雷，竟让我受惊至此。”巧妙化解了尴尬，也掩藏了心中的谋逆之意。

不久后，袁术欲从下邳北上投奔袁绍，曹操命刘备督领朱灵、路招率军出征，前往下邳截击袁术。刘备得此脱身良机，当夜便率军火速东行。程昱、郭嘉得知后，再次劝说曹操追回刘备，曹操幡然醒悟，派人追赶，却早已来不及。袁术无法通过下邳，进退两难，不久后便病亡。

刘备抵达下邳后，打发朱灵等人率军返回许都，随即趁机诛杀徐州刺史车胄，留关羽镇守下邳，自己重回小沛。昌豨率先起兵反叛曹操，徐州境内诸多郡县纷纷响应，刘备兵力迅速扩充至数万人。他又派孙乾北上联络袁绍，袁绍随即派遣骑兵前来相助。曹操命刘岱、王忠率军攻打刘备，却久攻不下。刘备对刘岱等人放言道：“像你们这样的将领，即便前来，也奈何不了我，若是曹公亲自前来，胜负犹未可知。”