此时，袁绍已令骑将文丑与刘备率五六千骑兵先后冲来。诸将又请求上马应战，曹操仍是不准。又过了一会，袁绍的骑兵已陆续冲来，见曹兵人少又不应战，早已麻痹大意，忽见沿途多是物资辎重，有些便只顾去分夺财物了。这时，曹操下令全体上马，直冲袁军。结果，曹操的五六百骑兵纵横冲击，袁军溃乱不敌，文丑在军中被曹军斩首。关羽这一战，同在军中，由此而得知刘备的消息。此战连斩袁绍两员大将颜良、文丑，袁军为之气夺。曹操此时此刻情知关羽立此功效，卓著封他为汉寿亭侯。
关羽已知刘备的下落，关羽把曹操所赏赠的物品如数封固，又特意给曹操写了一封信，讲明本意，然后辞别而去，直接到袁绍军中投奔刘备。
关羽投奔刘备后，曹操与袁绍在官渡战事。袁绍刚愎自用，恃强估勇，屡失战机，刘备见袁绍终难成大事，遂寻机离开袁绍。他劝袁绍南连荆州（治襄阳，今湖北襄樊市）牧刘表，袁绍未暇辨其真意若何，竟一口答应，并允许他率领本部兵马随行，关羽同张飞、赵云一起建安五年（200年）七月，随刘备到达汝南（今河南汝南县南）后，曹操派来追击的蔡阳（一作蔡杨）被杀。十月，曹操在官渡之战中巧出奇兵，袁绍打败，曹操后亲征刘备，刘备遂南下投奔荆州牧刘表。汉献帝建安六年（201年）九月，关羽随刘备一起来到襄阳。刘表先得糜竺、孙乾来报，遂亲至城郊相迎。
关羽随刘备居荆州，稍得安定。当时刘表“开立学官，博求儒士，使綦毋闿、宋忠等撰《五经章句》”，一时文教大开（《三国志·魏书·刘表传》裴注引《英雄记》），关羽适逢其盛，也得暇温读经书。他对《春秋左氏传》尤为喜爱，史称其“好《左氏传》，讽诵略皆上口”（《三国志·蜀书·关羽传》裴注引《江表传》）。关羽喜读《左传》，书中宣扬的忠义伦理思想也对他产生了极大的感染力。关羽经常是不知疲倦地秉烛夜读，给了他无尽的乐趣，成为他生活中的重要内容。
刘备在荆州之际，招纳了一批英雄豪杰，像三顾茅庐得请诸葛亮鼎助大事，是刘备非常兴奋的。起初，关羽、张飞见刘备对诸葛亮“情好日密”，心有不悦，刘备开导他们说：“孤之有诸葛孔明，犹鱼之有水也。愿诸君勿复言。”关羽等人听刘备如此言说，再也没闹情绪。（《三国志·蜀书·诸葛亮传》）关羽在荆州期间，还认真训练了一支数量可观的水军，为刘备后来群雄相争。
曹操建安十三年（208年）。七月，南下征讨荆州。
刘表八月病死，代任荆州牧的刘琼屯襄阳，刘琦出镇江夏郡，刘备率关羽屯驻樊城（今属湖北襄樊市）。曹操刚到新野，刘琮降，刘备闻讯，遂率关羽南撤。到当阳（今湖北当阳县东）地界，刘琮左右及荆州百姓追随刘备。
刘备已达十余万众，辎重车辆数千，每日仅行十余里。
有人劝刘备急速占据江陵（今湖北江陵）险要，以利抵抗曹军尾追。刘备不忍将随行百姓弃之不顾，遂命关羽率一队水军前往江陵接应。
刘备刚刚到达当阳县长坂（位今湖北当阳东北），被曹操所率精锐人马追上。刘备自知难以抵抗，便与诸葛亮等少数人疾疾退走，幸由张飞切断曹操追兵，刘备才小路赴汉津（汉水重要渡口，位今湖北沙洋），与顺汉水而下的关羽水军汇合。关羽水军掩护刘备渡过汉水，继续向南转移，在江夏太守刘琦的接应下，前往夏口。
关羽随刘备到夏口后，诸葛亮向刘备提出了东联孙吴共抗曹操的建议。刘备遂令诸葛亮往柴桑（今江西九江市西南）拜会孙权。
孙权，字仲谋，他承父兄之资，据江东六郡，在长江中下游地区已成一方势力，刘表病死后，他也对荆州心存企图。曹操南下占领荆州后，给他下了一封颇具意味的战书：
（《三国志·吴书·吴主传》裴注引《江表传》）近者奉辞伐罪，旌麾南指，刘琮束手。今治水军八十万众，方与将军会猎于吴。
诸葛亮来前，孙权已在周瑜、鲁肃的劝说下，下定了与曹操决战的决心，诸葛亮见到孙权后，再次为其陈说各自形势，使他更坚定了信心，表示“吾不能举全吴之地，十万之众，受制于人，吾计决矣！”为了使孙权能更愉快地与刘备联手抗曹，诸葛亮又进一步说道：
“豫州（刘备称刘豫州）军虽败于长坂，今战士还者及关羽水军精甲万人，刘琦合江夏战士亦不下万人。曹操之众，远来疲弊，闻追豫州，轻骑一日一夜行三百余里，此所谓‘强弩之末，势不能穿鲁缟’者也。故兵法忌之，曰‘必蹶上将军’。且北方之人，不习水战，又荆州之民附操者，逼兵势耳，非心服也。今将军诚能命猛将统兵数万，与豫州协规同力，破操军必矣。操军破，必北还，如此则荆、吴之势强，鼎足之形咸矣。成败之机，在于今日。”（《三国志·蜀书·诸葛亮传》）孙权听罢，十分高兴，遂命周瑜、程普为左右都督，鲁肃为赞军校尉，率水师数万与刘备共抗曹操。关羽与刘备在夏口等候消息，不久他们又东赴樊口（今湖北鄂城市西北）。刘备得知周瑜率水师而来，大感振奋，对关羽、张飞说：“今与孙权相盟，若不对其慰劳，似乎显不出咱们的一番诚意。”于是就独自往周瑜处拜会。
孙刘联军在浩渺的长江两岸，与曹操展开一场大决战。双方在赤壁（今湖北嘉鱼县东北、湖北武昌县西赤矶山，今湖北蒲圻西北赤壁山）遭遇。曹军远来疲弊，不习水战，又水土不服，疾病流行，新附的刘琮兵又多狐疑不定，战斗力极差。周瑜使黄盖诈降，巧借风力用火攻击，尽烧曹军战船。曹操从华容道（位今湖北潜江县西南、沙市东）逃窜，沿途道路泥泞，老弱残兵被战马踏死者甚众。刘备，周瑜水陆并进，关羽、张飞又率奇兵突袭，使曹操大败，逃往南郡。
孙、刘联军赤壁之战胜利后，又乘胜向江陵的曹仁出击，关羽、张飞奉命率军截击敌人退路。不久，曹仁撤走。周瑜以南郡太守身份屯驻江陵，孙权以军骑将军领徐州牧，程普领江夏太守治沙羡（今湖北武汉市武昌西南）。刘备南略荆州江南四郡，武陵、长沙、桂阳、零陵四郡太守皆降附，刘备以左将军领荆州牧，移治公安（今湖北公安西北），势力大盛。
刘备得荆州后，关羽受命以荡寇将军领襄阳太守，驻守江北，张飞被委任为直都太守，后转南郡，赵云则领桂阳太守。
孙权曾打算与刘备联手西取益州（治今四川成都市），以免为曹操占先而危及荆州。刘备有意依托荆州独吞益州，拒绝了孙权，孙权不甘心，仍派水军屯夏口，刘备遂命关羽屯江陵，张飞屯秭归（今湖北秭归），诸葛亮据南郡，他自屯于孱陵（今湖北公安西），使孙权水军无法西进。
益州牧刘璋建安十六年（211年）冬，得悉曹操大将钟繇向汉中（今陕西汉中）进击张鲁的消息，十分恐惧，在张松的劝说下，派军议校尉法正前往荆州迎刘备入川助讨汉中张鲁，以免曹军藉汉中南攻益州。刘备临行前，命关羽留守荆州，总督荆州事务，关羽在荆州独当一面，他屯守荆州，对于刘备西定益州起了重要作用。
刘备入蜀后，甚得刘璋的倚重，资给甚厚，他未急于征伐汉中张鲁，却厚树恩德以收买人心。孙权建安十七年（212年）十月，因曹操来攻濡须口（今安徽巢县西），派人向刘备求救，刘备派人告知刘璋说：“曹操南攻孙权，孙氏危急，孙氏与孤本为唇齿，关羽在荆州与曹将乐进相峙，关羽兵力不足，若不立即返救关羽，必遭乐进挫克，荆州一失，形势要比汉中张鲁更令人担忧，张鲁自守之贼，不足为虑。”打算向刘璋多借兵马和军需还救关羽。刘璋仅许其部分要求，旋因张松联络刘备谋取益州事发，刘璋斩了张松，与刘备撕破脸皮，刘备便向益州各郡县发动了攻击。又调留守荆州、辅助关羽的诸葛亮、张飞、赵云等率兵溯江水而上，攻城略地，南北夹攻成都（今四川成都市）。刘璋不愿恋战，以免多伤人命，在从事中郎简雍的劝说下，出城投降。建安十九年（214年）五月，刘璋被迁至公安。刘备占领成都，刘备在占领成都前数日，原凉州（治今甘肃张家川，后移治武威）将马超由汉中张鲁向刘备投诚，使刘备更得佑助。马超勇猛善战，有韩信、黥布之勇，声威早闻于边陲。关羽听说马超来降的消息，给诸葛亮去信，特意询问马超之人才谁人可与相比？诸葛亮得信后，这样答复关羽道：
孟起兼资文武，雄烈过人，一世之杰，黥、彭之徒，当与益德并驱争先，犹未及髯之绝伦逸群也。（《三国志·蜀书·关羽传》）诸葛亮信中对马超给予高度的评价，并把他与西汉开国名将黥布、彭越相提并论。但他在信中把马超与关羽、张飞作比较时，却说与张飞难分高下，较之关羽是远不能及的。这恐怕是诸葛亮对关羽的一种小小诡计，因为诸葛亮深知关羽来信相询就有“护前”之意，马超又非刘备故旧，乍来相投，多少引起关羽心中的骄矜。
诸葛亮当然会了解到关羽对马超决无惺惺相惜之意，来信询问当然不愿听到马超远胜于他的评判。而张飞与关羽的交情，论其雄壮威猛，虽也堪称一世之雄杰，但“亚于关羽”。曹操谋臣程县等人皆称关羽、张飞乃“万人之敌”、“熊虎之将”，关羽性情与张飞大有差异，关羽“善待卒伍而骄于士大夫，（张）飞爱敬君子而不恤小人”
（《三国志·蜀书·张飞传》），他这“刚而自矜”（《三国志》卷三十六，史臣评日）的秉性，以诸葛亮之知人明察，何能不了然于胸？既然他骄于士大夫，自然不将平辈论交的一干人等放在眼中，而张飞对君子人等心怀敬意，自然喜于能胜己，诸葛亮在复信之中的一番言辞是据实而论，也正合关羽之心。何况信中言辞之间称关羽曰“髯”，而不直指其名字，虽则关羽须髯飘洒，仪美不俗，透着对关羽的几分客气了。
（《三国志·蜀书·关羽传》）关羽收到诸葛亮的复信，心中大是愉悦欢畅，特意将信给手下人传看。关羽未曾对马超心平气和。马超因得刘备厚待，平日与刘备闲谈，经常称呼刘备的字“玄德”。关羽得知后，十分恼火，请求刘备杀了他。刘备说：“人家于穷途之中来投奔我，显是信得过我，若因呼我的字而杀之，显得不是太小气了吗？让天下人怎么看呢？”没有同意关羽的提议。后经张飞“示之以礼”，马超更加对刘备尊重。关羽在刘备成就霸业中的作用越来越大，他个人的成就越强，他的骄矜之气逐渐显露出来，这无论对刘备的事业还是关羽个人的前途，都隐埋下无穷的祸患。
刘备占据益州，采纳了赵云的建议，没有把成都良田美宅分赐请将，只是赐之金银，就连谷帛等物，也令各归其主。关羽和诸葛亮、法正、张飞各得赏赐金500斤，银1000斤，钱5000万，锦1000匹，其余诸将颁赐各有所差。刘备领益州牧，诸葛亮由军师中郎将升任军师将军，其余诸元勋将领及益州旧吏归附者，皆得封拜，刘备势力逐渐壮大。孙权见刘备独吞益州，极为愤慨。很快，向刘备讨还荆州之长沙、零陵、桂阳三郡，孙、刘之间在荆州地区又展开了一番较量。孙权对于驻扎在荆州的关羽守军一直是怀有戒备之心。早在周瑜临终之际，就给孙权上疏说：“当今曹操在北、疆场未静，刘备寄寓，有似养虎，天下之事，未知始终，不可等闲视之，宜得良将以镇抚之。”鲁肃接任出镇陆口（今湖北嘉鱼西南）时，在途经寻阳（今湖北黄梅西南）时与县令吕蒙有次畅谈，也反映了这一问题。当酒酣之际，吕蒙问鲁肃：“君受重任，与关羽为邻，将用何等计略，以备不虞？”鲁肃本来对吕蒙有些轻视，顺口答：“临时施宜。”
就是说，走着瞧吧，车到山前必有路。吕蒙却认真地说：
“现在东西（指孙吴和刘备）虽为一家，但那关羽实同熊虎，极难制御，此人武艺超群，且长而好学，读《左传》略皆上口，梗亮有雄气，可谓一世人杰，他生性颇为自负，喜好陵人傲物。君与相拒，责任重大，计安可不先预定！”鲁肃听罢此言，抚着吕蒙后背说道：“吾只以为老弟但有武略，今日一席话，实知老弟学识英博，非复吴下阿蒙！”吕蒙笑着说：“士别三日，即当刮目相待。岂可总是贻笑于老兄啊！”
鲁肃镇守陆口，深知曹操系孙、刘劲敌，“祸难始抅，宜与关羽相辅协，与之同仇，不可失却与其同盟”（见《三国志·吴书·吕蒙传》）。而关羽驻江陵，居其上流，数生狐疑，至疆场纷错，鲁肃“常以欢好抚之”（《三国志·吴书·鲁肃传》）。鲁肃深谙双方同盟的重要，在刘备西取益州之前，与关羽之间一直维持着表面上和好状态。