更始元年(公元23年)，一度割据天水的军阀隗嚣回到天水，又召集部众，重整旧时功业，自称西州上将军。逃避战乱的三辅士大夫，大都归附隗嚣。隗嚣热诚接待，像平民似地相互结交。他任命平陵人范逡为师友，前凉州刺史河内人郑兴为祭酒，茂陵人申屠刚、杜林为治书，马援为绥德将军。一时威名震动西方州郡，闻名于崤山以东。
马援年轻时，由于家庭贫困，辞别哥哥马况，到北地种田放牧。他常对宾客们说：“大丈夫立志，穷困的时候应该更坚定，年老的时候应当更雄壮。”后来，他拥有数千头牲畜，数万斛粮食。不久又感叹说：“增加财富，可贵之处在于能够赈济施舍，否则，不过是守财奴罢了!”于是把全部家产分送给亲友故旧。马援得知隗嚣礼贤下士，就去投奔他。隗嚣十分敬重马援，和他一起筹划决策。
建武四年(公元28 年)，隗嚣派马援前往成都打探公孙述的情况。马援和公孙述是同乡，关系很好，他以为到达之后，公孙述必然像平时那样和他握手言欢。然而公孙述让许多卫士排列在殿阶下，戒备森严，随后请马援进入。行过礼过后，公孙述让马援出宫，到宾馆休息。公孙述在宗庙中召集百官，用绣着鸾鸟的旗帜、仪仗队骑士作前导，开路清道，实行警戒，礼仪祭品和百官的阵容十分盛大。公孙述准备封马援侯爵，任命他为大将军。马援带领的宾客们都乐意留下来。马援向他们解释说：“天下胜负没有分出，公孙述不懂得热切地迎接有才干的人与他共谋大事，却注重繁琐的细节，这种人怎么能够长久留住天下有志之士呢?”因此告辞返回，对隗嚣说：“公孙述不过是井底之蛙而已，却妄自尊大!我们不如一心跟东方的刘秀往来。”
于是隗嚣派马援带着给刘秀的信到洛阳去。马援到后，由中黄门引进。刘秀在宣德殿南面的廊屋里，只戴着头巾，坐在那里，笑迎马援。刘秀对马援说：“您在两个皇帝之间游历，今天见到您，让人十分高兴。”马援点头推让，于是说：“现在的天下，不但君主选择臣子，臣子也选择君主。我和公孙述是同县的人，从小关系很好。我前些时候到成都，公孙述让武士持戟立在殿阶下，随后才接见我。我今天远道而来，您怎么知道我不是刺客或奸恶的人，就这样平易地接见我!”刘秀又笑着说：“您不是刺客，只是说客而已。”马援说：“天下大局，反复不定，盗用帝王称号的人难计其数。今天我看见您恢宏大度，和高祖一样，才知道您是真正的天子。”
刘秀派人手持符节，送马援回到陇右。隗嚣和马援同睡同起，询问东方的情况。马援说：“先前到朝廷，皇上接见我几十次。每次接见，都在一起闲谈，从晚上一直到天亮。他的聪明才智、勇气谋略，不是他人所能匹敌的。并且他心胸开阔，坦率真诚，没有隐藏，豁达而注重大节，和汉高祖很相像。他博读经书，政事处理得条理清楚， 前世的帝王没有人可以比得上他。”隗嚣说：“你认为他和汉高祖相比，怎么样?”马援说：“比不上。高祖没有什么可以不可以，而现在皇上喜好处理政务，行动符合规矩，又不喜欢喝酒。”隗嚣说：“要像你说的那样，皇上反而比高祖更高明了!”
