正成为了起义军中一员战将，他自称为总管，在关中接连招抚盗贼义军，不久后就有了数万手下。
李渊渡河进入关中时，也得知了女儿闹出的动静，于是他便将关中众将全部加以封赏，马三宝便被封为了左光禄大夫。
后来秦王李世民率领大军攻略渭北时，马三宝亲自带人到竹林宫迎接，并跟随李世民一起攻下了长安。
唐朝建立以后，马三宝被任命为太子监门率，先是在北山击破刘拔真所部稽胡叛军，后又跟随李世民一起参加了第二次浅水原之战，成功平定了横行陇西的薛仁杲。
武德六年（623年），吐谷浑入侵大唐边境的洮州、岷州，马三宝再次跟随故主柴绍一起前往抵御。
这一战，唐军打得异常艰难，刚开始就被吐谷浑人重重围困在山谷之中，吐谷浑人居高临下进行射击，一时之间唐军死伤无数。
关键时刻柴绍用出了「美人计」，他在战场上摆开酒席，然后让两个美女在旁边翩然起舞，自己则一边听着乐曲，一边看着舞蹈。
这一来吐谷浑人反而愣住了，他们不知道柴绍到底想要干什么，不由得停止射击，好奇向下观望。
柴绍抓准时机，偷偷派精锐部队潜出，绕到吐谷浑人后方进行突袭，最终吐谷浑人在毫无防备下被唐军打得大败。