松江刺配江州时，途经揭阳岭。李俊听闻消息，便与童家兄弟在岭下等候，却与宋江错过。宋江在李立的酒店里吃酒，却被李立用蒙汗药麻翻，险遭杀害。李俊久候不至，返回岭上寻找李立，恰遇李立要宰杀宋江，便将宋江救下。宋江到李俊家中小住，还与他结为兄弟。

宋江离开揭阳岭后，在揭阳镇打赏病大虫薛永，得罪了穆弘兄弟，被穆家兄弟率庄客追至浔阳江边。他情急之下，又上了船火儿张横的黑船。张横将船驶至江心，要夺宋江的财物，并逼他跳江。李俊恰巧撑船碰见，再一次救下宋江。宋江与张横、穆弘等人化敌为友。  

宋江在江州题反诗，遭黄文炳告发，与戴宗被判斩首，却被李逵以及梁山泊十七位头领劫法场救出。李俊与张横、穆弘等九人也驾船赶赴江州，要救宋江，却在江边白龙庙与宋江等人相遇，一行二十九人便在白龙庙聚会。而后攻打无为军，李俊协助张顺生擒黄文炳