宋江刺配江州时，在揭阳岭与李俊结拜，却在揭阳镇得罪了穆弘兄弟，被穆家兄弟率庄客追至浔阳江边，慌乱之下上了张横的黑船。

张横不顾穆弘的呼唤，撑船驶离，却在宋江庆幸之时突然翻脸，要夺取财物，并逼宋江跳江。李俊恰巧撑船碰见，将宋江救下。

张横这才得知宋江身份，忙拜倒赔罪，并托宋江捎信给弟弟张顺。穆弘也与宋江化敌为友。

宋江到江州后，依靠张横的书信，结识了张顺。

后来，宋江醉酒题反诗，遭黄文炳告发，与戴宗被判斩首，却被李逵以及梁山泊十七位头领劫法场救出。张横与李俊、穆弘等人也驾船赶赴江州，要营救宋江，却在江边白龙庙与宋江等人相遇，后参与白龙庙聚义。

大闹无为军后，张横随宋江入伙梁山。