杨林登场于《说唐》第一回，北周以杨林的哥哥杨忠为元帅，杨林为行军都总管，率领六十万大军攻打北齐。杨林率军攻破济南，杀死济南守将秦琼的父亲秦彝，并收缴了秦彝的盔甲。 班师回朝后，杨忠被封为隋国公，不久杨忠去世，其子杨坚继承了隋国公的爵位，他仰仗杨林之力，夺取北周政权，建立大隋，封杨林为靠山王。 秦彝的妹夫罗艺，为给秦彝报仇，率军攻打冀州，杨林统兵五万前往抵挡，先锋四太保张开被罗艺重伤，七太保纪曾被罗艺杀死，最终杨林出马，将罗艺劝降。 杨林班师时路过登州，见登州有海寇作乱，杨林便前往征缴，海寇逃走后，杨林见登州人烟稀少，城池崩坏，就上表杨坚，请求就地镇守，并对登州进行治理。