。为防仇家杀人灭口，张作相离家出走。
光绪二十六年（1900年）前后，张作相流落沈阳，给人打短工、当瓦工，饱尝了人世的辛酸。
有一回张作相剪头，因差几文钱不够交理发钱而受窘，幸遇一好心人相助，才得走脱。
又有一回，碰上娶亲的大花轿，他凑上去看热闹，竟被当成叫花子给赶走。
张作相一生都难忘的是，这年的冬天，他往故宫跟前去看“大十面”。
他没钱买帽子，就用一件单衣裹上头防寒。在故宫外边巡逻的清兵见其衣衫褴褛，不容分说，就用枪托把他痛打一顿，又把他撵走。
这件事对他的刺激特别大。深觉世道不平，遂产生铤而走险出人头地的念头。
光绪二十七年（1901年），张作相联络几个好友趁夜闯入仇家，打死杀害其族兄的仇人后，张作相率20人到新民府八角台村投奔张作霖。
在北镇桑林子一带组织地方保险队。他和张作霖并非一家，更不是亲兄弟，只是名字偶然巧合，使张作霖很高兴，于是结成盟兄弟。
在作战中，张作相曾于枪林弹雨中只身救张作霖出重围。
因此两人结下患难之情，形同手足。后张作霖部在与金寿山部争斗中受挫，败走八角台（今台安县城）投奔张景惠的预警保安队，并被推为首领。
民国成立后，张作霖部改编为奉天陆军27师，张作相任该师炮兵团长，晋授陆军少将。
1901年，曾与张作霖投清盛京将军增祺，任巡防队第一营管带。
1903年被官府正式收编，张作霖被任为新民府游击马队管带，张作相为哨官。
1907年，按年龄为序，马龙潭、吴俊升、孙烈臣、张景惠、冯德麟、汤玉麟、张作霖、张作相8人结拜为盟兄弟。
盛京（沈阳）将军赵尔巽，将全省旧军编成八路巡防队，张作霖任前路统领，张作相为骑兵一营管带。
清宣统三年（1911年），从东三省讲武堂毕业。
1915年后，历任陆军第二十七师炮兵团团长、旅长、代理师长。
1916年，张作霖任奉天督军兼省长，张作相任二十七师步兵旅长。
1917年，代任奉天陆军第27师步兵第54旅旅长，并代理奉天陆军第27师师长。
1918年段祺瑞任命张作霖为东三省巡阅使，张作相任巡阅使署总参谋长、参议，兼任二十七师师长和卫队旅旅
…。。