1931年初，他剛從蘇聯回來，不久前被派往蘇聯工作，先後擔任中央革命軍委總參謀長、紅軍參謀長、中國工農紅軍學校校長、政委。
雖然***比楊成武大17歲，是革命前輩，但從兩人相遇的那一刻起，就給對方留下了深刻的印象，在隨後的漫長的革命歲月裡，兩人結下了深厚的友誼。
尤其是那個特殊的歷史時期，楊成武曾經在***的直接領導下工作過。
在此期間，他按照葉帥的指示精神，積極投身於與“四人幫”的鬥爭中，這在很大程度上保證了軍隊的穩定。
1976年4月，“田***事變”後，時任總參謀長的鄧被免去所有職務。
在這種情況下，葉帥親自指示時任總參謀長第一副總參謀長、負責總參謀部日常工作的楊成武，將主要精力放在保證軍隊穩定，防止一些人插手軍隊的混亂上。 只要他穩住軍隊，那些人就掀不起什麼風波。
為此，楊成武不敢有絲毫懈怠，根據葉帥的指示，親自做了許多有針對性的安排和部署，極大地保證了軍隊的穩定。
但是，就當時的複雜情況而言，要真正把這項工作做好並不容易，尤其是當時發生的一系列事件，給楊成武的工作帶來了很大的困難。
首先，最典型的就是楊成武這個今年7月發生的“唐山大**”，一方面要調兵救災，另一方面要時刻聽從葉帥的指示，牢牢掌握調員指揮部隊的權利， 並避免這些人藉此機會干涉。
而楊成武並沒有辜負葉帥的高期望，在整個抗震救災過程中，總參謀部一共調動了十多萬官兵，期間沒有給那些人任何插手的機會。
其次，今年9月***死後，“四人幫”加緊了篡黨奪權的步伐，而葉帥忙於喪葬工作，楊成武就要負責穩軍。
好在楊成武、葉帥、聶帥都住在西山，楊成武的住處離葉帥的住處比較近，隨時可以向葉帥匯報。
不過，當時住在西山的並不是他們一人，還有乙個重要的人物，他就是王洪文。
王洪文的到來給他們的工作帶來了極大的不便，於是葉帥只好搬到了玉泉山的新公寓。 之後，葉帥也搬到了景山後街居住。
兩位退伍軍人的住所相距甚遠，來回奔波不便，但很多工作需要面試。 所以在這種情況下，楊成武就成了兩位老元帥的“聯絡人”。
之後，每隔一兩天，葉帥和聶帥就讓楊成武匯報情況，轉達兩位老元帥的意見，讓他們在這個特殊時期保持比較順暢的溝通。
在此期間，兩位老兵通過楊成武傳達了粉碎“四人幫”的問題，並表示要贏得華老的支援。 因此，也可以說楊成武在這場歷史鬥爭中發揮了重要作用。
但讓葉帥放心的還是軍隊，他多次吩咐楊成武，要管好軍隊，不要犯錯。
對此，楊成武還專門主持了兩次總參謀部黨委常委會會議，他在講話中反覆強調：
“這是乙個非凡的戰備時期，在任何單位或任何地區使用班或排（離開軍營或駐地）必須得到總參謀部的批准; 公司的使用必須向**軍事委員會報告批准; 並且不得執行其職責以外的任何任務。 必須進一步重申並嚴格執行這一條，否則將受到軍隊的懲罰。 ”
“四人幫”被碾壓的前一天，也就是十月五日，葉帥把楊成武叫到住處，讓他告訴聶帥：既然一切準備就緒，今天就可以開始演戲了。
不過，在行動正式開始之前，葉帥還是擔心部隊的態度，如果鏈條在這個關鍵時刻掉落，後果將難以想象。
於是，葉帥問楊成武：“軍隊怎麼樣了”？
楊成武還沒來得及回答，葉帥就繼續說道：“......你要時刻在紅位面前，要掌握陸軍、空軍、海防三大部，只要軍隊沒有問題，你就不會害怕！ ”
對此，楊成武很有信心，他立刻說道：請放心，葉帥乙個士兵都動不了。
10月6日之後，一切都恢復了平靜！
楊成武將軍從1954年10月到1980年初辭職，長期在總參謀部工作，任職20多年。
一切恢復平靜後，葉帥也建議他繼續在這個崗位上工作，並說：“這樣更有利於軍隊的革命化和現代化，有利於軍隊的穩定和團結，更有利於國家安全。 這可見葉帥對楊成武將軍的信任和尊重。
2004年2月14日，楊成武將軍在北京逝世，享年90歲。