1934年10月，由於第五次反圍剿戰鬥的失利，中央紅軍被迫長徵，離開中央蘇區時，在黨內負責軍事指揮的，還是原來的“最高三人團”，他們是博古，李德，以及周恩來。
長徵初期，毛主席患了瘧疾，走不動路，在擔架上躺著，曾任紅軍總政治主任的王作物祥因為傷勢，也在擔架上躺著，「最高三人團」決定中央政治局成員一律分散到各軍團去，毛主席為此提出一個請求，他要和王作祥，張聞天在一個軍團內。
他們三人組成了小小的「中央隊三人團」。
此時的王衣祥，對博古，李德的瞎指揮非常不滿，他與毛主席談話中，多次談到這個情況，他說：「這樣下去不行，要挽救黨和紅軍的危急局面，必須糾正軍事指揮上的錯誤，改變中央的錯誤領導。
毛主席對他的話深以為然。
王作物祥就去找了時任政治局常委的張聞天，張聞天對於王作物祥提出的意見，也表示了支持，他此時對李德，博古等人的瞎指揮，也非常的不滿。
1934年12月20日，王作祥在一片橘林中與張聞天交談：“也不知道這次轉移，目標中央究竟定在什麼地方？”
張聞天嘆氣：“沒有個目標，但是這個仗這麼打下去，肯定是不行的，毛澤東同志打仗有辦法，比我們都有辦法。我們是領導不了了，還是請毛澤東同志出來吧。”
張聞天的話，正好說到了王牧祥的心坎裡，他當即表示擁護，隨後，兩人去找了周恩來，各軍團領導人彭德懷，林彪等人，他們一致同意要毛主席重新出來領導紅軍。
為此，1935年1月，當遵義城被我軍佔領後，中央決定召開政治局擴大會議，這就是歷史上有名的「遵義會議」。
在遵義會議上，博古在做報告時，將紅軍的失敗推給客觀原因，稱是敵人太過於強大，周恩來做副報告時，主動的承擔了第五次反圍剿戰鬥失敗的責任。
張聞天做的是「反對「左」傾軍事錯誤的報告。他痛斥博古，李德等人的瞎指揮，王作物祥是第一個支持毛主席的人，他旗幟鮮明的支持和擁護毛主席。
會議後，張聞天代替博古，成為了黨內「負總責」的人。
張聞天成為黨內的主要領導人後，做的最正確的事，就是決定由毛主席負責軍事工作，由毛主席，周恩來和王作物祥組成“三人軍事小組”，由他們負責紅軍的軍事行動。
張聞天表達了自己的態度，絕對支持。
遵義會議在我黨歷史上的地位是很重要的，被稱之為“生死攸關之轉折點”，多年後，毛主席回憶遵義會議時，談到：“遵義會議是一個關鍵，對中國革命的影響非常之大。
對於張聞天，毛主席曾多次和他打趣道：“洛甫，你是“明君”，開明之君。”
在許多歷史關鍵時刻，張聞天都做出了巨大的貢獻。
1935年6月，紅一方面軍與紅四方面軍在四川懋功地區會師，張國燾拒不執行中央北上的戰略方針，而是執意南下，在這個歷史緊急關頭，張聞天緊緊擁護毛主席，撤離了險境。
10月，中央紅軍到達陝北，當時陝北紅軍的領導人劉志丹，卻因肅反問題被逮捕，張聞天和毛主席得知後，非常氣憤，他們立刻下令停止逮捕，停止審訊，停止殺人。
同時，張聞天還告訴陝北省委負責人，要他們立刻將劉志丹給放了，毛主席當時在部署直羅鎮戰役，張聞天就派時任西北保衛局局長的王首道，去接管陝甘邊區保衛局局長，把陝北紅軍的肅反問題給控制住。
一個月後，張聞天主持了為劉志丹平反的會議。
1936年12月12日，張學良，楊虎城在西安發動事變，扣留了蔣介石，此事爆發後，在我黨內引起了很大的反響，有人提議應該殺掉蔣介石，但是更多的人考慮全方面原因後，並不同意。
張聞天總結來說：“我們的方針：把局部的抗日統一戰線，轉到全國性的抗日統一戰線。”
最終，我黨確定了解決西安事變的手段，就是和平解決。
在促進第二次國共合作一事上，張聞天做出了極大的貢獻。
在1938年的六屆六中全會上，正式的確定了毛主席在黨內的領導地位，而張聞天，也由此結束了自遵義會議以來，歷史交給他的重大使命。
此後，張聞天歷任合江省委書記，遼東省委書記等職，建國後，張聞天歷任駐蘇聯大使，外交部第一副部長等職。
由於張聞天已經離開了中央領導職務， 因而許多人對於他不甚了解，而建國後的張聞天也是做事非常的低調，給人一種默默無聞的感覺。
在1959年的廬山會議上，彭德懷交給了毛主席一封信，改變了會議主題，受到了批判，當時張聞天是支持彭德懷的，為此，張聞天也被批評了，會議結束後，他被撤銷了所有的職務。
後來，張聞天曾多次寫信，要求出來工作，但是都沒有得到確定的資訊。
1976年，張聞天在無錫因病去世，走完了自己傳奇的一生。
1990年是張聞天的90歲誕辰，在這一天，北京舉行了隆重的紀念活動，上海、南京等地也以各種方式紀念他，時任國家主席的楊尚昆高度評價他：「共產黨人的楷模，革命知識分子的典範。