大刀關勝出場時的官職蒲東巡檢司，是當時不起眼的下級軍官。在被醜郡馬宣贊極力舉薦攻打梁山後，他僅帶領郝思文和十幾個心腹，收拾刀馬、盔甲、行李，跟隨宣贊連夜起程，來到東京。在樑山他先後活捉了張橫和阮小七。待到宋江從大名府揮師交鋒，在看到關勝相貌後，便毫無底線地進行誇獎了一番，未交手便發出了“將軍英雄，名不虛傳”的感慨，引得林沖、秦明等人非常不滿。
原文講道：「宋江看了，恐傷關勝，便教鳴金收軍。林沖、秦明回馬陣前，說道：「正待擒捉這廝，兄長何故收軍罷戰？ 」宋江說：「賢弟，我等忠義自守，以強欺弱，非所願也。縱使陣上捉他，此人不伏，亦乃惹人恥笑。吾看關勝英勇之將，世本忠臣，乃祖為神，若得此人上山，宋江情願讓位。 ” 林沖、秦明都不喜歡。”
宋江為何見到關勝後便喜不自禁？這和當時的社會風氣有關，地位外觀決定一切，就算再有能力也是要看出身的。鼓上騷時遷在梁山立下無數戰功，最後不是還是排名第一百零七位嗎？關勝自詡“漢國功臣苗裔，三分良將玄孫”，自然在名氣上就高出一截，而“繡旗飄掛動天兵，金甲綠袍相稱。勢更是為自己加分不少，此外宋江還是不折不扣的招安派，他之所以廣招社會名流上樑山，就是為改變“匪徒”形象，為梁山“洗白”，而關勝作為武聖關羽的後人自然引起他的重視。因此宋江設計呼延灼詐降關勝，誘他劫寨，被撓鉤活捉，宋江親解其縛並拜地請罪。於是關勝便和宣贊、郝思文一同投降了樑山。請注意宋江是“拜地請罪”，可見當時宋江的神態是多麼的“妖嬈”，關勝縱使一百個不願意，也只得就範。
歸順梁山後，關勝因前來圍剿的與單廷圭、魏定國二人是舊相識，便請纓前去抵擋。他與單廷圭交戰二十餘合，詐敗逃走，誘單廷圭追趕，用拖刀計將其打落馬下，單廷圭遂降。次日再戰，關勝被魏定國的神火兵殺敗，退軍四十里。魏定國正欲回城，卻得知凌州已被李逵、鮑旭攻陷，只好逃往中陵縣。關勝又與單廷圭同入中陵縣，勸降了魏定國，至此關勝的「五人小組合」完成。
樑山大聚義時他排名第五，力壓林衝位「五虎將」之首。這個排名很多讀者認為有些過高，畢竟他和林沖、秦明、呼延灼等人在出身、官職、資歷、功勞上有一定的差距，但為何關勝能力壓群雄成為武將之首，這是有諸多方面的原因造成的。
第一：關勝是「忠義」形象的代言人。 關勝身上承載了太多的意義，不只是精神上的，還有道義上的。他身上有以武聖關羽為代表的「義」。而這種「義」從漢朝開始已經持續了千年之久，而非單為某一人、某一朝代效命的範疇，比宋江「小我的江湖義氣」或魯智深的「無我大義」都要深遠，有極高象徵意義，所以無形中他已經成為梁山信義的代表者。
第二：關勝上山後也立過一些戰功的。 兩次攻打大名府、收服單廷圭、魏定國，關勝都是主動請纓，並取得了不錯的效果，後來徵遼遇到遼國排名第一的兀顏光，梁山將領單打獨鬥都沒有拿下他，關勝帶領李應、柴進、宣贊、郝思文等人，並在花榮、張清的協助下，斬殺了這位遼國第一上將和他的軍隊。在徵方臘的戰役中他三鬥石寶，打了個平手，最後用計逼得石寶自殺，並且還在他人協助下斬殺方傑，雖然這些戰功都是在協同作戰下完成的，但是也算是啃硬骨頭的累活，其中應有他一份功勞。
第三：關勝對時局的把控很清楚。 在招安過程中，關勝沒有表現得很迫切，而是審時度勢做出了自己的判斷。關勝在招安初期曾講道：「詔書上必然寫這些唬嚇的言語，來驚我們。」這是許多人甚至包括吳用、宋江都難以認識的，對於招安的困難和艱辛，他有著清醒的頭腦騷，認為並非一朝一夕很輕鬆就能獲取並達到滿意的預期。
第四：梁山與宋江的現實需求。 宋江一直自詡“忠義”，並在梁山扯起了“替天行道”的大旗。而這些措施就需要找尋一位代理人，林沖雖然身居梁山元老，武功高強，但是有「刺配」經歷，名聲上說不過去，而其他諸如秦明、花榮雖然有過戰功，但背景資歷尚淺，所以把關勝列為武將之首既可以達到最佳的“廣告效應”，而且還容易在梁山服眾，於是關勝理所當然的成了最佳人選。
而關勝的運氣也出奇的好，在江南徵方臘後他也是僥倖活下來的那一批人，回京後他受封武節將軍，大名府正兵馬總管。在北京帶兵深得軍心，後來因醉酒失足落馬而亡。縱觀關勝這一生都與大名府淵源頗深。他從一個不起眼的蒲州巡檢的下級軍官被越級提拔，正是為了去救大名府；歸順樑山後他調轉槍頭兩打大名府，使大名府毀了半座城，百姓也深受其害，可謂是罪不可赦；最終他又成為了保衛大名府最高的軍事長官，關勝這一生興也大名府、終也大名府，真是天道輪回造化弄人。而這一切皆因他身上背負著武聖後人的光環，才成就他鮮亮的人生。
