合金鋼已有一百多年的歷史了。工業上較多地使用合金鋼材大約是在19世紀后半期。當時由于鋼的生產量和使用量不斷增大，機械制造業需要解決鋼的加工切削問題，1868年英國人馬希特(R.F.Mushet)發明了成分為2.5%Mn-7%W的自硬鋼，將切削速度提高到5米/分。隨著商業和運輸的發展,1870年在美國用鉻鋼(1.5～2.0%Cr)在密西西比河上建造了跨度為 158.5米的大橋；由于加工構件時發生困難,稍后,一些工業國家改用鎳鋼(3.5%Ni)建造大跨度的橋梁。與此同時,一些國家還將鎳鋼用于修造軍艦。隨著工程技術的發展，要求加快機械的轉動速度，1901年在西歐出現了高碳鉻滾動軸承鋼。1910年又發展出了18W-4Cr-1V型的高速工具鋼，進一步把切削速度提高到30米/分。可見合金鋼的問世和發展，是適應了社會生產力發展的要求，特別是和機械制造、交通運輸的需要分不開的。
20世紀20年代以后，由于電弧爐煉鋼法被推廣使用，為合金鋼的大量生產創造了有利條件。化學工業和動力工業的發展，又促進了合金鋼品種的擴大，于是不銹鋼和耐熱鋼在這段期間問世了。1920年德國人毛雷爾 (E.Maurer) 發明了18-8型不銹耐酸鋼，1929年在美國出現了Fe-Cr-Al電阻絲，到1939年德國在動力工業開始使用奧氏體耐熱鋼。第二次世界大*以后至60年代，主要是發展高強度鋼和超高強度鋼的時代，由于航空工業和火箭技術發展的需要，出現了許多高強度鋼和超高強度鋼新鋼種，如沉淀硬化型高強度不銹鋼和各種低合金高強度鋼等是其代表性的鋼種。60年代以后，許多冶金新技術，特別是爐外精煉技術被普遍采用，合金鋼開始向高純度、高精度和超低碳的方向發展，又出現了馬氏體時效鋼、超純鐵素體不銹鋼等新鋼種。國際上使用的有上千個合金鋼鋼號，數萬個規格，合金鋼的產量約占鋼總產量的10%，是國民經濟建設和國防建設大量使用的重要金屬材料。