三三五团是有红军血脉的老部队，其前身最早可追溯到1928年初井冈山地区成立的几支红色赤卫大队一部，1933年6月，该部前身整编为红一军团一师二团一部。
1935年11月，红军长征到达陕北后，改归新成立的红一军团二师建制。
1936年11月，二团番号改为六团。
1937年8月，红军改编为八路军时，为八路军一一五师三四三旅六八五团三营一部。
1937年末，以三营一部为骨干补充新兵后组建六八五团新二营，该六八五团新二营后沿革为三十八军一一二师三三五团。
抗日战争时期，三三五团前身部队在虎将梁兴初的指挥下，发扬了老红军的光荣传统，是令日伪顽军胆寒的“黄老虎”。
解放战争时期，该部在秀水河子歼灭战、三下江南、四平攻坚战、辽西会战、解放天津、横渡长江等战役战斗中，不怕牺牲、英勇顽强，再立殊勋。
抗美援朝战争，该团三连和五连被志愿军司令部、政治部给予记集体特等功一次。
二次战役松骨峰阻击战后，残酷的松骨峰阻击战，335团仅剩下七名战士。
作家魏巍在三三五团采访，写下了脍炙人口的著名报告文学《谁是最可爱的人》。
