Store Merløse var oprindelig en landsby.

Efter anlæggelsen af stationen ved Merløse landsby syd for Store Taastrup kirkeby voksede snart en mindre stationsby op omkring stationen, sammensmeltet med landsbyen men klart adskilt fra Store Taastrup . Store Merløse havde ved afslutningen af Første Verdenskrig hotel (Merløse hotel, bygget 1916 som afløser for Merløse kro på den modsatte side af vejen), bageri og konditori, afholdshotel, brugsforening (med foderstofhandel, oprettet 1915), købmandsforretninger (oprettet henholdsvis 1887, 1910 og 1916), manufakturhandel (fra 1911), dampmølle og savværk, maskinfabrik der var beskæftiget med landbrugsmaskiner (oprettet 1903), cykelhandler (oprettet 1913), andelsmejeri (grundlagt 1887), barber (fra 1902), handels- og håndværkerforening.

Omkring 1950 havde Store Merløse teknisk skole (oprettet 1932), sognebibliotek (fra 1925), missionshus, kommunekontor (fra 1942), alderdomshjem (tidligere fattiggård), bankfilial, kro, afholdshotel, andelsmejeri (opført 1937), jernbanestation, telegraf- og postekspedition samt telefoncentral.

Byen lå før 1. januar 2007 i Tølløse Kommune.