A Fecomerciários foi fundada em 1939, fruto do movimento iniciado dois anos antes por entidades sindicais comerciárias que atuavam nas cidades de São Paulo e Santos. Mas, somente em 1940 adquiriu caráter institucional que permanece até hoje, a partir da fusão com a Federação dos Trabalhadores no Comércio do Estado de São Paulo – criada anteriormente para representar parte da categoria.
O ato de fundação contou com a presença de representantes dos Sindicatos de Catanduva, Garça, Marília, Ribeirão Preto, Santos, São Paulo e Campinas. A primeira diretoria foi integrada por Alberto Dias Rebouças, Joaquim Lopes de Mattos, Gastão Massari, Hugo Ramazzini e Alberto Fernandes (Comissão Executiva). Ary Mattos, Mariano de Laert Gomes e Waldemar A. Menezes compunham o Conselho Fiscal. O mandato era de três anos.
A Federação teve seu reconhecimento pelo então Ministério do Trabalho, Indústria e Comércio em 1942. A Carta Sindical datada de 7 de novembro daquele ano acrescentou à lista de fundadores os Sindicatos de Marília, São José dos Campos e o Sindicato dos Empregados Vendedores e Viajantes do Comércio no Estado de São Paulo.
Em 1948, a Federação passou a integrar as Juntas de Recursos da Previdência Social, os Conselhos do Sesc e Senac, as Juntas de Conciliação e Julgamento da Capital, além de indicar juízes classistas para o Tribunal Regional do Trabalho (TRT).
