A história da Farsul tem suas sementes plantadas bem antes de 24 de maio de 1927, data de sua fundação. A Sociedade Agrícola Pastoril do Rio Grande do Sul foi a primeira agremiação ruralista criada em solo gaúcho. Fundada em 12 de outubro de 1898, foi ela quem abriu caminho para as federações rurais. Já em abril de 1899, a sociedade realizava a 1ª Exposição Rural de Pelotas. Em 1901, Porto Alegre sediava a primeira exposição estadual, promovida pela Secretaria de Obras Públicas. Estas feiras foram seguidas por várias outras pelo interior do Rio Grande.

Em 1905 começa surgir a ideia de criar uma federação que unisse as associações rurais existentes. Em uma assembleia de criadores de Porto Alegre, no dia 20 de setembro de 1909, foi fundada a Federação das Associações do Rio Grande do Sul. A primeira mostra exclusivamente agropastoril aconteceu, também em Porto Alegre, em 1909, intitulada Exposição Agropecuária, no local onde mais tarde seria construído o Parque de Exposições do Menino Deus, hoje sede da Secretaria da Agricultura, Pecuária e Desenvolvimento Rural do Rio Grande do Sul. O evento contou com a participação de 20 municípios e cabanhas do Uruguai e da Argentina. 

Apesar de existir a federação desde 1909, paralelamente, surgiu a União dos Criadores, fundada em 2 de outubro de 1912. A existência de duas associações com fins semelhantes levou a classe rural a pensar em uma fusão, efetivada em 1921. Nesta nova fase, a entidade recebeu o nome de Federação Rural do Rio Grande do Sul, cuja diretoria era escolhida pelas associações rurais federadas.  

 A federação, no entanto, foi extinta em 1923. Em 30 de agosto de 1926, era criada, na capital, a Associação de Criadores. No mesmo ano de fundação, a associação definiu a realização de uma nova edição do Congresso Rural. No dia 18 de abril de 1927, foi enviada uma circular convidando os criadores gaúchos a reunirem-se em Porto Alegre, no Teatro São Pedro, em maio de 1927. Na pauta do encontro estava a criação da Federação Rural.

No dia 24 de maio de 1927, na sessão inaugural do 2º Congresso Rural, acontece a criação da Farsul sob o nome inicial de Federação das Associações Rurais do Rio Grande do Sul (FAR). A proposta foi aprovada por aclamação pelos representantes das 26 associações presentes. Os estatutos da FAR foram aprovados no dia 27 de maio de 1927, na quarta sessão do Congresso Rural. Na mesma sessão, por aclamação, foi eleita a primeira diretoria, cujo presidente era Ricardo Pereira Machado.

A sessão foi presidida por Antônio Augusto Borges de Medeiros, então presidente do Rio Grande. Em seu discurso, falou sobre a crise enfrentada pelo Estado e pelos países do Prata e conclamou os criadores a se unirem: "Associai-vos, organizai uma direção central, criai os mecanismos necessários à defesa de vossa indústria. Individualmente e isolados continuareis a ser fracos e impotentes, mas organizados e unidos pela solidariedade e cooperação sereis uma força invencível". O congresso foi encerrado no dia 29 de maio e, desde o início, uma grande bandeira estava levantada: a defesa dos interesses da agropecuária rio-grandense.

Na época, o Estado passava por uma grave crise na pecuária, especialmente pelo contrabando de carne e charque do Uruguai e da Argentina. Os criadores enfrentavam muitos problemas e precisavam debater questões como a matança de vacas, código rural, o cavalo e suas aptidões, o transporte de gado em pé, estradas e fretes, a carne congelada nos mercados nacionais, estatística rural, indústria de laticínios, a introdução do zebu no Estado, exposição de reprodutores em Porto Alegre, carneiros e seus derivados e indenizações. Também estava na pauta a implantação de institutos de crédito rural (até então inexistentes no Brasil).

Apenas um ano após a fundação, a Federação das Associações Rurais do Rio Grande do Sul (FAR) já lançava a pedra fundamental para a construção da sede própria. Veio, então, a construção do prédio chamado Casa Rural. Pecuaristas de todo o Estado compraram ações da Casa Rural para levantar fundos que custeassem a obra. Assinaram a ata de lançamento da pedra fundamental 108 pessoas. Até a inauguração do novo prédio,em 1935, a FAR funcionou em salas do Palacete Chaves, na rua General Câmara. A sede foi inaugurada pelo presidente Getúlio Vargas. 

Com o fim da Segunda Guerra Mundial, a América do Sul - especialmente a Argentina, o Uruguai e o Brasil - passou a ser uma importante opção no mercado consumidor europeu, exigindo um crescimento nos excedentes de produção. A FAR teve participação direta no processo de conscientização do ruralista gaúcho. Mesmo antes do fim da guerra, no início de 1944, Brasil, Argentina e Uruguai exportavam seus estoques de carne para os países aliados, por meio do Ministério da Alimentação Britânico. 

A FAR providenciou, junto ao governo federal, a isenção de direitos e taxas aduaneiras de reprodutores vindos do Uruguai e da Argentina, visando ao melhoramento genético do rebanho gaúcho. Outro importante tema dos anos de 1950 foi a política de preços mínimos para o gado gordo a ser abatido para industrialização. Já os anos 1960 foram marcados pela turbulência política no Brasil. Começava a reforma agrária. Foram feitas muitas desapropriações sem estudos aprofundados e consistentes. A Federação formou um grupo de trabalho integrado por professores universitários e ruralistas para uma avaliação mais profunda do tema. Os ruralistas foram, então, convocados para a Concentração Rural de Santa Maria, da qual resultou a Carta de Princípios de Santa Maria. 

Em 1965, a entidade deixa de se chamar Federação das Associações Rurais do Rio Grande do Sul (FAR) e passa a ser Federação da Agricultura do Estado (Farsul), em função da concessão, pelo Ministério do Trabalho e Previdência Social, da Carta Sindical. O processo que definiu que a federação seria também a representante sindical dos produtores foi conturbado. A posição de que a Farsul seria também sindicato venceu com a diferença de um voto.

Os anos 70, apesar da explosão da produção da soja, foram difíceis para o campo. Era a época do confisco de carne, das altas taxas para a exportação do produto com osso. Uma marca desta fase é a integração com o setor agrícola. Até o início dos anos 70, a Federação era, quase que exclusivamente, voltada à pecuária. Neste período, arrozeiros passam a fazer parte da entidade. Intensifica-se o intercâmbio com demais entidades ligadas ao setor primário e também com universidades gaúchas. 

Com o crescimento, a velha sede havia se tornado pequena para atender às necessidades de uma grande Federação. Em 25 de abril de 1978 foi lançada a pedra fundamental da nova sede. Em 25 de setembro de 1981 iniciaram-se as atividades no novo prédio. A inauguração oficial ocorreria em 10 de março de 1982.

Os temores de reforma agrária continuaram nos anos 1980. Quando José Sarney assumiu a presidência, o quadro político ficou ainda mais tenso, principalmente pelos acordos políticos e a falta de entrosamento do próprio governo. A edição do 1º Plano Nacional de Reforma Agrária estabeleceu o pânico no meio rural. As invasões de terras se multiplicavam. Surge a Frente Ampla da Agropecuária Brasileira, formada por entidades nacionais e algumas federações estaduais, especialmente do Rio Grande do Sul, Paraná e Minas Gerais. 

O início da década de 1990 foi marcado pela posse do primeiro presidente eleito pelo voto direto após os anos de regime militar. No campo, os anos seguintes seriam de intensificação dos conflitos e o país veria o crescimento do Movimento dos Trabalhadores Sem-Terra (MST). O movimento promoveria a invasão de diversas propriedades rurais, sem fazer distinção entre terras produtivas e improdutivas. A posição da Farsul se mantém clara: a defesa dos produtores rurais e o repúdio a qualquer forma de violência. A reforma agrária deve ser planejada e organizada pelas autoridades competentes.

A luta para erradicar do rebanho gaúcho a febre aftosa também seria um desafio para a Farsul. Em 1992, o estado registrava o primeiro semestre completo sem focos da febre. No entanto, esta seria apenas uma das batalhas vencidas. Em 1994 criava-se o Organismo de Cooperação Técnica (OCT) para erradicação da febre aftosa, presidido pela Farsul. Após passar os anos seguintes sem casos da doença, o Rio Grande do Sul recebe, ao lado de Santa Catarina, o título de Zona Livre de Aftosa com vacinação. O Escritório de Epizootias (OIE) aprovou a resolução na França, em maio de 1998. No mesmo ano, a Federação passa a administrar a Expointer em convênio firmado com o Governo do Estado. 

Em julho de 2000 são identificados focos de febre aftosa no município de Joia. Os casos colocam em cheque a condição do Rio Grande do Sul de Zona Livre de Aftosa sem vacinação, que estava prestes a ser confirmada. Muitas famílias acabam tendo seus rebanhos atingidos e a Farsul desenvolve, em parceria com o Senar/RS e com o Sebrae, projeto que leva apoio a estas famílias. Em 2001, a vacinação seria retomada no estado após surgimento de focos na região da fronteira. A Federação se posiciona contra a utilização do "rifle sanitário" e se mantém fiel aos interesses do produtor rural gaúcho. 

A renegociação das dívidas do meio rural foi a grande luta da Farsul nas últimas décadas. O setor mobilizou-se fortemente pelo fim da transferência de resultados às instituições financeiras, organizando um "caminhonaço" em Brasília (1999), com a participação de 15 mil produtores. Não seria o último grande protesto na capital federal: os produtores ainda fariam a Cavalgada da Integração Nacional na Defesa da Produção Rural (2001) e o tratoraço (2005) para se fazerem ouvidos pelos políticos.  

Em 2017, ao completar 90 anos, a Farsul inaugurou a duplicação de sua sede. A obra de ampliação foi concluída em menos de um ano. Com o novo prédio, a sede passou para 7.000 metros quadrados possibilitando a integração de equipes do Sistema Farsul que operavam em outros endereços.