Kooli mõtte algatajateks olid Holstre-Pulleritsu külakoolmeister Jaan Adamson ja Tarvastu kihelkonna koolmeister Hans Wühner. Kooli alustamiseks algatati annetuste kogumine, mille käigus saadi kokku üle 100 000 rubla. Annetuste suurused ulatusid 1 kopikast kuni 100 rublani. Eesti Aleksandrikooli loomist on peetud üheks suuremaks eestlaste ärkamisaegseks ettevõtmiseks. Kool asutati 1888. aastal Põltsamaa lähedal Kaarlimõisas. Esialgselt oli see vene õppekeelega kool. 1906. aastal seoses rahvarahutustega kool suleti ja selle direktorit Jaan Raamotit ähvardas mahalaskmine. Aleksandrikooli õigusliku järglasena alustas 1914. aastal Kõo mõisas kõrgemajärguline alampõllutöökool, mis 1917. aastal muudeti põllutöökeskkooliks. 1920. aastal tuuakse kool üle Olustvere mõisa, kus see jätkab tegevust Eesti Aleksandri põllutöökeskkoolina. 1938. aastal nimetati kool ümber põllumajandustehnikumiks. Saksa ajal 1941–1944 kandis kool kõrgema põllumajanduskooli nime. 1944. aasta sügisel nimetatakse kool taas põllumajandustehnikumiks. 1964. aastal ühendati Olustvere õppemajandiga Kalevi kolhoos ja õppeasutus hakkas kandma Olustvere Sovhoostehnikumi nime. 1992. aastal lahutati koolist taas sovhoosiüksused ja kool hakkas kandma kõrgema põllumajanduskooli nimetust. Alates 2000. aastast kannab õppeasutus nime Olustvere teenindus- ja maamajanduskool. Õppetalu, kus õpilased saavad teha praktilisi töid loodi 1994. aastal. 2010. aastal lisandusid põllumajanduslikele erialadele veel toiduainete töötlemise erialad.
