Na een studie marketing en Sociologie in Groningen verhuisde hij naar de regio Utrecht waar hij al snel gemeenteraadslid werd van de VVD. Voor zijn eigen bedrijf werkte en woonde hij een aantal jaar in het buitenland maar keerde terug voor zijn carrière in de politiek. Zijlstra verworf vooral bekendheid tijdens zijn periode als staatssecretaris van Onderwijs, Cultuur en Wetenschap in het kabinet-Rutte I. Zijn bezuinigingsplannen voor onderwijs en cultuur zorgde voor veel commotie.
Naast politiek leider was Zijlstra jarenlang eigenaar van bedrijf, is hij getrouwd en vader van een zoon.