Zichy Károly gróf
(lébény)szentmiklósi birtokos és
Festetich Julianna grófnő gyermeke. Jogi tanulmányokat folytatott.
Megyénkben kezdte közigazgatási pályáját. 1842-ben már táblabíróvá választották,
1843-ban főispánná nevezték ki Moson megye élére.
Széchenyi István itteni követté választása 1847 októberében neki volt köszönhető.
1848 decemberéig maradt hivatalában, azonban ennek gyakorlásában akadályozták az események. Nem vett részt a harcokban, de az abszolutizmust se támogatta.
1861-ben vette újra át a megye irányítását. Megfestette
Wéber Henrikkel az elhalálozott
Széchenyi István gróf arcképét a megye számára.
Létrehozta - 3 ezer forint felajánlásával - a Mosonymegyei Gazdasági Egyletet (1860).
Kétszáz magyar kötetből álló könyvtárat adományozott a megyének. Rengeteget tett a megye és a politikai elit újjászervezéséért is.
Részt vett a Mosonymegyei Casino Egylet megszervezésében 1860-1861-ben. A bécsi kormány makacssága miatt 1862-ben lemondott.
1865-ben harmadszor választották meg Moson megye főispánjának, 1867-ben köszönt le. Háromnál többször senki sem volt Moson megye főispánja.
A főrendi házban folytatta a politizálást. A felekezet-nélküli iskolák kérdésében ellenezte az Eötvös-féle koncepciót és a megye katolikus iskoláit segélyezte.
Fülesen (Sopron megye) és
Rajkán a leánynevelés javítása céljából apácazárdákat alapított. 1866-ban valóságos titkos belső tanácsosi címet kapott, királyi kamarás, a francia Becsületrend
és a svéd királyi Vasa-érdemrend tulajdonosa volt. A
fülesi várkápolnában temették el.