Fillmore kilenc testvérével együtt egy erdei faházban született a New York állambeli Finger Lakes közelében, Moraviában. Édesapja Nathaniel Fillmore, édesanyja Phoebe Millard. Élete nagyobb részét azonban East Aurorában, Buffalo déli részén töltötte. Bár családja skót presbiteriánus volt, maga unitárius nézeteket vallott. Apja 14 éves korában szabónak adta a Benjamin Hungerford mellé, ahonnan végül New Hope-ba szökött, hogy jogot tanulhasson.
Ügyvédbojtárkodása idejére Buffalóba költözött, itt Asa Rice és Joseph Clary irodájában kapott munkát. Saját praxisát 1825-ben East Aurorában indította be, amihez 1834-ben egy közeli barátja Nathan K. Hall is társult, A Fillmore és Hall a keleti part egyik legnagyobb presztízsű ügyvédirodájává nőtte ki magát. A mexikói-amerikai háború alatt a New York milícia tagja volt.
1828 és 1831 között a New York-i nemzetgyűlés tagjává választották. Utolsó évében a törvényhozás elfogadott egy új csődtörvényt, mely megszüntette az adósok börtönét. Ezt több Demokrata is támogatta, de ő inkább kivárt és nem foglalt állást. Ez a feltűnéskerülés a későbbi politikai magatartásában is meghatározó lesz. A kongresszusi képviselői bukása után nem volt közkedvelt személy a Whig Pártban sem, ennek ellenére 1844-ben New York állam kormányzói posztjára jelöltette magát. Bár a választásokat nem nyerte meg, végül állami számvevőként egy évig volt hivatalban.
Taylor 1850. július 9-i váratlan halála után Fillmore lett az elnök. A hirtelen bekövetkező elnökváltás váratlan politikai változást is jelentett egyben. Fillmore-nak ugyanis más nézetei voltak, ami a rabszolgaságot illette. Taylor halála előtt Fillmore kijelentette, hogy a Szenátus elnökeként meg fogja szavazni az 1850-es kompromisszumot, kerül, amibe kerül. Az elnöki szék elfoglalásának pillanatában az egész hivatal benyújtotta felmondását. Ezt Fillmore el is fogadta, és olyan hivatalnokokat nevezett ki, akik lojálisak voltak mind hozzá, mind az általa preferált 1850-es kiegyezéshez. A Kongresszus ugyan elfogadta az egyezményt, de a köz támogatását aligha élvezte.
Külpolitikai aktivitása elsősorban az ázsiai régióra korlátozódott, ezen belül is Japánra. Az amerikai hajózás egyre érdekeltebbé vált a Japán kikötők megnyitásában, hogy új vizekre juthassanak el (Délkelet-Ázsia és Kína). Ezért gyarapítani próbálta az ázsiai szigetországgal való kereskedelmet. Ezen kívül a britek támogatását próbálta elnyerni, hogy a kínai kikötők „előnyeiből is részesüljenek az amerikai hajók”. Fillmore Matthew C. Perry hajóskapitány segítségével elérte, hogy Japán bekapcsolódjon a nyugati kereskedelembe és felhagyjon az izolacionizmussal.
Bár Fillmore elsődlegesen az ázsiai kapcsolatokat szerette volna fellendíteni, Hawaii hűséges védelmezőjeként is fellépett. III. Napóleon tervét, hogy annektálja a Hawaii szigetcsoportot, Fillmore meghiúsította és visszavonulásra késztette az alábbiakat üzenve: „az Egyesült Államok sosem fog jóváhagyni hasonló akciót.”
Fillmore elnöksége alatt Kossuth Lajos az Egyesült Államokba érkezett. 1851. december 31-én az elnök fogadta Kossuthot, aki azt akarta elérni, hogy az amerikaiak támogassák Magyarországot, ismerjék el függetlenségét. Annak ellenére, hogy ezt a német bevándorlók és sok amerikai is támogatta volna, Fillmore visszautasította az amerikai külpolitika ilyen mértékű megváltoztatását, és úgy döntött, hogy országa továbbra sem fog beavatkozni az európai ügyekbe, továbbra is semleges marad.
Fillmore egyike volt a Buffalói Orvosi Egyetem alapítóinak, melyet 1846. május 11-én hoztak létre. Elnöksége után visszatért Buffalóba és az intézmény pénzügyeinek igazgatásával foglalkozott.
1856-ra Fillmore pártja, a whigek megszűntek létezni, ugyanis a rabszolgaság miatti viták elvesztették szavazóik többségét, főleg az 1854-es Kansas-Nebraska Act-nek köszönhetően. Fillmore nem kívánt – ellentétben több politikus társával, például Abraham Lincolnnal – a Republikánusokhoz csatlakozni.
1856-ban a párt elnökjelöltjeként vágott neki a választásoknak, de csak harmadik helyet szerezte meg a leadott szavazatok 21,6%-ával.
Segédkezett a Buffalói Történeti Társaság megalapításában, 1862-től a Társaság elnöke volt. A polgárháború alatt ellenezte Abraham Lincoln döntéseit, az Újjáépítés időszakában Johnson elnököt támogatta. 1874. március 8-án stroke szövődményeibe halt bele. Minden év január 7-én a Forest Lawn Temetőben megemlékezést tartanak sírjánál.
Fotó: Europress/Getty