FK Pelister je nastao davne 1924. godine, prvo pod imenom Omladina, zatim Pelister i potom SK Bitolj, okupljajući neke od najtalentovanijih igrača u to vreme: Kogo Džimu, Kacujanija, Temelkovskog, Hronija i Čomu. klub je 1945. preimenovan u Pelister i 1946. osvojio je regionalnu titulu Bitolja. Iste godine spojio se sa Rabotnikom, ali je zadržao ime Pelister.
Tim je igrao prvenstveno u nižim divizijama bivše Jugoslavije i bio je prvak Makedonske republičke lige četiri puta, uz osvajanje Republičkog kupa Makedonije 1990. Prvi put su napredovali u Drugu jugoslovensku ligu 1974, što je bio veliki uspeh za tu generaciju. Ubrzo su ispali iz lige, ali su se ponovo vratili 1982. Najveći uspeh postigao je 1990/91. u Kupu Jugoslavije, kada je stigao do 1/8 finala, eliminisan je na golove u gostima od budućeg šampiona, splitskog Hajduka. Pre pada bivše Jugoslavije, Pelister je igrao poslednju sezonu Prve lige Jugoslavije završivši na 15. mestu.
Od formiranja makedonske Prve lige, Pelister je imao rani uspeh i neprekidno završava sezone u top 5. U prve dve sezone se plasirao i u finale makedonskog kupa, ali je oba puta ostao bez pehara. Pelister je 2000. godine postao prvi tim u nezavisnoj Makedoniji koji je stigao do treće faze evropskog takmičenja. Ušli su u treće kolo UEFA Intertoto kupa 2000, izgubivši ukupno sa ukupnim rezultatom 5:1 od jednog od pobednika Selte de Vigo.
Konačno, svoj prvi veliki trofej klub je stekao 2001. godine osvajanjem Kupa Makedonije 2000/01, posle čega su igrali u Kupu UEFA. Tim je 2003. pao u teška vremena uzrokovana finansijskim problemima i ispao je u niži rang takmičenja. Nekoliko godina kasnije, bivši igrači Mitko Stojkovski i Toni Micevski spasili su klub od propasti. Posle preuzimanja kluba, doneli su trenutni uspeh timom koji je osvojio titulu makedonske Druge lige 2005/06. Sledeće godine uspešno su se vratili u makedonsku Prvu ligu i plasirali se u polufinale Kupa Makedonije 2006/07. U sezoni 2007/08, klub je imao svoju najbolju sezonu do danas, završivši na 3. mestu. Još jednom su igrali Kup UEFA gde su izgubili 0-1 ukupnim rezultatom od APOEL-a.
Novi slučaj finansijskih poteškoća i loših rezultata, ponovo ih je vratio u drugu ligu tokom sezone 2011/12. Ovog puta, međutim, oslanjajući se uglavnom na mlade igrače iz Bitolja i predvođeni kapitenom Draganom Dimitrovskim, Pelister je zaslužio promociju u najvišu ligu.
Klub se usredsređuje na omladinske igrače iz bitoljske regije sa snažnim akcentom na razvoj talenata. Stoga je Pelister poznat kao rasadnik mladih i talentovanih igrača koji postižu uspehe u različitim klubovima u Makedoniji i u inostranstvu. Međutim, osim što razvija psihičke kompetencije igrača, klub je takođe fokusiran na njihov lični razvoj, negujući duh tolerancije, prijateljstva i fer-pleja u svom multikulturnom okviru.