S-a născut în temniţă, în jurul anului 70, la Efes, deoarece părinţii săi fuseseră închişi pentru că nu lepădaseră credinţa în Hristos. La botez a primit numele Pangratie. Din scrierile Sfântului Irineu aflăm că Sf. Policarp a fost ucenic al Sfântului Apostol Ioan. Înainte ca părinţii lui să fie martirizaţi, este dat în grija Calistei, o femeie bogată şi credincioasă. Potrivit tradiţiei, Pangratie va da săracilor tot ce va găsi în hambarele acesteia. Pentru ca mama sa adoptivă să nu fie tulburată de milostenia sa, se va ruga lui Dumnezeu şi, în urma rugăciunii, hambarele s-au umplut la loc. Datorită acestei minuni, Calista i-a schimbat numele din Pangratie în Policarp, adică „acela cu multe roade“.
Sfântul Policarp, înainte de a fi martirizat, călătoreşte la Roma,la Papa Anicet, cu scopul de a rezolva problema datei pascale, în vremea aceea existând diferenţe legate de sărbătorirea Paştilor: unii serbau Învierea Domnului pe data de 14 Nisan (aprilie), indiferent în ce zi a săptămânii cădea, deci în acelaşi timp cu Paştile evreiesc, iar alţii în prima duminică după 14 Nisan. Deşi nu s-a ajuns la un acord, cei doi au rămas uniţi. Cu câteva zile înainte de a fi martirizat, a avut o vedenie: a văzut perna pe care dormea arsă în foc. Aşa a înţeles că avea să fie aruncat în foc. Osemintele sale cele „mai cinstite decât pietrele preţioase şi mai scumpe decât aurul“ au fost luate de creştini. Sfintele moaşte ale Sfântului Policarp sunt în Franţa, pentru că au fost luate de latini în timpul cruciadelor, iar o particică se păstrează în Mănăstirea Zografu din Muntele Athos.