Árván, szegény rokonoknál nevelkedett. A bánsági kincstári bányászatnál kezdett, mint kisegítő, de iskolázottságáról semmilyen dokumentuma nem volt. Tehetsége kitűnvén, hivatali főnöke a bécsi bányászati hivatalhoz küldte szolgálatra, ahonnan két évi hivatalnokoskodás után a selmeci akadémiára mehetett kincstári ösztöndíjjal. De középiskolai előtanulmányok nélkül, csak feltételesen iratkozhatott be, s majd félévi, évvégi vizsgák döntötték el további sorsát: mindenből kitűnő lett. 1862-től az aninai (Bánát) vasércbányánál mérnök, 1864-ben az oravicai parafingyár vegyésze, 1865-ben a ruszkabányai kohó mérnöke.
Mint kezdo mérnök a gyakorlati problémák megoldásán dolgozott, és már az elso kísérleteivel felkeltette a szakma érdeklodését. Tapasztatait publikációk formájában tette közzé, ezáltal külföldön is közismertek lettek felismerései. Már fiatalon vasgyár, nagyolvasztó tervezésével bízták meg. 1865-ben már szabadalmaztatta elso jelentosebb találmányát a nyersvasnak kéntol, foszfortól és réztol való megtisztítására, amelyet Szászországban a gyakorlatban meg is valósított. Nagyon fiatalon kinevezték a kisgarami vasgyár segédigazgatójának, majd megbízták a kaláni vasgyár felépítésével.
Kerpely ekkor már – a magyar, német, román és szlovák mellett – ismerte az angol és a francia nyelvet is.
1869-ben, mindössze harminckét évesen a selmecbányai akadémia vaskohászati tanszékének lett vezetoje. 1881-1896 között a magyar állami vasgyárak központi igazgatói tisztét töltötte be.
1880-ban szabadalmaztatta a mész- és magnéziakötésű tégla gyártási eljárását, 1884-ben új rendszerű kettős regeneratív kavarókemencéjét.
Az elméleti oktatás mellett nagy jelentoséget tulajdonított a gyakorlatnak. Ezért diákjait is elvitte tanulmányutakra, olyan üzemekbe, ahová más alkalommal nemigen juthattak be. Új tantárgyként vezette be a vasgyárak telepítését és a tüzeléstant. Oktatói tevékenysége oly magas szintre emelte a vaskohászat szakmai elismertségét, hogy 1872-ben az akadémia átszervezésekor külön tanszéket alakítottak vezetésével.
Szakirodalmi munkássága nem merült ki a német nyelvű publikációkban. 1871-től 1881-ig szerkesztette a Bányászati és Kohászati Lapokat, tankönyvet írt, és számos újító gondolatot fogalmazott meg más folyóiratokban is.
1873-74-ben adta ki két kötetben A vaskohászat gyakorlati és elméleti kézikönyve c. munkáját, de jelentos A magyar vasipar jövoje c. könyve is. Tanulmányait magyar és német nyelvű szakfolyóiratokban közölte.
Selmeci állását feladva, újra az állami szolgálatba állt. A kincstári vasgyárak élén az elhanyagolt üzemekbol a magánkézben lévo ipartelepeket is megelozo korszerű vasműveket fejlesztett.
Ferenc József elismerésül számos kitüntetéssel jutalmazta: vaskoronarend keresztjét, Krassai lovagi címet, Lipótrend lovagkeresztjét adományozta érdemeiért.
1877-ben a Magyar Tudományos Akadémia levelezo tagjának választotta.

Nevéhez fűződik a Vajdahunyadi Kohászati Üzemek, a Piski és Vajdahunyad közötti drótkötélpálya, a kudzsiri fémipari üzem megalapítása, a ronicz-beganyíresdi, oravicabányai, csiklovabányai, stájeraninai, resicabányai, boksánbányai és más fémipari létesítmények fejlesztése.
Az akadémia laboratóriumait nemzetközi színvonalra fejleszti, ahol - a műegyetemet megelőzve - megindulnak a hazai metallográfiai kutatások (az első mikroszkópos fémvizsgálatok).
Kerpely Antal volt a magyar vaskohászati szakirodalom és a magyar nyelvű vaskohászati oktatás megteremtoje.
Gyermekei közül kilenc élte túl és három kohász nemzedék követte nyomdokait. A legkiemelkedobb ifj. Kerpely Antal volt, aki gázgenerátorával világhírnévre tett szert. Az Ő igazgatósága alatt a Donawitzi Vasmű a Monarchia legnagyobb vaskohászati üzemévé fejlodött.