Pemberton est né le 8 janvier 1831 à Knoxville en Géorgie. Il étudia à l'université de Macon en Géorgie et en 1850 à 19 ans, il obtient un diplôme en botanique appliquées à la médecine (thomsonienne ?). En 1855 il s'installe à Columbus et ouvre une boutique de produits médicaux (principalement des substances chimiques). Il obtient avant la Guerre de Sécession un graduate degree en pharmacie mais aucun élément ne permet de savoir où et quand dans les archives de l'État. Durant la guerre il est porté pour mort lors d'une bataille en avril 1865 où était engagé son bataillon de cavalerie.
En 1869 il devient Associé dans la Pemberton, Wilson, Taylor and Company, une société basée à Atlanta, et s'installe dans cette ville en 1870. Cette société créera de nombreuses pharmacies dans l'État. Entre 1881 et 1887 il est l'un des membres de la commission d'attribution des licences de pharmaciens de l'État de Géorgie. En 1885 il conçoit une boisson à base de vin français et de coca péruvien le French Wine Coca, peut-être inspiré de la recette du vin Mariani, un mélange de vin de Bordeaux et de feuille de coca créé par le chimiste français Angelo Mariani en 1863. Mais en 1886 la ville d'Atlanta impose la prohibition qui entraîne l'interdiction du produit. Pemberton va alors chercher à remplacer le vin de son mélange.
Le 8 mai 1886, il découvre un nouveau sirop sans alcool, qui, selon la légende, aurait été mélangé par un heureux hasard à de l'eau gazeuse, et le met en vente à la « soda fountain » de la pharmacie Jacob's. Les premiers consommateurs sont immédiatement conquis par cette nouvelle boisson. Franck Robinson, comptable de la pharmacie, trouve le nom de Coca-Cola et en dessine le premier graphisme d'après l'idée de Pemberton du double C.
Dès 1887 la prohibition est annulée et Pemberton décide de reprendre la production de son French Wine Coca laissant à son fils celle du Coca-Cola.
Le pharmacien est mort le 16 août 1888 après avoir vendu entre 1887 et mars 1888 la totalité des droits sur la marque Coca-Cola à ses anciens associés contre une royaltie de 5 cents le gallon ainsi que ses pharmacies.

Tu es belle vu de l'extérieur
Hélas je connais tout ce qui se passe à l'intérieur
C'est pas beau même assez dégoûtant
Alors ne t'étonne pas si aujourd'hui je te dis va-t'en
Va te faire voir, va faire voir ailleurs
Tes roudoudous, tout mous tout doux
Et ton postérieur
Il est beau vu de l'extérieur
Malheur à moi qui ai pénétré à l'intérieur
C'était bon ça évidemment
Mais tu sais comme moi que ces choses là n'ont qu'un temps
Va te faire voir, va te faire voir ailleurs
Tes roploplos, tout beaux tout chaud
Et ton gros pétard
Il est beau vu de l'extérieur
Qu'est-ce qui m'a pris grand Dieu d'm'aventurer à l'intérieur
C'était bon ça évidemment
Mais tu sais comme moi que ces choses-là n'ont qu'un temps