Issu d'une ancienne famille des Trois-Évêchés, dont une branche s'établit dans le département de
Seine-et-Oise au commencement du XIXe siècle, petit-fils, par sa mère, du Comte Boulay-de-la-Meurthe, ministre de Napoléon (voir
Robert et
Cougny), fils d'un maître de forges à
Athis-sur-Orge, Alphonse Chodron de Courcel passa sa licence en droit à Paris et son doctorat à l'Université de Bonn. Il devait devenir plus tard docteur
honoris causa de l'Université de Cambridge. Destiné de bonne heure à la carrière diplomatique, il fut attaché, en 1859, à la direction politique du Ministère des Affaires étrangères, puis envoyé à la légation de Bruxelles, enfin, en 1861, à l'ambassade de Saint-Petersbourg. Rappelé en France pour entrer au Cabinet de M. Drouyn de Lhuis, il s'inspira auprès de ce Ministre éminent et laborieux des plus solides traditions de la diplomatie française. Détaché au Service du contentieux en 1866, il fut placé par Louis de Freycinet à la tête de la direction des Affaires politiques en 1889. Il devint ensuite Conseiller d'État en service extraordinaire et Directeur des archives. Dans ces situations importantes, il se fit surtout remarquer par l'habileté et la décision avec lesquelles il mena les négociations qui aboutirent au Traité de Kasr-Saïd et à l'établissement du protectorat français en Tunisie. À la fin de 1881, Gambetta lui confia la mission de représenter la France à Berlin, avec le titre d'Ambassadeur, en remplacement du Comte de Saint-Vallier que l'état de sa santé avait obligé à abandonner ce poste. Pendant toute la durée de son ambassade dans la capitale du nouvel empire allemand, le baron de Courcel maintint sur le pied le plus favorable les relations de la France avec l'Allemagne. L'opinion qu'il sut donner de la fermeté et de la loyauté de son caractère en forçant l'estime du Gouvernement et même de Bismark avec lequel il était chargé de négocier, profita à la sécurité des deux peuples, sans qu'aucune atteinte fut portée à leur dignité réciproque. L'importance de la position qu'il avait conquise se manifesta surtout pendant la réunion de la conférence de Berlin de 1884-1885, dont il dirigea virtuellement les débats, au grand avantage des intérêts de la France dans les diverses parties du monde, et notamment en Afrique. Il y acquit un tel prestige que le roi des Belges et le roi du Portugal recoururent à sa médiation à propos de litiges relatifs à leurs possessions d'Afrique qui avait fait surgir entre elles la fondation de l'État libre du Congo.