Он родился в Дублине в 1940 году. Его отец переехал в Лондон и во время Второй мировой войны служил полицейским в резерве.
Гэмбон окончил школу в 15 лет и, в отличие от многих своих сверстников, не получил формального образования в театральной школе, а набирался опыта, выступая в любительских постановках.
По окончанию войны мать перевезла Гэмбона в Англию. Позднее они переехали в Кент, где в возрасте 16 лет он начал проходить инженерную практику на заводе Vickers Armstrong.
Он начал работать в любительском театре в качестве строителя декораций, а затем оказался на сцене, играя небольшие роли в театре "Юнити" и лондонском театре "Тауэр".
Свои первые профессиональные роли он получал приукрашивая свой опыт, и дебютировал в Дублине в небольшой роли Отелло.
Во вселенной Гарри Поттера он играл профессора Дамблдора. В фильмах Гэмбон начал сниматься с третьей части после кончины первого исполнителя этой роли Ричарда Харриса.