St John’s é a mais antiga colônia britânica no norte da América. Segundo diz a tradição, a cidade herdou este nome quando o explorador John Cabot tornou-se o primeiro europeu a chegar até o porto da ilha, em 24 de junho de 1497. No entanto, a locação exata onde Cabot aportou ainda é discutida.
No início do século XVI, diversas expedições da França, Espanha e Portugal iam de navio anualmente para pescar nas águas da península de Avalon. Em Basque Country (região entre a França e a Espanha formada por diversas províncias) é comum acreditar que o nome St. John’s foi dado por pescadores de lá, porque a baía de St. John’s é muito similar a de Pasaia (que fica em Basque Country) onde uma das cidades de pesca também é chamada St. Johns (San Juan, em espanhol).
O mais antigo registro do uso do nome St John’s aparece em um mapa Português desenvolvido por Pedro Reinel em 1519, aparecendo traduzido como São João. Quando John Rut visitou St. John’s em 1527, ele encontrou navios portugueses no porto. Em 13 de agosto de 1527, Rut escreveu uma carta para o rei Henry sobre os achados de sua viagem à América do Norte. Esta foi a primeira carta enviada da América do Norte de que se tem conhecimento. Foi nesta época que a Water Street foi desenvolvida, fazendo dela a mais antiga rua da América do norte.
Em 5 de agosto de 1583, o Sr. Humphrey Gilbert declarou esta a primeira colônia estrangeira da Inglatera, sob título real da rainha Elizabeth I. No tempo, ele encontrou 16 navios ingleses e 20 franceses e portugueses usando o porto. No entanto, não havia população permanente, e Gilbert que se perdeu no mar durante sua viagem de volta, abortou todos seus planos de colonização.
Os primeiros colonos europeus permanentes chegaram a St. Johns em 1605. Em 1620, os pescadores do oeste da Inglaterra excluíram as outras nações da maior parte da costa leste. Em 1627, St Johns era a principal e mais importante parte do país. A população residente cresceu no século XVII, mas St Johns era de longe a maior colônia em Newfoundland quando oficiais navais ingleses começaram a fazer o censo, em 1675. Todo verão a população crescia com a chegada de pescadores. Em 1680, navios de pesca aportaram em St. John’s trazendo centenas de homens irlandeses, que foram levados para consertar barcos de pesca.
A primeira proteção significante da cidade foi erguida devido a interesses comerciais, durante a dominação temporária de St. Johns pelos holandeses Michiel e Ruyter, em junho de 1665. Não importando a identidade de quem havia construído as proteções, o povo de St. Johns estava protegido do próximo ataque holandês. O governo britânico começou a planejar fortificações por 1689, e elas foram construídas depois de o almirante francês Pierre Le Moyne ser capturado destruindo a cidade, mais tarde em 1696. Os franceses atacaram St. John’s novamente em 1705 e 1708 e devastaram a civilização com fogo.
O porto ficou fortificado principalmente no século XVIII e XIX. A batalha final da Guerra dos Sete Anos na América do norte (guerra dos franceses e indianos) foi disputada em 1762 em St Johns. Foi a Batalha de Signal Hill, na qual os franceses se renderam e entregaram St. Johns aos ingleses sob o comando de Colonel William Amherst.
O século XVIII viu mudanças maiores em Newfoundland: crescimento da populaçao, início do governo, construção de igrejas, laços comerciais mais fortes com a Amérca do Norte e desenvolvimento da pesca. St. John’s cresceu devagar, mas atualmente detém metade da renda de Newfoundland e embora tenha continuado sendo principalmente uma estação de pesca, também é uma guarnição militar, um centro governamental e, um centro comercial em expansão.
St. John’s serviu como base naval durante a Guerra Revolucionária Americana e a Guerra de 1812. O coração da cidade foi destruído por fogo diversas vezes. A mais famosa destruição foi chamada de Great Fire em 1892.
Guglielmo Marco recebeu a primeira mensagem transatlântica sem fio em St. John’s em dezembro de 1901, vinda de sua estação em Cornualha, no Canadá.
St. John’s deu início ao primeiro vôo transatlântico, por Alcock and Brown em um Bickers Vimy IV modificado, em junho de 1919, partindo de St. John’s e pousando em um pântano na Irlanda. Em julho de 2005, o vôo foi simulado por um aviador e aventureiro americano, Steve Fossett em uma réplica Vickers Vimy, saindo do Aeroporto Internacional de St Johns, que agora é uma área residencial da cidade.
Durante a segunda Guerra mundial, o porto foi usado pelos navios da Marinha Real e Marinha Real Canadense, usados como escolta ou comboio. Também foi terreno de uma grande base dos estados unidos. Esta base foi estabelecida como parte de um acordo entre Estados Unidos e reino unido.