L'explorateur italien Giovanni da Verrazzano (1485-1528), au service du Royaume de France, l'appelle « ARCADIE » du nom de la région antique grecque considérée comme un paradis terrestre.
Une autre explication est donnée selon laquelle le nom d'Acadie serait la déformation de l'expression des Indiens Mi'kmaq « AK-A-DE » qui signifie « la place de ... ». Les Acadiens et les Indiens Mi'kmaq cohabitaient avec bonheur tout en faisant le commerce des peaux et fourrures pour les vêtements. Les Mi'kmaq ont d'ailleurs toujours entretenu de bonnes relations avec les Français, encouragés à se rapprocher à l'origine par leur opposition commune aux Anglais.
Au fil du temps on relève différentes orthographes : Terres de l'Accadie ou Acadye et enfin Acadie.

Le drapeau acadien, tel qu'il est actuellement, a été défini lors de la deuxième Convention Nationale du 15 août 1884 à Miscouche sur l'Ile-du-Prince-Edouard.

Au cours des décennies qui a suivi la Convention de Miscouche, certains Acadiens ont contesté le choix du tricolore étoilé. Ils trouvaient que ce drapeau était trop semblable à celui de la France révolutionnaire. Ils auraient préféré voir un drapeau telle la fleur de lys flotter en Acadie. Ce dernier leur était plus sympathique car il représentait les valeurs traditionnelles, cléricales et monarchiques d'avant la Révolution Française. Malgré cette contestation dans certains quartiers acadiens de la fin du XIXe siècle, le drapeau tel que choisi lors de la Convention de Miscouche est devenu, au cours des années, le plus puissant symbole d'identité culturelle du peuple acadien.

Le développement des pêcheries amène les Européens à établir des postes sur les côtes de Terre-Neuve. Dès 1558, les Anglais fondent un premier poste à Trinity, sur la péninsule de Bonavista et prennent officiellement possession du port de St. John's en 1583. Les Français s'établiront également sur les côtes de Terre-Neuve pour servir d'appui à leurs activités de pêche saisonnière. Les efforts pour établir des postes le long des côtes de cette partie de l'Amérique du Nord sont surtout déployés par la France.

En 1604, une année après que le roi de France, Henri IV, lui en eut donné l'autorisation, Pierre de Gua, sieur de Monts, fonde la première véritable colonie française en Amérique du Nord, désignée sous le nom d'« Acadie ». C'est donc en mars 1604 que de Monts quitte le port du Havre, en France, pour l'Acadie, amenant avec lui environ 80 hommes, dont Samuel de Champlain, qui fondera l'établissement de Québec quelques années plus tard. Mais de ces premiers colons, au moins 35 ne survivront pas jusqu'au printemps suivant.

Les survivants quittent alors la petite île Sainte-Croix (à l'embouchure de la rivière Sainte-Croix, aujourd'hui dans l'Etat du Maine) et traversent la baie de Fundy pour s'installer à l'embouchure de la rivière appelée de nos jours Annapolis, fondant l'établissement de Port-Royal situé en Nouvelle-Ecosse. Ce site, pourvu d'un port sécuritaire, a l'avantage d'occuper les terres d'une bande Mi'kmaq très réceptive à la présence des Français. Cependant, au printemps de 1607, Henri IV annule le monopole de la traite des fourrures accordé à de Monts. Ce décret du roi amène donc l'abandon provisoire de Port-Royal, qui renaîtra quelque temps après grâce, notamment, aux efforts du baron de Poutrincourt.

Mais le maintien d'une présence française dans cette partie de l'Atlantique Nord ne sera jamais chose facile. Sa situation géographique, isolée de la France et de la Nouvelle-France, la rend particulièrement vulnérable aux attaques de la Grande-Bretagne et de ses colonies, qui commencent à voir le jour plus au sud. Ainsi, pendant plus d'un siècle, les Acadiens furent maintes fois les premières victimes de la rivalité des Empires français et britannique.

Cependant, durant cette période troublée, la petite colonie continue à croître et construit de nouveaux établissements sur le pourtour de la baie de Fundy, dont le plus important est Grand-Pré sur le Minas Basin. Le succès de cette expansion tient à ce que les colons ont réussi à développer d'ingénieux systèmes de digues et d'aboiteaux qui permettent d'assécher d'excellentes terres en les protégeant des marées de la baie de Fundy.

Par le traité d'Utrecht de 1713, l'Acadie passe définitivement sous la coupe de la Grande-Bretagne. D'origine française (principalement du Poitou), les Acadiens subissent des pressions de la part des autorités coloniales désireuses de leur faire prêter un serment d'allégeance inconditionnel à la Grande-Bretagne. Devant la neutralité affichée des Acadiens, le Conseil législatif de la Nouvelle-Ecosse ordonne, en 1755, que soient déportés tous les Acadiens.

Ainsi, de 1755 jusqu'en 1762, la plupart des villages acadiens sont détruits, les maisons et les églises incendiées et le bétail est confisqué. Environ la moitié des 14 000 Acadiens est mise à bord de bateaux et déportée vers les ports de la Côte Est américaine, de l'Angleterre ou de la France. Les autres réussissent à s'enfuir et trouvent refuge dans les bois. La Déportation a dispersé les Acadiens et, dans bien des cas, a divisé des familles.

Certains iront élire domicile sur la côte Est et Nord-Est du Nouveau-Brunswick. D'autres prendront racine au Québec ou en Louisiane, où ils seront les ancêtres des « Cajuns », et ailleurs en Amérique ou en Europe. Lorsque la guerre franco-britannique se termine par la signature du traité de Paris en 1763, l'ancienne Acadie n'existe plus. La France ne gardera de son empire en Amérique du Nord que les deux petites îles de St-Pierre et Miquelon ainsi que des droits de pêche sur les côtes de Terre-Neuve.