Parte della Gallia Belgica e abitata in origine da diverse popolazioni celtiche, tra i quali gli ambiani, dai quali deriverebbe il nome di Amiens, la Piccardia entrò nel Regno di Francia con il trattato di Verdun dell'843. La Piccardia storica, in realtà, corrispondeva solo in parte agli attuali confini amministrativi della regione, il termine entrò in uso nel XIII secolo e divenne una provincia francese nel XV secolo dall'unione di precedenti territori tra cui il Vermandois e il Ponthieu. L'attuale dipartimento della Somme, il nord dell'Aisne ed anche il dipartimento di Pas-de-Calais (Boulonais), oggi nella regione Nord-Pas-de-Calais, costituivano la Piccardia. Al contrario la parte meridionale del dipartimento dell'Aisne, così come la maggior parte del territorio dell'Oise, facevano parte della provincia dell'Île-de-France.
Fino al 1667 la Piccardia rappresentava il confine settentrionale del Regno di Francia. In quell'anno i francesi conquistarono Lilla.
Vista la sua posizione geografica la Piccardia fu al centro di tragici scontri militari durante la Prima e la Seconda Guerra Mondiale.
L'etimologia del termine Piccardia non è geografica né storica. La parola apparve nel 1248, derivata dalla parola "picard", vale a dire "piocheur", "scavatore". I parigini chiamavano "scavatori" tutti gli agricoltori che vivevano a nord della zona ricoperta da foreste del Senlisis e del Valois (dove i paesani erano boscaioli), ed a nord venivano chiamati "Picard" tutti quelli che non parlavano fiammingo. Arras, Boulogne-sur-Mer, Calais, Tournai erano città "piccarde" ed i loro studenti formarono a Parigi e a Orléans la "Nazione Piccarda".
L'insurrezione contadina in Piccardia del 1358[2] ha dato luogo ad un termine, la jacquerie, che ha assunto il significato di ribellione rurale finalizzata ad un riscatto attraverso conflitti che, in questo caso, si «acuirono in seguito alla guerra dei Cent'anni, (...) che portò a un drastico aumento delle imposte e offrì ai signori feudali l'occasione di incrementare i propri redditi grazie alle imprese militari».[3] Il termine jaquerie[4] continuò ad essere familiare sui media in seguito alla rivolta degli agricoltori francesi «contro la Comunità europea e gli odiati americani».[5] L'immagine della Piccardia tendente al conflitto è un luogo comune, d'altra parte, che emerge anche in letteratura, come nel romanzo di Pierre de MarivauxIl villan rifatto, dove un personaggio di secondo piano non manca di esprimersi in modo colorito: «io faccio presto a prender fuoco; neppure i preti m'hanno potuto guarire, perché sono della Piccardia».[6]