New Castle fut fondée en 1651 par Pieter Stuyvesant lorsque le directeur-général de Nouvelle-Néerlande démantela le Fort Nassau pour relocaliser la garnison néerlandaise en aval des établissements suédois afin de commander l'accès naval sur le fleuve Delaware. Le poste militaire devint le centre administratif de la région lorsque les Néerlandais annexèrent la Nouvelle-Suède en 1655. La ville d'Amsterdam se chargea dès l'année suivante de développer la colonie en tant que seigneurie privée appartenant à la municipalité hollandaise à même les terres de la Compagnie néerlandaise des Indes occidentales. Elle fut renommée La Nouvelle-Amstel. En 1664, les Anglais conquirent la Nouvelle-Néerlande et renommèrent la ville «New Castle». Puis en 1673-74, les Néerlandais reprirent momentanément la colonie avant qu'elle soit recédée définitivement à l'Angleterre en 1674.