Sans que l ‘on sache exactement pourquoi, pourquoi, Norbert s ‘intéresse très tôt à l’architecture, et commence sa carrière comme contremaître chez les architectes Latrobe, où il passe plusieurs années. C‘est une belle référence. Cet architecte, d’origine Britannique, a notamment construit plusieurs bâtiments dans le Nord des États-Unis, et on lui doit, en particulier, une modification importante à la Maison-Blanche à Washington, la fameuse rotonde. Le portrait de Latrobe se trouvait, il y a quelques années, dans le Bureau Ovale.
Alors que Latrobe a déjà une réputation et un savoir faire important qu ‘ils ont développé dans le Nord des États-Unis, il décède, et son fils reçoit peu après une lettre de Norbert Soulié, avec condoléances et remerciements pour l ‘apprentissage qu ‘il a reçu. C’est à partir de ce moment que la coopération s ‘intensifie. Norbert a un vrai savoir faire d’architecte et met en chantier plusieurs constructions dans le Vieux Carré, de 1815 à 1832. Contrairement à ses frères qui n ‘ont qu ‘une expérience de terrain pour construire des maisons sans étage, il semble que Norbert se soit spécialisé dans les constructions d’envergure, y compris dans le style néo-grec.
La Nouvelle-Orléans a longtemps gardé de nombreux souvenirs des constructions et maisons Soulié sur Royal Street, Burgundy Street, Dumaine, et à Trémé. En parallèle aux constructions de maisons diverses et bâtiments à 2 étages, comme le 231 Rampart street où ils ont habité, il développe aussitôt ses investissements immobiliers sur place, de façon bien plus intensive que ses jeunes frères, Bernard et Albin. On trouve également sa trace de son travail (facture d’honoraires en comptabilité) à la Plantation Evergreen. Norbert et son cousin germain Edmond Rillieux (un fils de Vincent, et donc le jeune frère de Norbert Rillieux) obtiennent un contrat relatif au traitement des eaux usées de la ville. Mais un groupe d’architectes blancs, dirigé par un architecte , . Forstall, (une vieille famille de Louisiane) va faire échouer ce projet, au motif qu ‘il est proposé par des gens de couleur.
Après l ‘échec de ce projet, Edmond Rillieux disparaît totalement de la Nouvelle-Orléans, avant de réapparaître quelques années plus tard. Norbert décide de rentrer en France vers 1831-1832, et s ‘installe à Paris, après avoir fait un grand « tour » d’ Europe, l’un des premiers touristes de longue durée en Europe ! A partir de ce moment, il pilote « à distance » ses investissements et envoie ses instructions détaillées à ses jeunes frères Bernard et Albin.
Norbert s’intéresse depuis son jeune âge à l ‘ architecture et devient apprenti chez Henry Latrobe ( ), fils de Benjamin Latrobe, l’aîné étant l’architecte chargé de reconstruire le Capitole américain à Washington DC après la guerre de 1812. Quand Henry Latrobe décède à cause de la fièvre jaune en 1817, Norbert Soulie envoie à Benjamin une lettre de condoléances, en exprimant son chagrin, et ajoutant que «il devait sa connaissance des arts à Latrobe». Cela est clair car une grande partie du travail de Soulié porte l’appréciation des éléments néo-classiques pour lesquels les Latrobe étaient connus. Son éducation à l’application d’éléments classiques dans l’architecture contemporaine a été développée lors de la rénovation majeure d’Evergreen Plantation, sous John Carver et François Correjolles. En 1830, il construit une maison située au 509, rue Burgundy qui combine un cottage créole typique avec des éléments français tels qu’un toit en croupe et une lucarne, et des éléments néo-classiques plus récents tels que des portes grecques et des dentelures le long d’une corniche profonde. La maison qui appartenait à sa tante Constance Vivant et est maintenant divisée en condos.
Quelques années plus tard, Norbert a créé les maisons en rangée Soulié dans le bloc 200 de la rue North Rampart. Les maisons en rangée de Soulié étaient un alignement de quatre bâtiments en briques de trois étages qui étaient identiques, de style néo-grec adoré par Norbert. Les caractéristiques les plus caractéristiques de ce style sont bien sûr les dentelures le long de la corniche, les lourdes fenêtres carrées lintelées et le contour de la porte de la clé grecque. Le temps n’a pas été bon pour ces bâtiments et il n’en reste qu’un. La maison du 231, rue North Rampart a été modifiée et a perdu bon nombre de ses caractéristiques d’origine telles que les balcons ouvragés et moulés.
Selon l’architecture de la Nouvelle-Orléans, cette maison a un statut spécial en tant que dernière maison de ville restante d’une époque où cette rue était principalement résidentielle, et non une artère commerciale qu’elle est aujourd’hui. Une fois ce projet terminé, Norbert et son cousin germain Edmond Rillieux gagnent l’appel d ‘offres pour travailler sur l’usine de raffinerie de sucre qui sera située en aval du quartier français. Les plans ont dû être mis de côté lorsque Edmond a quitté la ville.
Une dispute entre un investisseur, Forstall, et Vincent Rillieux (qui a peut-être finalement conduit à la mort de Vincent décédé pour des causes