El 1926 viatjà a París, ciutat on conegué l'obra de Le Corbusier, i el 1929 s'incorporà al seu estudi sense cobrar, on hi col·laborà diversos anys. El 1930 començà a projectar els primers edificis, que reflectien ja el color blanc i la profusió per la llum, caràcter eminentment mediterrani. Edificis de clara tendència racionalista, que eludeixen qualsevol ornament o element innecessari. D'aquest període destaquen el Dispensari Antituberculós i l'edifici d'habitatges del carrer de Muntaner, 342, ambdós a Barcelona. En aquest edifici, acabat el 1931, hi va viure fins al 1939, any que que s'exilià a París, on va conèixer Moncha, filla de la portera, amb qui es va casar.
L'any 1929 prengué part en la constitució del Grup d'Artistes i Tècnics Catalans per al Progrés de l'Arquitectura Contemporània (GATCPAC), amb l'objectiu de promoure les bases de l'arquitectura moderna al país. Durant aquest període va publicar la revista AC. Documentos de Actividad Contemporánea i va assistir a les primeres reunions del CIAM (Congrés Internacional d'Arquitectura Moderna) que va presidir entre 1947 i 1956. Durant aquests, anys va dur a terme projectes d'àmbit molt divers, destaquen la casa de vacances al Garraf (1935), el dispensari central de Barcelona (1935) i el Pla Director de la Ciutat de Barcelona o Pla Macià (1933-1935, conjuntament amb el GATCPAC i Le Corbusier però no realitzat).
En finalitzar la Guerra Civil, va ser represaliat pel govern franquista i inhabilitat per a la pràctica de l'exercici professional. L'any 1939 es va exiliar a Nova York, on creà, juntament amb altres arquitectes el Town Planning Associates, estudi d'arquitectura que projectà diversos plans urbanístics entre els quals, un pla pilot per a la ciutat de l'Havana.
El 1952 va ocupar una plaça anual de Professor Visitant a la Universitat Yale.[2] L'any següent va ser designat degà de l'Escola de Disseny de Harvard, càrrec que va exercir fins al 1969, i on va iniciar el primer programa del món en planejament urbà; integrava els programes d'arquitectura, urbanisme, paisatgisme i plantejament.
L'any 1955 va fundar amb diversos socis un nou despatx d'arquitectura a Cambridge, Massachusetts, i el 1958 es va associar amb Huson Jackson i Ronald Gourley. l'estudi a projectar edificis de renom important, entre ells la Fundació Maeght (1959-1964), l'Estudi Miró (1975), el Holyoke Centre a Cambridge (1958-1965), el Harvard Science Center (1969-1972), un campus de la Universitat de Boston (1960-1965): el complex, a la riba del riu Charles, consisteix en: la torre de Dret Pappas Law Tower (escoles de Dret i de Pedagogia); la Biblioteca Mugar; una sala de calderes (Central Boiler Plant i el casal d'estudiants George Sherman Student Union.[3][4][5][6] També a Boston, va fer dues edificis de residències d'estudiants per a la universitat de MIT, la segona amb la firma de Sert, Jackson & Associates.[7][8]
L'any 1961 va demanar a le Corbusier que realitzés l'encàrrec del Carpenter Center for the Visual Arts, l'únic que l'arquitecte va realitzar als Estats Units d'Amèrica.
↑Breu biografia de SertArxivat 2008-05-09 a Wayback Machine. sota "Josep Lluis Sert, 1902-1983: The Josep Lluis Sert Collection", a la plana de Harvard University Graduate School of Design, Francis Loeb Library, Special Collections. (anglès) [Consulta: 25 febrer 2014]
↑"BU School of Law receives $18 million gift, announces Sumner M. Redstone Building"Arxivat 2016-03-03 a Wayback Machine., WTBU News, 13 setembre 2012. (anglès) [Consulta: 25 febrer 2014]. Conté la llista dels 5 edificis de Sert: "Cambridge-based architectural firm Bruner/Cott will design the building. Its materials, color, and exterior detailing will be 'calibrated to respect and complement the architecture of the five original Jose Lluis Sert buildings: Law Tower, Central Boiler Plant, Pappas Law Library, Mugar Library, and George Sherman Student Union,' according to the School of Law's website."
↑«Medalla de Oro de la Arquitectura» (en castellà). Consejo Superior de los Colegios de Arquitectos de España. Arxivat de l'original el 2016-11-04. [Consulta: 7 desembre 2016].
«Josep Lluis Sert / Un somni nòmada (2013)]». Alè Produccions, Oberon Cinematogràfica, La Perifèrica Produccions, IFFI Productions i Televisió Espanyola, en col·laboració amb la Fundació Joan Miró de Barcelona, i amb el suport de Televisió de Catalunya, 04-04-2013.