시마노프스키는 현재의 우크라이나 체르카시 지역의 티모시우카(Тимошівка, 폴란드어로는 티모슈프카Tymoszówka라고 한다)에서 태어났다. 시마노프스키 가문은 원래 바르샤바를 위시한 마조프셰 지역의 유서깊은 귀족 가문이었으나, 1794년 러시아와 프러시아에 대항에 일어났던 코시치우슈코 봉기가 실패하면서 봉기에 참여했던 고조할아버지 도미니크(Dominik)가 바르샤바에서 추방되어 키이우를 중심으로 하는 대우크라이나(Велика Україна 또는 나드니프랸시치나(Наддніпрянщина)로 강제 이주 당한다. 이 후 할아버지 펠릭스(Feliks)대에 시마노프스키가 태어난 체르카시 지역 티모시우카로 이주해 정착해 살다가 폴란드가 독립한 이후인 1920년대 중반에서야 온 가족이 바르샤바로 돌아올 수 있었다.
어린 시절에는 피아노와 첼로를 연주했던 아버지에게 음악을 배웠고(카롤의 형 펠릭스는 피아니스트, 여동생 스타니스와바는 소프라노, 막내 여동생 조피아는 카롤의 작품에 가사를 썼다.) 1892년에 구스타프 네우하우스 엘리자벳그라드 음악원, 1901년부터는 바르샤바 음악원에서 공부했다. 1926년부터 1930년까지 바르샤바 음악원 원장을 지냈다. 폴란드에서 음악 활동의 기회가 크지 않기 때문에 유럽, 북아프리카, 미국 등을 여행했다. 시마노프스키에게 여행은 음악적인 영감을 많이 받게 해준 것은 물론이고 《에페보스》(Efebos)라는 제목의 소설도 쓰게 만들었다. 소설은 현재 소실됐다. 그는 스위스에서 결핵으로 사망했다.
시마노프스키의 가장 많이 알려진 곡으로는 오페라 《로게르 왕 Król Roger》, 《슬픔의 성모Stabat Mater》, 네 개의 교향곡(합창단과 독주 성악가들이 협연하는 제 3번 《밤의 노래》와 피아노 독주가 협연하는 제4번 《신포니아 콘체르탄테》가 있다), 두 개의 바이올린 협주곡, 바이올린과 피아노를 위 한 세 곡의 《신화》가 있다. 그는 많은 피아노곡을 남겼는데, 《마스크Maski》, 《연습곡》 작품번호 4번, 《Métopes》, 그리고 많은 마주르카를 남겼다. 제임스 조이스의 시에 붙인 것을 포함한 많은 가곡과 오페라 《하기트 Hagith》, 발레 《하르나시에 Harnasie》도 썼다.