Kota ini pernah menjadi bagian dari Lithuania sejak awal abad ke-15 hingga tahun 1514. Sebuah kremlin (benteng) yang mengelilingi kota dibangun antara tahun 1597–1602 untuk menghadang serangan bangsa Polandia dan Lithuania, dan kini merupakan kremlin terbesar di Rusia.