Nhà tù Sơn La nằm trên đồi Khau Cả thuộc địa phận tổ 9, phường Tô Hiệu, thành phố Sơn La.
Nhà tù Sơn La do thực dân Pháp xây dựng năm 1908 với diện tích ban đầu là 500 m2, chủ yếu để giam cầm tù thường phạm. Năm 1930, trước phong trào đấu tranh giành độc lập dân tộc của cách mạng Việt Nam ngày càng dâng cao, thực dân Pháp đã mở rộng Nhà tù Sơn La thêm 1.500 m2 và bắt đầu giam chính trị phạm. Năm 1940, thực dân Pháp cho xây dựng một trại giam có diện tích 170m với ý định giam tù nhân nữ, nhưng âm mưu này đã không thực hiện được. Như vậy, qua 3 lần xây dựng và mở rộng, Nhà tù Sơn La có tổng diện tích là 2.170 m2. Đặc biệt, trong quá trình mở rộng nhà tù, thực dân Pháp còn cho xây dựng một dãy xà lim ngầm nằm sâu dưới lòng đất 3m, được che giấu bởi khu nhà bếp ở trên. Hệ thống xà lim ngầm gồm 5 phòng giam cá nhân và 2 phòng giam tập thể, trong đó có 1 xả lim tối.
Nhà tù Sơn La được xây dựng kiên cố, tường xây bằng đá lẫn gạch, mái lợp tôi. Giường nằm cho tù nhân xây bằng đá, mặt láng xi măng, mặt ngoài gắn hệ thông cùm chân dọc theo chiều dài của sàn. Với thiết kế như vậy, những đợt gió Lào của vùng Tây Bắc với cái nóng như đổ lửa vào mùa hè cùng những đợt sương muối giá rét vào mùa đông đã khiển các loại bệnh phát sinh và lây lan nhanh chóng. Nhà tù Sơn La được ví như “chiếc quan tài nắp mở, chỉ chờ tù nhân tắt thở đem chôn”.
Từ năm 1930 đến năm 1945, thực dân Pháp đã đày lên Nhà tù Sơn La 14 đoàn tù chính trị với tổng số 1.013 lượt tù nhân, trong đó có rất nhiều đồng chí là Ủy viên Trung ương, Xứ ủy, Thành ủy và nhiều cán bộ cốt cán của Đảng. Trực diện với tội ác của kẻ thù, hơn bao giờ hết, khí tiết của những người cộng sản đã tỏa sáng và thắp lên ngọn lửa đấu tranh cách mạng khắp núi rừng Tây Bắc, góp phần rất lớn vào sự thành công của cuộc Tổng khởi nghĩa Tháng Tám năm 1945. Nơi đây đã trở thành một trường học cách mạng vĩ đại, đào tạo, bồi dưỡng cho Đảng và cách mạng Việt Nam những chiến sĩ Cộng sản xuất sắc tiêu biểu như: Tô Hiệu, Lê Duẩn, Trường Chinh, Nguyễn Lương Bằng, Văn Tiến Dũng, Lê Đức Thọ, Nguyễn Văn Trân, Lê Thanh Nghị, Trần Quốc Hoàng đồng chí trung kiến khác.
Hòa bình lập lại, Bảo tàng tỉnh Sơn La đã tiến hành ba lần tu bổ, tôn tạo di tích Nhà tù vào các năm 1980, 1994, 2009 – 2010.
Di tích lịch sử Nhà tù Sơn La còn có 2 điểm là: cây đa Bản Hẹo, địa điểm liên lạc giữa Chi bộ Nhà tù Sơn La với Trung ương Đảng và Nghĩa trang liệt sĩ Nhà tù Sơn La (Nghĩa trang Gốc Ôi) là nơi yên nghỉ của hơn 60 anh hùng, liệt sĩ đã hy sinh tại Nhà tù Sơn La.
Di tích lịch sử Nhà tù Sơn La đã trở thành một địa chỉ đỏ trong công tác giáo dục truyền thống cách mạng cho thế hệ các dân tộc Sơn La và nhân dân cả nước.
Nhà tù Sơn La được xếp hạng quốc gia năm 1962 và Di tích lịch sử quốc gia đặc biệt vào ngày 31-12-2014.
