Quá trình hình thành đơn vị hành chính Bắc Yên gắn liền với những diễn tiến trong lịch sử dân tộc, lịch sử vùng Tây Bắc cũng như lịch sử tỉnh Sơn La. Từ thời Nhà nước Văn Lang – Âu Lạc đến trước khi thực dân Pháp xâm lược, phần lớn địa bàn Bắc Yên gồm, Phiêng Ban, Song Pe, Chim Vàn, Pắc Ngà, Tà Xùa, Làng Chếu, Xím Vàng, Hang Chú thuộc huyện Phù Yên (có thời kỳ là Phù Hoa).
Sau khi xâm lược, bình định, thiết lập chế độ cai trị Việt Nam, thực dân Pháp lập các Đạo quan binh ở miền thượng du Tây Bắc và Đông Bắc Bắc Kỳ. Thời gian đầu, phần lớn địa bàn Bắc Yên thuộc châu Phù Yên của tỉnh Sơn La (Sơn La nằm trong địa hạt Đạo quan binh thứ 4). Ngày 27-2-1892, thực dân Pháp thành lập Tiểu quân khu Vạn Bú gồm 2 phủ Vạn Yên và Sơn La, địa bàn Bắc Yên thuộc châu Phù Yên, phủ Vạn Yên. Ngày 23-8-1904, tỉnh Vạn Bú đổi thành tỉnh Sơn La. Từ đây đến trước Cách mạng tháng Tám năm 1945, địa bàn Bắc Yên ngày nay thuộc 2 châu: Phù Yên và Châu Yên (Yên Châu) của tỉnh Sơn La.
Châu Phù Yên thời Pháp thuộc có 5 mường phìa: Quang Huy (Mường Tấc), Tường Phong (Mường Muống), Tân Phong, Gia Phù và Tường Phù (Mường Pùa).
Châu Yên thời kỳ Pháp thuộc có các mường phìa Sách Lâm, mường phìa Chiềng Đông….
____________________
Thời Văn Lang, Vua Hùng chia nước thành 15 Bộ, Phù Yên thuộc bộ Tân Hưng. Thời Bắc thuộc, vào đời Đông Hán, bộ Tân Hưng được đổi thành quận Tân Hưng. Trong thời kỳ văn minh Đại Việt, triều đại nhà Lý (thế kỷ XI), Phù Yên thuộc đất Châu Đằng; đến nhà Trần (Thế kỷ XIII), Phù Yên thuộc đạo Đà Giang. Tháng 4 năm Đinh Sửu (1397), Hồ Quý Ly đổi đạo Đà Giang thành trấn Thiên Hưng. Thế kỷ thứ XV, sau khi đánh thắng quân Minh, Triều đình nhà Lê thành lập xứ Hưng Hóa (hay còn gọi Hưng Hóa thừa tuyên), đổi Phù Yên thành Phù Hoa (mảnh đất đẹp và trù phú) thuộc Hưng Hóa thừa tuyên. Năm 1463, nhà Lê đổi xứ thành trấn. Châu Phù Hoa thuộc phủ Gia Hưngcủa trấn Hưng Hóa. Châu Phù Hoa lúc đó có 3 tổng là: Quang Huy (Mường Tấc), Tường Phù (Mường Pùa), Tường Phong (Mường Muống).Thế kỷ XIX, để nhất thể hoá các đơn vị hành chính trong cả nước, năm 1831 – 1832, nhà Nguyễn thực hiện một công cuộc cải cách hành chính lớn, đổi các dinh, trấn thành tỉnh.
Sự phản ánh về các khu vực, các đơn vị hành chính của Yên Châu thời kỳ Pháp thuộc qua các tài liệu không thống nhất, có tài liệu gọi là các phìa mường, có tài liệu gọi theo đơn vị hành chính theo phân cấp quản lý của chính quyền Trung ương. Theo sách Đổng Khánh địa dư chí (1886-1888), Châu Yên có một tổng Sách Lâm, 3 xã: Sách Lâm, Trịnh Nho, Bác Nhĩ. Theo Danh mục các làng xã Bắc Kỳ của Ngô Vi Liễn, xuất bản năm 1928, Châu Yên có 3 xã là Chiềng Sàng, Mường Khoa, Mường Vạt.
Các xã hiện nay của Bắc Yên như Song Pe, Chim Vàn, Pắc Ngà thời kỳ Pháp thuộc đều thuộc phìa mường Gia Phù (châu Phù Yên); các xã Phiêng Ban, Hồng Ngài, bốn xã vùng cao Khu 99 thuộc phìa mường Tường Phù (châu Phù Yên).
Các xã Chiềng Sại, Phiêng Côn, Tạ Khoa (có cả Mường Khoa hiện nay) thời kỳ Pháp thuộc đều thuộc phìa mường Sách Lâm (Yên Châu); một số bản của xã Tạ Khoa và xã Mường Khoa lúc bấy giờ thuộc phìa mường Chiềng Đông (Yên Châu).
Sau Cách mạng Tháng Tám 1945 thành công, ngày 25-3-1948, Chính phủ ban hành Sắc lệnh số 148/SL, bãi bỏ các phủ, châu, quận, lập cấp hành chính mới là cấp huyện. Địa bàn Bắc Yên ngày nay là vùng đất thuộc huyện Phù Yên và huyện Yên Châu của tỉnh Sơn La.
Sau chiến dịch giải phóng Tây Bắc (1952), khi vùng tả ngạn sông Đà được giải phóng, thực hiện quyết định của Ủy Ban kháng chiến hành chính tỉnh Sơn La, khu đầu cầu Suối Sập và Khu 99 của hai xã Gia Phù và Tường Phù huyện Phù Yên được tách làm ba xã mới là Ngũ Lão, Quyết Thắng, Vinh Quang.
Xã Ngũ Lão gồm: Song Pe, Phiêng Ban (bao gồm cả Thị Trấn và Hồng Ngài ngày nay).
Xã Quyết Thắng gồm: Chim Vàn, Pắc Ngà.
Xã Vinh Quang gồm: Tà Xùa (có cả xã Háng Đồng ngày nay), Làng Chếu, Xím Vàng, Hang Chú.
Những năm 1953- 1954, theo quyết định của Chính phủ, tỉnh Sơn La chia các xã lớn thành các xã nhỏ. Tháng 9-1953, toàn huyện Phù Yên được chia thành 31 xã và 1 thị trấn Vạn Yên. Ba xã: Ngũ Lão, Quyết Thắng, Vinh Quang tách thành 8 xã, gồm: Phiêng Ban, Song Pe, Pắc Ngà, Chim Vàn, Tà Xùa, Làng Chếu, Xím Vàng, Hang Chú.
Tháng 5-1955, thực hiện Sắc lệnh số 230/SL, ngày 29-4-1954 của Chủ tịch nước, Khu tự trị Thái – Mèo được thành lập; trong Khu tự trị không có đơn vị hành chính cấp tỉnh, các huyện đổi gọi thành Châu. Tám xã Phiêng Ban, Song Pe, Pắc Ngà, Chim Vàn, Tà Xùa, Làng Chếu, Xím Vàng, Hang Chú thuộc châu Phù Yên trực thuộc Khu tự trị Thái -Mèo. Ba xã Chiềng Sại, Chiềng Sinh (Phiêng Côn), Tạ Khoa thuộc Yên Châu trực thuộc Khu tự trị Thái –Mèo.
Ngày 27-10-1962, Khu tự trị Thái – Mèo đổi gọi thành Khu tự trị Tây Bắc; đồng thời tái lập 2 tỉnh Sơn La, Lai Châu và thành lập tỉnh mới Nghĩa Lộ, đổi gọi châu thành huyện. Tám xã Phiêng Ban, Song Pe, Pắc Ngà, Chim Vàn, Tà Xùa, Làng Chếu, Xím Vàng, Hang Chú thuộc huyện Phù Yên, tỉnh Nghĩa Lộ. Ba xã Chiềng Sại, Chiềng Sinh (Phiêng Côn), Tạ Khoa thuộc Yên Châu, tỉnh Sơn La.
Ngày 17-8-1964, Chính phủ ra Quyết định số 128/CP thành lập huyện Bắc Yên trực thuộc tỉnh Nghĩa Lộ – Khu tự trị Tây Bắc, gồm 8 xã Phiêng Ban, Song Pe, Pắc Ngà, Chim Vàn, Tà Xùa, Làng Chếu, Xím Vàng, Hang Chú (được tách ra từ huyện Phù Yên).
Ngày 27-12-1975, Quốc hội khóa V, kỳ họp thứ hai quyết định bỏ cấp Khu tự trị trong hệ thống đơn vị hành chính và các tỉnh: Yên Bái, Lào Cai, Nghĩa Lộ hợp nhất thành tỉnh Hoàng Liên Sơn; Hai huyện Phù Yên, Bắc Yên của tỉnh Nghĩa Lộ sáp nhập về tỉnh Sơn La. Ngày 18-01-1976, hai tỉnh Nghĩa Lộ và Sơn La đã tổ chức lễ bàn giao hai huyện Phù Yên và Bắc Yên về tỉnh Sơn La.
Ngày 16-1-1979, theo Quyết định số 18/CP của Hội đồng Chính phủ, xã Phiêng Ban của huyện Bắc Yên chia thành hai xã: xã Hồng Ngài và xã Phiêng Ban; xã Tạ Khoa thuộc huyện Yên Châu thành hai xã: Mường Khoa và Tạ Khoa.
Ngày 13-3-1979, theo Quyết định số 105/CP của Hội đồng Chính phủ, điều chỉnh địa giới hành chính: sáp nhập các xã Mường Khoa, Tạ Khoa, Chiềng Sại, Phiêng Côn của huyện Yên Châu về huyện Bắc Yên.
Ngày 20-8-1999, thị trấn huyện Bắc Yên được thành lập theo Nghị định số 77/1999/NĐ – CP của Chính phủ, trên cơ sở tách một số đơn vị hành chính của xã Phiêng Ban và một bản thuộc xã Hồng Ngài. Ngày 7-9-1999 thị trấn tiến hành ra mắt và chính thức đi vào hoạt động, là trung tâm chính trị, hành chính, văn hoá của huyên Bắc Yên.
Ngày 17-4-2008, theo Nghị định số 47/2008/NĐ-CP của Chính phủ tách xã Tà Xùa, thành lập xã Tà Xùa và Háng Đồng; tách 9 bản vùng cao của xã Mường Khoa và 8 bản vùng cao của xã Tạ khoa để thành lập xã Hua Nhàn.
Hiện nay, huyện Bắc Yên có 15 xã (Phiêng Ban, Hồng Ngài, Song Pe, Chiềng Sại, Phiêng Côn, Hua Nhàn, Tạ Khoa, Mường Khoa, Chim Vàn, Pắc Ngà, Tà Xùa, Háng Đồng, Làng Chếu, Xím Vàng, Hang Chú) và 01 thị trấn, gồm 103 bản nằm dọc hai bên bờ Hồ sông Đà.
Có thể thấy, sự ra đời của đơn vị hành chính huyện Bắc Yên là quy luật khách quan của lịch sử, phản ánh những yêu cầu nội tại của vùng đất, con người giàu truyền thống lịch sử và nhân văn, có vị trí chiến lược quan trọng về quân sự, quốc phòng, an ninh, đáp ứng yêu cầu của quản lý nhà nước và sự phát triển đất nước nói chung và vùng Tây Bắc nói riêng.