Phù Yên là huyện miền núi, nằm ở phía đông bắc của tỉnh Sơn La. Độ cao các các xã vùng thấp là 175 m, các xã vùng dọc sông Đà là 250-300 m, các xã vùng cao là 800-1.000 m so với mực nước biển. Tọa độ địa lý điểm trung tâm 21°13’33’’ độ vĩ bắc 104°41’51” độ kinh đông. Phía đông giáp huyện Tân Sơn, tỉnh Phú Thọ và huyện Đà Bắc, tỉnh Hòa Bình, phía tây giáp huyện Bắc Yên, phía nam giáp huyện Mộc Châu, phía bắc giáp huyện Trạm Tấu và huyện Văn Chấn, tỉnh Yên Bái. Huyện Phù Yên có quốc lộ 13A từ Yên Bái, qua đèo Lũng Lô vào Phù Yên, quốc lộ 37 lên Bắc Yên đối với quốc lộ 6 ở Cò Nòi; quốc lộ 43 từ Gia Phù - Vạn Yên nối với quốc lộ 6 tại Km 64 Mộc Châu; quốc lộ 32B từ Mường Cơi đi Thu Cúc (Tân Sơn - Phú Thọ). Huyện đã mở được đường ô tô đến trung tâm tất cả các xã trong huyện.
Một góc hồ Suối Chiếu huyện Phù Yên.
Theo số liệu thống kê đến 31-12-2015, huyện Phù Yên có 26.887 hộ với 119.184 người. Sống lâu đời và đông ở Phù Yên là các dân tộc Mường, Thái, Mông, Kinh, Dao. Đồng bào miền xuôi lên xây dựng kinh tế mới tại huyện, đa số là đồng bào các tỉnh Hưng Yên, Hà Nam, Thái Bình, Phú Thọ, Vĩnh Phúc, Hà Tây. Cộng đồng dân cư huyện Phù Yên đoàn kết xây dựng quê hương, đất nước.
Khi xây dựng công trình thủy điện Hòa Bình, Phù Yên là một trong những huyện chịu ảnh hưởng lớn nhất, trong đó có 11 xã chịu ảnh hưởng trực tiếp (bao gồm 6 xã nằm dọc ven bờ suối Tấc, 3 xã ven sông Đà, 2 xã bị ảnh hưởng khi nước dâng, đó là các xã: Tường Phù, Tường Thượng, Tường Hạ, Tường Tiến, Tường Phong, Tân Phong, Nam Phong, Bắc Phong, Đá Đỏ, Mường Bang, Sập Xa).
Từ khi được thành lập và qua các lần điều chỉnh, đến năm 2015 huyện Phù Yên có 26 xã và 1 thị trấn với 320 đơn vị khối, bản. Trung tâm hành chính của huyện đặt tại thị trấn Phù Yên. 26 xã gồm: Bắc Phong, Đá Đỏ, Gia Phù, Huy Bắc, Huy Hạ, Huy Tân, Huy Thượng, Huy Tường, Kim Bon, Mường Bang, Mường Cơi, Mường Do, Mường Lang, Mường Thải, Nam Phong, Quang Huy, Sập Xa, Suối Bau, Suối Tọ, Tân Lang, Tân Phong, Tường Hạ, Tường Phong, Tường Phù, Tường Thượng, Tường Tiến.
Theo số liệu thống kê năm 2015, Phù Yên có tổng diện tích tự nhiên 123.423 ha, trong đó đất sản xuất nông nghiệp: 43.948,10 ha, đất lâm nghiệp: 60.996,70 ha, đất chuyên dùng: 1.878 ha, đất ở: 854,20 ha.
Phù Yên có địa hình bị chia cắt mạnh. Hướng chính các sông suối, đồi núi chạy theo hướng tây bắc - đông nam, các sườn núi thấp dần về phía sông Đà và tạo nên 4 tiểu vùng khác nhau. Tiểu vùng I bao gồm khu vực của 6 xã Mường Thải, Mường Cơi, Tân Lang, Mường Lang, Mường Do, Mường Bang), chiếm khoảng 38% tổng diện tích huyện. Tiểu vùng này ở phía đông bắc của huyện, gồm các dãy núi cao, độ dốc lớn. Tiểu vùng II bao gồm khu vực thị trấn Phù Yên và 8 xã (Huy Hạ, Huy Bắc, Huy Tường, Huy Thượng, Huy Tân, Quang Huy, Tường Phù, Gia Phù), chiếm khoảng 16% tổng diện tích toàn huyện. Tiểu vùng này ở phía nam của huyện, địa hình lòng chảo được bao quanh bởi các dãy núi cao. Đây là vùng có địa hình tương đối bằng phẳng so với các vùng khác trong huyện, độ cao trung bình khoảng 175m so với mặt nước biển. Tiểu vùng III bao gồm khu vực của 9 xã vùng sông Đà (Tường Hạ, Tường Thượng, Tuờng Tiến, Sập Xa, Đá Đỏ, Tân Phong, Tường Phong, Bắc Phong, Nam Phong), chiếm 26% diện tích tự nhiên toàn huyện. Tiểu vùng này ở phía đông nam, địa hình phức tạp, phần lớn là các dãy núi cao, độ dốc lớn, đất bạc màu, tầng canh tác mỏng, ở giữa là sông Đà và suối Sập. Tiểu vùng có diện tích mặt nước hồ sông Đà rộng 3.079 ha, độ cao trung bình khoảng 275 m so với mặt nước biển. Tiểu vùng IV bao gồm khu vực của 3 xã vùng cao Kim Bon, Suối Tọ, Suối Bau, chiếm 20% diện tích tự nhiên toàn huyện, địa hình đồi núi cao, phức tạp, đất đai thường bị rửa trôi, bạc màu. Một phần ba diện tích tự nhiên của vùng là đồi trọc (cỏ và lau lách). Độ cao trung bình của vùng là 900 m so với mặt nước biển.
Nhiệt độ trung bình hằng năm ở Phù Yên là 23,2°C. Thưởng nóng nhiều từ tháng 5 đến tháng 9, lạnh nhiều từ tháng 11 đến tháng 3 năm sau; nắng nhiều từ tháng 5 đến tháng 7, số giờ nắng trung bình từ 1.700 giờ/năm, mưa nhiều từ tháng 5 đến tháng 8. Lượng mưa trung bình hằng năm là 1.498,6 mm/năm.
Trên địa bàn huyện có dòng sông Đà chảy qua dài 53 km; có 4 suối lớn là: suối Tấc, suối Sập, suối Mứa, suối Khoáng. Ngoài ra còn có nhiều khe suối nhỏ rải rác trên địa bàn tạo thành một hệ thống sông suối khá phong phú. Tuy nhiên chế độ dòng chảy của các sông, suối chịu ảnh hưởng trực tiếp bởi khí hậu và địa hình đặc trưng trong vùng. Mùa mưa dòng chảy của các sông, suối rất thất thường, có khi còn gây ra lũ ống, lũ quét với sự lên xuống rất nhanh của mực nước, thời gian xuất hiện chỉ một vài giờ hoặc vài ngày liên tiếp. Mùa khô dòng chảy rất hạn chế, nhất là các suối nhỏ, diện tích dòng chảy bé, nguồn nước rất khan hiếm, gần như cạn kiệt, nhất là vào tháng 3 và tháng 4 hằng năm.
Trên địa bàn huyện có hồ sông Đà diện tích 3.079 ha, hồ thủy lợi suối Chiếu, suối Hòm, đập tràn suối Tác, hồ thủy lợi suối Sập. Ngoài ra còn các ao, hồ, đập nhỏ với tổng diện tích 4.360,89 ha. Hệ thống sông, suối, hồ đập tạo ra cho Phù Yên nguồn nước phục vụ cho đời sống, sản xuất khá phong phú. Tuy nhiên, phần lớn mực nước ở các sông, suối đều thấp hơn so với mặt bằng đất canh tác và các khu dân cư, nên hiệu quả khai thác sử dụng vào sản xuất nông, lâm nghiệp rất hạn chế. Không ít những địa bàn tuy có điều kiện về đất đai nhưng khó khăn về nguồn nước (như Tiểu vùng I, Tiểu vùng IV của huyện).
Theo Địa Chí Sơn La xuất bản năm 2020