ยะลา แต่เดิมเป็นส่วนหนึ่งของจังหวัดปัตตานี ซึ่งเป็นเมืองขึ้นอยู่กับราชอาณาจักรไทยครั้งสมัยกรุงสุโขทัยเป็นราชธานีในปี พ.ศ. 2310 หลังจากที่กรุงศรีอยุธยาเสียแก่พม่าแล้ว บรรดาหัวเมืองต่างๆ ในบริเวณแถบนี้ต่างก็ประกาศตัวเป็นอิสระ ครั้นถึงสมัยพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลก แห่งกรุงรัตนโกสินทร์ ได้รับสั่งให้กรมพระราชวังบวรสุรสีหนาท เสด็จยกทัพหลวงไปปราบ และตีเมืองปัตตานี ในปี พ.ศ. 2332 เมืองยะลาก็ยังเป็นท้องที่ในเมืองปัตตานี ต่อมาในปี พ.ศ. 2351 จึงได้ทรงพระกรุณาโปรดเกล้าฯ ให้แยกหัวเมืองปัตตานีเป็น 7 หัวเมือง คือ เมืองปัตตานี เมืองสายบุรี เมืองหนองจิก เมืองยะหริ่ง เมืองระแงะ เมืองรามัน และเมืองยะลา สำหรับเมืองยะลานั้น มีต่วนยาลอ เป็นพระยาลอ และได้มีการเปลี่ยนแปลงเจ้าเมืองกันมาหลายครั้ง จังหวัดยะลาจึงเป็นจังหวัดๆ หนึ่งของประเทศไทย ก่อนที่จะมีการประกาศยุบเลิกมณฑล ตาม พ.ร.บ. ว่าด้วยระเบียบแห่งราชอาณาจักรสยามในปี พ.ศ. 2476 คำว่า ยะลา มาจากภาษาพื้นเมืองเดิมว่า ยะลอ ซึ่งแปลว่า "แห" เพราะสถานที่ตั้งเมืองเดิมคือ บ้านยะลอ มีภูเขารูปร่างคล้ายแหตั้งอยู่บริเวณนั้นเป็นที่ลุ่ม ได้มีการย้ายที่ตั้งเมืองใหม่หลายครั้ง ในที่สุดมาอยู่ที่เมืองนิบง (นิบง แปลว่า ไม้หลาวชะโอน) จนถึงปัจจุบัน