메마른 리비아 중동부에서 음용수가 있었기에 고대부터 도시가 형성되었다. 로마 시대에는 코르니클라눔 (Corniclanum)이라 불렸고, 해안로 및 내륙의 아우질라 (잘루) & 쿠푸라 (자우프)와 이어지는 사막로가 교차하는 요충지였다. 912년, 일대를 정복한 파티마 왕조는 새로운 모스크와 궁전 등을 세워 도시를 확장하였다. 다만 1051-52년, 파티마 조가 지리 왕조를 응징하기 위해 보낸 바니 힐랄 및 바누 술라임 베두인들에게 습격당한 후 도시는 쇠퇴하였다. 12세기의 지리가 알 이드리시는 과거에 번영했지만, 지금은 성벽이 일부만 남고 초목이 없는 자갈 사막 속 도시라 기록하였다. 또한 주민 대부분은 유대/아랍 상인들이고, 인근에 베르베르 유목민들이 많다고 덧붙였다.
한동안 버려져 있던 도시는 오스만 제국기 서부 바르카 (키레나이카)의 행정 치소로 재건되었고, 1900년 전후에는 세누시야 운동의 거점이 되었다. 1920년에는 이탈리아-세누시야 협정에 의거하여 키레나이카 토후국의 수도가 되었으나, 1923년 4월 이탈리아 군이 점령하였다. 이후 이탈리아는 아즈다비야를 군사 기지화하고 오마르 무크타르 토벌의 거점으로 활용했다. 2차 대전기인 1941년 2월, 영국군이 점령했으나 같은해 4월 롬멜의 독일군이 탈환하였다. 다만 이듬해 11월, 영국군이 재점령하였다. 독립 후, 인근 브레가 유전이 발견되며 아즈다비야는 빠르게 발전했다. 마을 수준에 불과하던 도시는 1979년 3만 인구를 돌파했고, 인근 부족들이 가장을 중심으로 원을 그리며 정착하며 시가지를 넓혔다.
1차 리비아 내전 초엽 아즈다비야에서도 반정부 시위가 있었고, 10여명이 희생되었다. 2011년 3월, 시위대가 도시를 장악하자 카다피는 공군까지 동원하여 반격해 주요 거점을 탈환했다. 다만 3월 26일에 반군이 나토의 공습과 함께 재차 도시를 장악했고, 정부군은 서쪽으로 패주했다. 4월, 3차 브레가 전투에서 승리한 정부군이 반군을 쫓아 재차 도시를 장악했으나 불과 3일만에 또다시 나토 공습에 힘입어 돌아온 반군에게 밀려났다. 2달에 걸쳐 큰 민간 피해를 야기한 아즈다비야 전투는 리비아 내전의 향방을 가른 중요한 전장이었다.