Xəzər dənizi öz tarixini milyonlarla il əvvəl Atlantikanı Sakit okeanla birləşdirən qədim Tetis okeanından aparır. Geniş miqyaslı tektonik dəyişikliklər səbəbindən Tethys tədricən dünya okeanları ilə əlaqəsini itirdi və daha sonra qara və Xəzər də daxil olmaqla bir sıra kiçik dənizlərə parçalandı. Sonuncu nəhayət təxminən 1,8 milyon il əvvəl təcrid olundu və bu tarix onun yaranma anı hesab olunur.

O vaxtdan bəri dəniz, nəticədə müasir bir görünüş əldə etmək üçün ölçülərini və konturlarını dəfələrlə dəyişdirdi. Bu gün Xəzər planetin bütün göl suyunun 44% — nin cəmləşdiyi yer üzündə ən böyük qapalı su hövzəsidir.
Min illər boyu Xəzər dənizi yetmişə yaxın adını dəyişdi. Sahillərində yaşayan xalqların hər biri ona öz adını verdi. Məsələn, qədim mənbələrdə Hirkan dənizi adlanır — «Kurtlar ölkəsi»mənasını verən Hyrcania sahil bölgəsinin adı ilə. Ərəblər onu Xəzər adlandırdılar-Xəzər adı ilə