Nhà thờ Kish nằm ở Kish, cách thành phố Sheki vài km. Vào năm 550 trước Công nguyên, Atrobats, thống đốc người Media của Đế quốc Ba Tư, đã đặt tên cho nơi này là "Azerbaijan", có nghĩa là "được bảo vệ bởi lửa". Vào thế kỷ thứ 4 sau Công nguyên, một bộ tộc tự xưng là Arran đã thành lập Vương quốc Albania, lãnh thổ của nó trải dài khắp dãy núi Caucasus, và họ dần dần chuyển đổi từ đạo Zoroastrian của Ba Tư sang Cơ đốc giáo. Bắt đầu từ thế kỷ thứ 7 sau Công nguyên, Vương quốc Albania lần lượt bị chinh phục bởi người Ả Rập, Mông Cổ, Timurid và Đế quốc Ottoman, cuối cùng biến mất hoàn toàn khỏi lịch sử. Sự chia cắt giữa Ba Tư, Đế quốc Ottoman và Nga từ thế kỷ 16 đến thế kỷ 18 là một lý do quan trọng dẫn đến sự phân chia Azerbaijan thành ba quốc gia hiện nay. Vương quốc Albania Caucasus từng bao phủ phần lớn phía bắc Azerbaijan, nhưng có rất ít tài liệu lịch sử và thậm chí còn ít hơn các di tích cổ liên quan đến vương quốc Albania Caucasus, điều này khiến nhà thờ này có ý nghĩa văn hóa đặc biệt quan trọng. Người Azerbaijan từ lâu đã tìm cách xóa bỏ dấu vết của sự cư trú của người Armenia trên lãnh thổ của họ, tuyên bố rằng những khu vực này là "một phần không thể tách rời của Azerbaijan từ thời cổ đại". Nhà thờ hiện đã được chuyển đổi thành Bảo tàng Caucasus Albania, kể lại quá khứ phức tạp của vùng Caucasus. Bên trong bảo tàng trưng bày lịch sử liên quan, và du khách có thể nhìn thấy những di tích cổ bên dưới qua các cửa sổ kính trên sàn nhà thờ.