Tembok Bizantium merupakan salah satu landmark bersejarah yang menjadi ciri khas kota Tebessa, juga dikenal sebagai Kastil Bizantium dan Kasbah, karena dibangun antara tahun 535 M dan 538 M. Tembok ini memiliki tiga gerbang asli yang menjadi saksi banyak peperangan dan konflik: Gerbang Caracalla, Gerbang Sulaiman, dan Gerbang Shahla. Kemudian Prancis menambahkan tiga gerbang kecil lainnya untuk memudahkan pergerakan ke dan dari luar tembok.