Fort Fincastle dibangun oleh penjajah Inggris pada tahun 1793 untuk melindungi Nassau dari bajak laut, karena Nassau dianggap sebagai ibu kota bajak laut tidak resmi sebelum penjajahan. Benteng ini dibangun di Perbukitan Bennett, dan dari jendela serta menaranya menghadap ke kota Nassau dan Queen's Stairs, dan pengunjung dapat mencapainya dengan berjalan kaki. Saat berkeliling benteng, pengunjung akan menemukan beberapa meriam besar, tembok benteng, dan gerbang besar.