Monumen Kuda dianggap sebagai salah satu situs warisan terkenal di kota Port Elizabeth. Dibangun untuk menghormati kuda-kuda yang ikut serta dalam dinas selama Perang Boer Kedua. Lebih dari 300.000 kuda tewas selama perang dengan Inggris. Monumen tersebut adalah ditempatkan di tempat dimana kuda-kuda itu mendarat saat itu.Sesampainya di kota, terdapat patung perunggu besar yang menggambarkan seorang prajurit yang menawarkan air kepada seekor kuda saat bertugas.