Już po dwóch latach od utworzenia klubu - wtedy pod nazwę Royal Arsenal, zaadoptowano pierwszy herb. Wzór oparty był na herbie fabryki Borough of Woolwich. Klub powstał właśnie w Borough i znajdował się tam aż do roku 1913. Środkowa część składa się z trzech dział, które bardziej przypominają kominy. Jest to nawiązanie do militarystycznych tradycji obszaru - w regionie znajdowało się wiele szpitali wojskowych oraz stacjonował Królewski Regiment Artylerii.

1) Pierwszy herb Royal Arsenal z 1888 roku 2) Herb klubu od 1922-1925
Mimo opuszczenia Woolwich, Arsenal nie zaprzestał kultywowania wojskowej tradycji i armata ciągle stanowi podstawowy element każdego herbu klubu. Nowy herb został pierwszy raz publicznie zaprezentowany w programie przedmeczowym Arsenal - Burnley w sezonie 1922/1923.
Nie było żadną niespodzianką, że motywem nowego herbu pozostawała armata. Herb ten nie posłużył długo, gdyż już na początku sezonu 1925/1926 nowy wzór. Tym razem wzór był zdecydowanie prostszy a armata został skierowana w lewo. Tuż obok armaty znajdował się napis "The Gunners".

3) Herb klubu od 1925 do 1949 4) The Royal Arsenal Gatehouse in Woolwich
Całkowitą innowację charakteryzuje się herb poniżej, który używany był na koszulkach Arsenalu w latach 30. Powyższy wzór używany był do początku lat 50. Piłkarze Arsenalu, którzy w 1950 roku sięgnęli po Puchar Anglii, nosili koszulki właśnie z takim herbem.
Część środkową zajmowała armata skierowana w lewo. U góry, stylem gotyckim, nazwa klubu - "Arsenal". Na samym dole widniała łacińska sentencja "Victoria Concordia Crescit", który przetłumaczyć można jako "Zwycięstwo zradza się z harmonii". Są to słowa Harry Homera, zawarte przed niego w programie ostatniego meczu sezonu 1947/1948, które podkreślił miały zdobyte właśnie mistrzostwo Anglii przez zespół Toma Whittakera. Dwa lata później klub oficjalnie zaadoptował nowy herb. Przez lata herb uległ pewnym modyfikacjom.

5) Pierwszy herb z łącińską sentencją "Victoria Concordia Crescit" z 1949 roku 6) I jego późniejsza wersja
Ani ułożenie elementów, ani kształt nie uległ zmianie. Zmieniono jedynie barwy herbu. Z początkiem sezonu 2001/2002, z powodów czysto komercyjnych, prowadzono pewne korekty graficzne. Wprowadzono kolor żółty, dzięki temu takie elementy jak armata i nazwa klubu stała się bardziej widoczna. Graficznej zmianie uległ także napis "Victoria Concordia Crescit". Wraz z wkroczeniem w XXI wiek, klub potrzebował nowego herbu. Zmieniono już wzór koszulek, sponsora, przygotowano projekt nowego stadionu. Oczywiste było, że i herb nie pozostanie taki sam.
Herb ma zupełnie nowy wzór, który w żadnym stopniu nie przypomina poprzednich. Jedynymi tradycyjnymi elementami, które pozostały zachowane, są: armata - tym razem skierowana w prawo, kolor czerwony oraz napis Arsenal. Historia herbów Arsenalu jest bardzo skomplikowana, a wyżej przedstawione wzory są tylko niektórymi, jakie używane były przez klub na przestrzeni lat. Przedstawiono tutaj także inne wzory herbów, z jakimi zdarzało się występować piłkarzom The Gunners.

7) Poprawiona wersja herbu numer 5. 8) Obecny herb klubu używany od 2002 roku