1886年，阿森納由一群在東南倫敦伍爾維奇地區的戴爾廣場（Dial Square）一家名為“皇家阿森納”的武器制造所的工人所成立，初時按地區命名為“戴爾廣場”（Dial Square）；12月11日，進行的第一場比賽，球隊以6比0大勝東方流浪者隊；12月25日，球隊易名為“皇家阿森納”（Royal Arsenal）。最初，皇家阿森納隊一直在各處進行友誼比賽，或者參加地方性的杯賽。

1891年，俱樂部完成了改革，成為了職業俱樂部，并再一次改名為“伍爾維奇阿森納”(Woolwich Arsenal)。

1893年，球隊加入了足球聯盟的聯賽，成為了一支乙級球隊。

1913年，阿森納俱樂部搬遷進入海布里球場，并且在這里一呆就是93年，并在隨后正式改名為阿森納。在第一次世界大戰之后，足球聯盟將甲級聯賽進行了擴軍，經過投票表決，將阿森納升入了甲級，自從那時候起，阿森納一直保持在英格蘭的頂級聯賽中，成為了唯一一支從來沒有降過級的球隊。

在阿爾賽納·溫格到來之前，阿森納歷史上最偉大的教練是赫伯特·查普曼（Herbert Chapman），是他讓槍手們第一次嘗到了冠軍的滋味。

1925年，查普曼接手帥位成為阿森納的主帥。

1930年，查普曼帶隊一路挺進英格蘭足總杯決賽，并擊敗了老牌球隊霍斯菲爾德足球俱樂部捧起了英格蘭足總杯獎杯，這也是阿森納歷史上的第一座冠軍獎杯。

20世紀30年代，阿森納迎來了第一個堪稱王朝的時代。1930/31賽季，阿森納第一次奪取了甲級聯賽的冠軍，而從1933年到1935年，槍手們連續三個賽季稱雄，上演了聯賽冠軍的“帽子戲法”。在英格蘭足球的歷史上，只有四支球隊完成過這樣的偉業。但令阿森納人悲痛的是，功勛主帥查普曼在1934年時去世，這位出生在謝菲爾德聯的主教練帶給了槍手最早的輝煌。查普曼曾經執教過利茲赫霍斯菲爾德，他的執教理念在當時十分先進，那個時候阿森納的334陣型或稱“WM”陣型在查普曼手里發揮了最大的威力，曾在一個賽季中打進創造俱樂部紀錄的127球。查普曼去世時年僅55歲，為了紀念查普曼的功勛，阿森納在海布里球場內豎立了他的銅像。在查普曼去世之后，喬治·阿利森（George Allison）接過了帥印，阿森納的輝煌仍然在延續著。

1936年，槍手再奪英格蘭足總杯冠軍，1938年又稱雄聯賽。在這個年代，阿森納擁有一些讓后輩肅然起敬的偉大球員：特德·德拉克（Ted Drake）——槍手的中鋒，后來成為1955年率切爾西奪取聯賽冠軍的主教練：克利夫·巴斯廷（Cliff Bastin）——阿森納聯賽進球紀錄的保持者（后來這一紀錄被亨利打破）；以及阿萊克斯·詹姆斯（Alex James）、大衛·杰克（David Jack）、埃蒂·海普伍德（Eddie Hapgood）和喬治·梅爾（George Male）等人，他們組成了歷史上第一支令人畏懼的阿森納球隊。

1939年，第二次世界大戰爆發，所有英國的頂級足球賽事都暫時終止，而1939/40賽季也取消了。海布里球場被英國軍隊征用作空襲警報站以放置阻攔氣球（barrage balloon）在南看臺之后。倫敦大轟炸其間，北看臺的頂蓋被德軍的炸彈炸毀，座位也被燒成碎片。海布里球場不得不暫時關閉進行重建，直到1946年重新投入使用之前，阿森納不得不與同在北倫敦的死敵托特納姆熱刺共用白鹿巷球場。戰期的賽事并沒有官方統計，球隊只會參加地區成比賽以及不會完成整季賽事，很多足球員加入軍隊成為訓練員或指導員，他們會離開自己的俱樂部一段長時間，所以他們間中會在其他俱樂部中作賽。阿森納在戰時贏得1942/43賽季的南部戰爭杯足球聯賽（Football League War Cup South）以及1939/40賽季、1940/41賽季、1941/42賽季和1942/43賽季球季的倫敦或南部（London or Southern）聯賽冠軍。

1947/48以及1952/53賽季，阿森納兩次奪取了聯賽冠軍，并在1950年稱雄足總杯。不過在之后的60年代中，阿森納幾乎與冠軍絕緣。

1968年和1969年，槍手兩次打進英格蘭聯賽杯決賽，但都鎩羽而歸，這也是他們在60年代距離國內冠軍最近的時候。在60年代中期，貝蒂·米（Bertie Mee）接過帥位，并率隊在1969/70賽季奪取了俱樂部歷史上的首個歐洲賽事冠軍，在Fairs Cup的決賽中，阿森納兩回合以4比3的總比分擊敗了比利時的安德萊赫特奪冠。

進入70年代的頭一個賽季（1970/71賽季），阿森納便實現了歷史性的突破，球隊奪取了聯賽和英格蘭足總杯的雙料冠軍。在那支槍手隊中，擁有查理·喬治（Charlie George）、喬治·阿姆斯特朗（George Armstrong）、雷伊·肯尼迪（Ray Kennedy）和隊長弗蘭克·麥克林托克（Frank McLintock），阿森納先是在同城死敵熱刺的主場白鹿巷球場拿到了聯賽冠軍，隨后又在溫布利的決賽中通過加時賽擊敗利物浦，捧起了英格蘭足總杯。

1966年，創造雙冠輝煌的主教練貝蒂·米于成為阿森納的掌門人，于1976年辭職，后來在1978年跟隨格拉漢姆·泰勒成為沃特福德的助理教練。在貝蒂·米于的繼任者特里·尼爾的帶領下，阿森納延續著在英格蘭足總杯中的輝煌。

70年代末期，槍手們連續三個賽季稱雄足總杯，其中第二年的決賽中以3比2擊敗曼聯，那場比賽因為最后時段的連續進球和戲劇性被載入史冊，人稱“5分鐘的決賽”。

1980年，阿森納還打進了歐洲優勝者杯的決賽，但是這支擁有格拉漢姆·里克斯（Graham Rix）、弗蘭克·斯泰普萊頓（Frank Stapleton）、帕特·萊斯（Pat Rice）、大衛·奧萊利（David O’Leary）和里亞姆·布拉迪（Liam Brady）的球隊，在決賽的點球大戰中輸給了西班牙的瓦倫西亞。

1986年，喬治·格拉漢姆（George Graham）出任阿森納隊主教練，他將槍手打造成了80年代末和90年代初的一支具有統治力的球隊。在球員時代，格拉漢姆就曾效力阿森納，他是1971年雙冠王陣容中的一員，在此前的三年時間里，他一直在米爾沃爾執教，來到阿森納后，將球隊帶上了一個新的臺階。格拉漢姆鐵碗治軍，塑造出一支球風強悍、踢法硬朗的阿森納。他從水晶宮買進了前鋒伊恩·賴特（Ian Wright），后者一度成為俱樂部進球紀錄的保持者，格拉漢姆的管理手腕也很有講究，在阿森納將造越位的戰術發揮到極致。

1986/87賽季，格拉漢姆率隊奪取了俱樂部歷史上的第一座英格蘭聯賽杯冠軍，決賽中以2比1擊敗了利物浦。兩年后阿森納又從當時的英格蘭霸主利物浦手中奪走了聯賽冠軍。

1988/89賽季，阿森納一路跟隨領頭羊利物浦，在聯賽最后一輪中，兩支球隊在利物浦主場安菲爾德球場直接對話，一場決定聯賽冠軍歸屬的較量展開。賽前的形勢是，阿森納必須以兩球優勢擊敗利物浦，才能將冠軍從對手手里搶走，面對擁有約翰·巴恩斯、伊恩·拉什等一批天才球員的紅軍，又是在安菲爾德客場，阿森納前鋒邁克爾·托馬斯（Michael Thomas）單刀突入，打進了傳奇般的一球，這一年的聯賽冠軍在瞬間轉手，阿森納締造了最后一分鐘奪冠的歷史性經典。

80年代末和90年代初，是利物浦走向沒落、曼聯尚未登基的空白期，阿森納成為了這段時期內英格蘭最令人畏懼的力量，繼1989年不可思議的最后逆轉奪冠后，在1990/91賽季里，格拉漢姆再次率隊奪取聯賽冠軍，槍手的后防四人組令各支球隊無奈。整個1990/91賽季里，阿森納只輸掉了一場聯賽。

1992/93賽季，阿森納成為了第一支在同一個賽季里贏得兩項杯賽冠軍的球隊，在足總杯和聯賽杯的決賽中，槍手們擊敗的都是謝菲爾德星期三。

1993/94賽季，格拉漢姆時代的輝煌延續到了歐洲賽場，阿森納在歐洲優勝者杯中一路高歌猛進，并在決賽中以1比0擊敗意大利勁旅帕爾馬奪得冠軍，這個時刻代表著阿森納在格拉漢姆帶領下達到了頂點。

1994/95賽季，阿森納在1995年的歐洲優勝者杯決賽中輸給薩拉戈薩，格拉漢姆在該賽季結束后也離開了球隊，但當時沒有人能夠想到：格拉漢姆后來到托特納姆熱刺執教，這讓他一度成為阿森納球迷痛恨的對象。

在格拉漢姆離開后，阿森納進入了短暫的過渡期，霍斯頓（Stewart Houston）和里奧奇（Bruce Rioch）先后代理主教練職務，但都沒有延續太久。

1996/97賽季的上半段，阿森納迎來了俱樂部歷史上第一位外籍主教練——阿爾塞納·溫格（Arsene Wenger）從日本的名古屋鯨八轉投而來，這位外表儒雅的法國人很快就為阿森納帶來了輝煌。

1997/98賽季，也就是溫格成為主教練后的第一個完整賽季，他率領阿森納拿到了英超和足總杯的雙料冠軍，重演了1970/71賽季的神奇，這也是俱樂部歷史上的第二次。在入主后，溫格對球隊進行了改造，1996年加盟的荷蘭人丹尼斯·博格坎普（Dennis Bergkamp）發揮了重要作用，在奪取雙冠的賽季里，他被評為球員聯盟的年度最佳球員和記者協會評出的最佳，與此同時，溫格的同胞埃曼努埃爾·佩蒂特（Emmanuel Petit）、帕特里克·維埃拉（Patrick Vieira）先后到來，這批幫助法國隊奪取1998年世界杯冠軍的球員們，在阿森納構建起了強大的法國幫。在同一個賽季里，阿森納告別了鋒線傳奇伊恩·賴特，后者留下了185個進球的俱樂部紀錄。

在接下來的三個賽季（1998/99、1999/00和2000/01賽季）里，阿森納每一年都是英超的亞軍，位列曼聯之后。而在杯賽中，阿森納也有活躍的表現。

阿森納足球俱樂部

2000年，阿森納打進了歐洲聯盟杯的決賽，但遺憾的在點球大戰中輸給了土耳其的加拉塔薩雷，之后的一年，他們又在英格蘭足總杯決賽中1比2不敵利物浦，邁克爾·歐文的兩個進球完成了逆轉。

2001年，阿森納打進了歐洲冠軍聯賽的八強，但被瓦倫西亞淘汰。

2001/02賽季，阿森納在臣服三年之后向曼聯發起了反擊。在這個賽季里，溫格率領球隊再奪雙冠王（英超和英格蘭足總杯）。在足總杯中，阿森納2比0擊敗了切爾西稱雄。英超中又創造了13連勝的驕人戰績，整個賽季客場不敗。

2002年5月8日，阿森納在老特拉福德球場1比0擊敗曼聯，提前鎖定該賽季的英超冠軍，在曼聯王朝的全盛時期，阿森納是唯一一支能夠和紅魔抗衡的力量。

2002/03賽季，阿森納在英超中一度形勢不錯，但最終被曼聯反超。不過在這一年里，阿森納奪取了英格蘭足總杯，也成為了這項賽事自1982年來第一支衛冕的球隊。在這個賽季里，球隊中蒂埃里·亨利的迅速提升引人注目，他從剛到海布里時一名不穩定、愛發脾氣的年輕人，逐漸成長為英超中最可怕的攻擊手。

2003年，亨利還當選了英格蘭球員聯盟和記者協會評選的雙料最佳球員。

2003/04賽季，是值得阿森納為之驕傲的一個賽季，他們奪取了俱樂部歷史上的第13座聯賽冠軍獎杯，整個賽季里，阿森納高歌猛進，在英超中保持不敗，創造了令人吃驚的神話。賽季結束后，阿森納以90分領先第二名切爾西達11分之多。

2004年8月，阿森納打破了諾丁漢森林保持的紀錄，締造英格蘭頂級聯賽連續49場聯賽不敗的新神話。

2004/05和2005/06兩個賽季，隨著羅曼·阿布拉莫維奇的到來，切爾西的崛起給了阿森納新的挑戰，藍軍切爾西連續奪取英超冠軍，阿森納僅僅收獲了一座足總杯。

2005/06賽季，年輕人的崛起讓阿森納看到了新的希望，球隊中的塞斯克·法布雷加斯等一批新銳迅速成長，隨隊一路打進了歐冠決賽，雖然1比2負于西班牙的巴塞羅那，但這成為是槍手阿森納最接近歐洲之巔的一次。

2006年7月，阿森納俱樂部告別了載滿榮譽的海布里球場，搬入了現代化的酋長球場。新球場為球隊和球迷帶來了更好的資源和服務，卻也使俱樂部背上了巨額債務。球隊雖然每年都能夠爭取到歐冠席位，卻始終無法再舉起一座獎杯。

2007年和2011年，阿森納兩次進入了聯賽杯的決賽，但均以1比2不敵對手。

2011年夏天，球隊核心法布雷加斯與薩米爾·納斯里等人先后轉投巴塞羅那和曼城，隨之阿森納的成績一落千丈，在2011-12賽季，阿森納在各個賽場均無冠軍入賬。

2012年夏季，羅賓·范佩西和亞歷山大·宋又轉會去了曼聯和巴塞羅那，溫格的戰術體系亟須重建。

2012/13賽季，俱樂部引進了盧卡斯·波多爾斯基、桑蒂·卡索拉等人補充戰術體系，俱樂部也已表態為溫格的足球理念提供資金支持。

2013年9月3日，梅蘇特·厄齊爾以5000萬歐元（合4250萬英鎊）的轉會費加盟球隊，這筆交易打破了球隊引援紀錄。

2013/14賽季，阿森納挺近在新溫布利大球場舉辦的足總杯決賽，在開局0比2落后赫爾城的情況下，常規時間內2比2頑強扳平比分，并在加時賽由阿隆·拉姆塞絕殺3比2完成驚天逆轉，幫助阿森納拿下足總杯冠軍，同時結束球隊八年無冠的尷尬境地。

2014/15賽季，阿森納斥資7000萬歐元購入了前鋒阿萊克西斯·桑切斯、后衛卡魯姆·錢伯斯、邊后衛馬蒂厄·德比希以及門將大衛·奧斯皮納，盡管也賣出了隊長托馬斯·維爾馬倫，但整體上陣容比較平均。

2015年5月31日，足總杯決賽阿森納4比0戰勝阿斯頓維拉成功衛冕，阿森納也超越曼聯創紀錄第12次奪冠。

2015/16賽季，阿森納在夏季轉會期只引進了捷克門將彼得·切赫。阿森納在英超最后一輪主場4比0擊敗阿斯頓維拉，積分榜反超托特納姆熱刺最終排名聯賽第二。整個賽季阿森納在倫敦同城德比的戰績非常糟糕，其中對陣切爾西、托特納姆熱刺、西漢姆聯、水晶宮總共8場比賽只有1勝，恰恰這8場比賽大部分都是阿森納爭冠道路上的關鍵戰役，比如主場負于切爾西，然后接連被熱刺、西漢姆、水晶宮逼平，進入2016年以來阿森納在同城德比的對決中未嘗勝績，這也直接導致槍手排名下滑逐漸退出了冠軍的爭奪，這也是阿森納自2005年以來在倫敦同城德比戰中表現最差的一個賽季。

2016/17賽季，阿森納雖然在賽季前半程打出了20場不敗的優異成績，但下半賽季的糟糕表現讓球隊早早退出了爭冠行列，最終僅列聯賽第五，失去了歐冠聯賽的參賽資格。

2017年5月28日，阿森納在足總杯決賽中2比1擊敗切爾西奪得冠軍，這是阿森納歷史上的第13座足總杯，槍手超越曼聯，成為奪冠次數最多的球隊。這也是溫格舉起的第7座足總杯，他成為歷史上奪冠次數最多的教練；8月6日，在溫布利球場舉行的英格蘭社區盾杯中，阿森納通過點球大戰最終以5比2戰勝切爾西，奪得冠軍；12月14日，在英超第17輪阿森納客場迎戰西漢姆聯的比賽中，亞歷克斯·伊沃比射中門柱，奧利維爾·吉魯第一次聯賽首發出場也沒能進球，哈維爾·埃爾南德斯在第90分鐘射中門柱，最終阿森納0比0戰平西漢姆聯，賽季第一次連續三場聯賽無法取勝。下半賽季的阿森納遭遇了尷尬的聯賽客場7連敗，直到最后一輪客場對陣哈德斯菲爾德才勉強拿到了進入2018年之后的第一個客場積分。而整個賽季的聯賽積分也創了溫格時代的最低紀錄，單賽季聯賽輸球場次也是溫格時代最多。

2018年4月20日，阿森納官方宣布溫格將在賽季末離任，這也意味著他22年的槍手主帥生涯走向了結束。溫格發表聲明稱：經過認真考慮和與俱樂部的討論之后，我覺得賽季結束是我離開的合適時機。我很榮幸為俱樂部服務了這么多年。我以充分的承諾和誠信管理俱樂部。我想感謝讓這個俱樂部變得如此特別的球員、管理人員和球迷。我希望我們的球迷們站在球隊的身后走向偉大，讓所有的阿森納球迷都關心俱樂部的價值。獻給你們我的愛和永遠的支持；5月6日，2017/18賽季英超第37輪阿森納主場5比0大勝伯恩利，這是溫格在槍手執教期間的最后一場主場比賽，兩隊球員列隊歡迎溫格入場。比賽一結束，阿森納特意為溫格舉辦了盛大的告別儀式，這場告別儀式的主題就是“Merci Arsène”（感謝溫格）。工作人員與起身的溫格握手致意。現場的球迷們起立為溫格送上經久不息的掌聲。而溫格抬頭望向看臺，注視著這片紅色海洋的，是他那熟悉又深邃的眼神。溫格走出酋長球場入場通道，在萬眾的簇擁下接受了黃金版英超聯賽獎杯——2003/04賽季那支49場不敗的阿森納奪冠獎杯。溫格來到了球場中央接受球迷的歡呼與掌聲。而在此，他也正式在酋長球場與大家告別。在球場中央，溫格的弟子們齊聚這里，他們為溫格送去祝福的掌聲，也代替溫格向球迷們傳遞著情感。球員的心態是放松，他們見證著歷史性的一刻。而溫格是嚴肅的，雖然離開并不意味著不再踏進球場，但面向這滿座的酋長球場，溫格的眼中寫滿了那句：讓我最后一次再看看你。

2018年5月23日，阿森納官方宣布西班牙人烏奈·埃梅里成為阿森納新任主教練，從此阿森納進入新的時代。

2019年3月14日，歐聯杯八分之一決賽次回合的比賽，阿森納主場3-0擊敗雷恩，總比分4-3逆轉對手殺進歐聯杯八強。在首回合客場1-3不敵雷恩的情況下，阿森納回到主場成功完成了逆轉，他們也就此成為了歐聯杯歷史上第二支在首回合1-3落敗，次回合還能夠成功逆轉的球隊（上一支球隊則是富勒姆）；5月，阿森納1-4不敵切爾西獲得2018-19賽季歐聯杯亞軍；11月29日，永貝里出任阿森納臨時主帥；12月，阿爾特塔已經與阿森納達成協議，他成為球隊的新主帥。

2020年3月，在奧林匹亞科斯老板馬里納基斯確認感染新冠病毒后，阿森納下令對酋長球場以及訓練場進行徹底消毒。另外，阿森納通知與奧林匹亞科斯比賽中位于主席臺的客人，建議在馬里納基斯兩米范圍內停留超過15分鐘的人員，全部進行自我隔離；7月2日，阿森納主場4-0諾維奇，此役全取3分讓阿森納隊史英超積分達到2001分，成為英超歷史上繼曼聯之后，第二支積分突破2000的球隊；7月4日，阿森納客場2-0擊敗排名第六的狼隊，這是阿森納自2015年9月以來，首次在聯賽中擊敗排名比他們靠前的球隊；7月19日，足總杯半決賽，阿森納2-0擊敗曼城，挺進決賽。這是阿森納隊史第21次闖進足總杯決賽，這一數字讓槍手超越曼聯刷新足總杯歷史紀錄。此外，阿森納此前20次進決賽13次奪冠，其中對陣本賽季決賽的潛在對手曼聯和切爾西的4場決賽全部奪冠；8月，阿森納（價值22.7億美元）名列福布斯2020年全球最有價值運動團隊榜第47；8月2日，2019-20賽季英格蘭足總杯決賽在溫布利球場上演。阿森納2-1逆轉擊敗切爾西，第14次獲得足總杯冠軍，同時拿到下賽季歐聯杯參賽資格；8月，阿森納官方宣布，此前擔任一線隊助理教練的永貝里已經離開阿森納教練組；8月，阿森納6-5（含點球大戰）擊敗利物浦奪得2020年社區盾杯冠軍。

2021年1月3日，阿森納客場4-0大勝西布朗，收獲球隊20/21賽季英超客場第5場零封，與維拉成為20/21賽季英超客場零封場次并列最多的球隊；1月，IFFHS2020年度俱樂部排名榜公布，阿森納位列第10；4月19日，阿森納成為歐洲超級聯賽的創始俱樂部之一；4月21日，阿森納俱樂部官方通告表示，已經聽取了球迷的意見，決定退出歐洲超級聯賽；5月8日，球隊在半決賽中以1-2的比分不敵埃梅里執教的比利亞雷亞爾，無緣歐聯決賽；6月，俱樂部與蒂爾尼續約至2026年；8月，阿森納重新加入ECA（歐洲俱樂部協會）；9月27日，阿森納在和熱刺的比賽中前34分鐘打進三球，創造英超聯賽北倫敦德比最快的單支球隊打進3球的紀錄；12月，阿森納官方宣布奧巴梅揚不再擔任球隊隊長，且不會參加下一場對陣西漢姆的比賽。

2021-22賽季，英超開局前3輪，球隊3戰皆負，丟9球且未進1球。此后球隊狀態回升，連續2輪零封取勝。

2022年2月2日，阿森納俱樂部與奧巴梅揚協商一致解約。