Pomysł powołania muzeum w Ełku jest już bardzo stary. W opublikowanym w 2000 r. na łamach „Rozmaitości Ełckich” felietonie o znamiennym tytule Ciągoty muzealne ks. Jerzy Hajduga pisał:

„Wyobraźmy sobie, że w Ełku wreszcie otworzono muzeum”.

Pomysł ten doczekał się swojej realizacji dopiero niedawno. Sekwencja zdarzeń, która doprowadziła w końcu do powołania nowej instytucji kultury, rozpoczęła się w roku 2010, gdy Rada Miasta przyjęła uchwałę intencyjną w sprawie organizacji Muzeum, a następnie Prezydent Miasta Ełku Tomasz Andrukiewicz powołał Pełnomocnika ds. utworzenia Muzeum, którym został Kazimierz Bogusz (później dyrektor MHE w latach 2013-2018). We wrześniu 2011 r. ukonstytuowało się Stowarzyszenie Muzeum dla Ełku, skupiające ludzi wspierających dzieło budowy tego rodzaju instytucji w naszym mieście. Ostatnim akordem było przyjęcie przez Radę Miasta 28 sierpnia 2012 r. uchwały w sprawie utworzenia Muzeum Historycznego w Ełku oraz nadania mu statutu.

Cytowany wyżej ks. Hajduga pisał, iż:

„Powoli należy przyzwyczajać ludzi nie tylko do odwiedzania, ale i do zwiedzania Ełku”.

Także ta idea została już, przynajmniej częściowo, urzeczywistniona w postaci pierwszej publikacji Muzeum, którą była książka Michała Olszewskiego i Rafała Żytyńca pt. Ełk. Spacerownik po mieście niezwykłym.

Pierwsza siedziba Muzeum mieściła się w kamienicy przy ulicy Jana i Hieronima Małeckich 3, która przed II wojną światową nosiła nazwę Placu Królowej Luizy 13 (Königin-Luise-Platz 13). Położona przy parku kamienica była jednym z bardziej nobliwych adresów w Ełku. W ełckich księgach adresowych z 1930 i 1938 r. znajdujemy informacje, iż zamieszkiwali ją wyżsi urzędnicy miejscy, naczelnicy, sędziowie i asesorzy położonego nieopodal sądu oraz kupcy i lekarze. W 1930 r. właścicielem kamienicy był emerytowany dyrektor Albert Henning, a w 1938 r. kamienica była własnością Käte Stempel.

Od 2018 r. siedziba Muzeum mieści się w dawnym budynku stacyjnym na zrewitalizowanym terenie Ełckiej Kolei Wąskotorowej (w rejestrze zabytków od 1991 r.), wybudowanej w latach 1912-1918, a znajdującej się od 2014 r. w strukturach Muzeum.

Od 1 lutego 2019 r. dyrektorem MHE jest dr Rafał Żytyniec.

W polu zainteresowań Muzeum Historycznego w Ełku, oprócz samego miasta, znajdują się także Mazury, które traktujemy jako pewnego rodzaju fenomen historyczny i kulturowy. Dziejów miasta i jego mieszkańców nie da się analizować w oderwaniu od dziejów regionu. W zachowanej przestrzeni miejskiej Ełku, w skali mikro, widać ślady procesów, które przez wieki kształtowały życie całych Mazur. Czynniki takie jak przyroda, pogranicze (narodów, państw, kultur), nacisk modernizacyjny z jego dobrodziejstwami (kolej żelazna) i przekleństwami (nowoczesne nacjonalizmy) odcisnęły swoje piętno na mieście i Mazurach.