8 grudnia 1868 roku na ełcki dworzec wjechał pierwszy pociąg. Oddano wtedy do użytku odcinek z Kętrzyna do Ełku, będący częścią budowanej w latach 1866 – 1871 linii kolejowej z Królewca do granicznych Prostek. W 1873 roku przedłużono ją (już po stronie Królestwa Polskiego) do Grajewa, dzięki czemu uzyskano połączenie Prus Wschodnich z siecią kolejową Cesarstwa Rosyjskiego. Stała się ona wtedy linią transeuropejską Królewiec – Odessa. Kolej w tamtych czasach, a i dużo później była czynnikiem miastotwórczym.

Ełk zaczął się dynamicznie rozwijać. Powstawały nowe ulice. Ulicę, prowadzącą od dworca kolejowego do skrzyżowania z ul. Główną (współcześnie ulicą Wojska Polskiego), nazwano ulicą Dworcową. Obecnie nosi ona nazwę ul. Armii Krajowej.  W roku 1879 Ełk uzyskał połączenie kolejowe z Gołdapią, w 1885 roku – z Piszem, w 1915 – z Orzyszem. W latach 1893 – 1894 na linii Ełk – Korsze powstał  drugi tor (przekazany do użytku 22 listopada 1894). W połowie 1945 roku, już na oczach polskich kolejarzy, saperzy radzieccy rozebrali jeden z torów, potraktowawszy go jako zdobycz wojenną.