Mustafa Kemal Paşa Amasya'dan sonra Sivas'ta bir gün kaldı ve burada yapılacak olan kongrenin çalışmalarını gözden geçirdi. 3 Temmuz 1919 günü Erzurum'a ulaştı ve şehirde halkın büyük desteğini arkasına alarak çalışmalarına başladı. Bu sırada Dahiliye Nazırı (İç İşleri Bakanı), Mustafa Kemal Paşa'nın görevden alındığını ve kendisiyle hiçbir resmi görüşmenin yapılmayacağını duyurmuştu. O da 8-9 Temmuz 1919'da "sine-i millette bir ferd-i mücahit olarak çalışmak üzere" görevinden istifa etti.

Artık sorumluluk sahibi bir vatandaş olarak görev yapacaktı. Ancak sahip olduğu maddi imkanlar çok yetersizdi. Öyle ki, istifa ettiği zaman yanında giyecek sivil elbisesi bile yoktu. Üniformasını çıkardığı gün giydiği elbiseyi Erzurum Valisi Münir Bey'den, başına taktığı fesi ise Müfit Bey'den almıştı. Erzurumlular kendisine asla unutmayacağı bir sevgi gösterdiler ve onu Vilayat-ı Şarkiye Müdafaa-i Hukuk-u Milliye Cemiyeti Erzurum Şubesi Başkanı ilan ettiler.

Tarihi kararların alındıĝı Erzurum´daki Kongres Binası

Erzurum Kongresi, 23 Temmuz 1919'da 62 delegenin katılımıyla toplandı ve 14 gün boyunca faaliyetlerini sürdürdü. Yapılan oylama sonucunda Mustafa Kemal başkan seçildi. Kongre yerinin özellikle Erzurum olarak belirlenmesi bilinçli bir tercihti. Çünkü Doğu Anadolu'nun tamamını kapsayan bir "Ermenistan" kurulmaya çalışılıyordu. Elbette Türk halkı böyle bir oluşuma asla göz yumamazdı. İşte hem kabul edilemez bu girişime hem de Türk topraklarının işgaline karşı birlik ve beraberlik içinde mücadele yürütmek için Erzurum önemli bir merkezdi.

İstanbul Hükümeti'nin kesinlikle karşı çıkmasına, dahası kongreyi engellemek için bazı valilere baskı yapmasına rağmen toplanan Erzurum Kongresi'nde şu kararlar alınmıştı:

1. Milli sınırlar içinde vatan bölünmez bir bütündür; parçalanamaz.

2. Her türlü yabancı işgal ve müdahalesine karşı millet top yekün kendisini savunacak ve direnecektir.

3. Vatanı korumayı ve istiklali elde etmeyi İstanbul Hükümeti sağlayamadığı takdirde, bu gayeyi gerçekleştirmek için geçici bir hükümet kurulacaktır. Bu hükümet üyeleri Milli Kongrece seçilecektir. Kongre toplanmamışsa, bu seçimi Temsil Heyeti yapacaktır.

4. Kuva-yı Milliye'yi tek kuvvet tanımak ve milli iradeyi hakim kılmak temel esastır.

5. Hıristiyan azınlıklara siyasi hakimiyet ve sosyal dengemizi bozacak ayrıcalıklar verilemez.

6. Manda ve himaye kabul edilemez.

7. Milli Meclis'in derhal toplanmasını ve hükümet işlerinin Meclis tarafından kontrol edilmesini sağlamak için çalışılacaktır.

8. Milli irade padişahı ve halifeyi kurtaracaktır.

Yukarıdaki maddelerin anlamı şudur: Erzurum Kongresi, memleketin bütününü ilgilendiren tarihi kararlarıyla bölgesel bir kongre olmaktan çıkmış, kendisinden sonra gelişecek tüm olayları büyük ölçüde etkilemiş bir oluşumdur.

Daha sonra yapılan Sivas Kongresi kararları, Erzurum Kongresi kararlarına dayandırılmış, Misak-ı Milli'nin temelinde Erzurum Kongresi kararları yer almıştır. Dahası, Türkiye Büyük Millet Meclisi'nin toplanış ve açılış gerekçesi Erzurum Kongresi kararlarından kaynaklanmaktadır.

Yine Mudanya ve Lozan Antlaşmaları'nın bağımsızlığı savunan maddelerinin dayanağı Erzurum Kongresi'dir. Tüm bunların yanı sıra Atatürk inkılâplarının tohumları da Erzurum Kongresi'nde atılmıştır.

Atatürk 24 Nisan 1920'de TBMM'deki konuşmasında Kongre kararlarından bahsetmiş ve şunu özellikle belirtmiştir:

Erzurum Kongresi, 7 Ağustos 1919 günü 9 kişilik bir Temsil Heyeti seçerek çalışmalarına son verdi; bu heyeti ve başkanını büyük bir görev bekliyordu.