由于“精干”、“政治軍事皆能對付，且能機警耐苦”，李井泉受命開辟大青山抗日根據地

1937年8月，紅軍改編為八路軍北上抗日。時任紅二方面軍第四師政委的李井泉，擔任了第一二O師（師長賀龍，政委關向應）第三五八旅（旅長張宗遜）副旅長（不久改任政委），在民族抗戰之初就聲名大噪。

“10月3日，日軍侵占寧武城。賀龍指揮李井泉支隊襲擊寧武。事前，他反復叮囑李井泉要做好群眾工作，取得當地人民的協助。李井泉照此辦理，派出工作組進行群眾工作，效果顯著。由于寧武城里有10多名群眾跑出來報告情況、做向導，使攻城部隊迅速襲入寧武，殲敵50余人。”10月中旬，為配合國民黨軍搞好忻口會戰，“張宗遜、李井泉按賀龍指示，指揮第七一五團14日黃昏襲擊了南北大常，攻占了永興村，殲敵100余人。襲占南北大常、永興村以后，張宗遜、李井泉即率部向東活動，襲擾敵人，牽制日軍”。（見官方的《賀龍傳》）

平綏鐵路在大青山南麓通過，聯接歸綏（今呼和浩特）、包頭、集寧3個重鎮，是日軍侵華的重要樞紐。大青山東西綿延300多公里，南北寬50多公里，面積2萬多平方公里。從戰略上看，大青山地區是通往大西北和陜甘寧邊區的北部門戶，又靠近晉西北抗日根據地北翼，地位甚為重要。1938年5月，毛澤東致電賀龍等：“在平綏路以北沿大青山建立游擊根據地甚關重要，請你們迅即考慮此事。”6月11日，毛澤東又致電八路軍總部：大青山脈的重要性如來電所述，該地區派何種部隊、何人指揮及如何作法，由你們依據情況處理。不過，他特別強調：派往該地區的部隊“須選精干者，領導人須政治軍事皆能對付，且能機警耐苦，而有決心在該地創立根據地者”。

八路軍領導人朱德、彭德懷決定，去大青山的部隊由第一二O師派出，歸賀、關指揮，并且根據毛澤東的有關指示，建議由李井泉率隊前往，其他事項由賀、關決定。

賀龍、關向應等立即決定組織大青山支隊，任命李井泉為支隊司令員兼政委、第三五八旅參謀長姚喆為支隊參謀長，支隊主要武裝是王尚榮、朱輝照率領的第三五八旅第七一五團。朱德、彭德懷選中李井泉，說明他們認為李井泉“精干”、“政治軍事皆能對付”、“機警耐苦”。這個評價當然是極高的。

1938年9月初，李井泉第一二O師大青山支隊共2300余人冒著酷暑北上，下旬由晉北進入綏遠。他們按賀龍、關向應指示，在涼城地區留下一個營依托蠻汗山建立綏南根據地，以保障晉西北與大青山區的聯系，主力越平綏路抵達歸綏、武川、陶林、集寧地域，開辟綏中根據地。9月下旬，支隊主力進到歸綏、武川公路以西。