戰爭初期，蘇聯國家安全機關反間諜部門在對抗中沒有任何優勢。由於受到大肅反的影響，中央和地方反間諜機構人員嚴重短缺，根本無力對抗戰前就精心準備、嚴格培訓、並在攻佔奧地利、捷克斯洛伐克、波蘭、法國的行動中得到鍛練的德國間諜的猖狂進攻。1941年5月，德國組建了負責蘇德戰場偵察和破壞活動的專門機構，散佈在德國陸軍北方、中央、南方集群中，在戈斯「每個人都能、都應成為間諜，沒有得不到的秘密」的鼓動下，對蘇聯進行最大規模的間諜破壞活動。
蘇聯反間諜機構顯然沒有任何準備，在戰爭爆發當天頒布的蘇聯人民國防委員會反偵察局戰鬥條令中明文規定其主要任務是查處紅軍中的反蘇分子，德國間諜竟然不是主要敵人，只是在戰爭爆發5天後，才緊急了工作重點。
戰爭初期，間諜與反間諜活動領域的戰略主動權被德軍牢牢掌握，蘇聯反間諜機構的許多秘密文獻被德軍獲得，機構、人員、行動計畫等情況暴露無遺。蘇聯反間諜機構倉促應戰，向前線派出不少特工，但損失慘重，大部分人被德軍抓獲，個別成功潛伏下來的特工得到情報後卻因無線電技術裝備落後無法及時匯報。使用其他方式則經常使情報失去了時效性，喪失了情報價值。還有部分特工因戰時聯繫方式無效或遭到蘇軍特種部門盤查，無功而返。
不過，蘇聯反間諜機構隨後及時應對，全面採取措施，動員一切力量，嚴格保守國家和軍事秘密，在所有企業和機關建立嚴格的保密制度，禁止通過郵遞渠道傳播任何可能破壞國防能力和國家安全的消息，加大對抗德國間諜或其他破壞活動的力度，偵察德軍間諜活動意圖，清除叛徒和逃兵，保障大型工業目標東遷，組織游擊隊，建立偵察顛覆分隊。
由於德國間諜活動方式各異，效率高，潛伏和隱蔽手段多樣，蘇聯反間諜機構在較大工作壓力下，在戰事地區和後方積極採取措施，組建特種分隊，搜查間諜和顛覆破壞分子，在前線各個檢查站及有可能被滲透的地方加強警戒，設立流動哨，降低德軍間諜滲透的可能性，減少其間諜破壞活動次數，全民動員，一旦發現敵特傘降，在接到當地居民報告後馬上派出常備值勤隊搜捕敵人，加強內部管理，提高情報、密碼防護水平，轉移檔案文獻，同時組織人員到德軍後方進行偵察和破壞活動，組織游擊運動，領導地下工作。
不久，蘇聯反間諜機構逐漸獲得了一些優勢，幫助蘇軍司令部鞏固了部隊戰備水平，多次粉碎敵方間諜活動，僅在莫斯科保衛戰期間就抓獲了300多名德國間諜，擊潰了50多個間諜顛覆隊的活動。1941年，僅在西部戰線，蘇軍反間諜機構和後方安全機關就發現並逮捕了1000多名德國間諜和破壞分子，德國在中部方向顛覆蘇軍組織、破壞前線基礎設施的行動多次失利。1942年初，國家安全機關隊伍得到了實質性的補充，集中力量全面打擊德國間諜，到1942年底，終於基本度過難關，建立了高效行動系統，採取了系列防範措施，僅在1942年1-11月期間，就抓獲了170名間諜，德國間諜此後再也無法獲得蘇聯高層大型進攻戰役準備方面的戰略情報。
在戰爭後期，蘇聯反間諜機構工作更加出色，多次粉碎德國間諜偵察和破壞活動，抓捕了大量間諜和破壞分子，同時積極在敵後活動，獲得了許多重要情報，其中不乏能左右戰鬥、戰役勝負乃至戰局的重要情報，為蘇聯最終戰勝德國法西斯立下了汗馬功勞。
