오가칠종의 선종 가운데 운문종(雲門宗)은 운문 문언(雲門文偃:864~949) 선사가 종조(宗祖)이다. 운문종도 육조 문하에서 청원행사, 석두희천으로 법맥이 이어져 와 설봉의존 밑에서 탄생하였다. 운문 선사는 당나라 말 오대(五代)의 스님이다. 절강성(浙江省) 가흥(嘉興) 출신으로 공왕사(空王寺)에 출가하여 스님이 되었다. 비구계를 받고 처음에는 여러 경론을 섭렵하고 〈사분율(四分律)〉을 깊이 연구하기도 했다.

선(禪)을 시작한 것은 목주 도종(睦州道?)의 문하에서 였으나 나중에 설봉의존(雪峰義存)을 친견하고 3년 동안 공부하고 인가를 받아 그의 법을 이어 종지를 전수 받았다. 그 후 제방을 편력하다가 소주(韶州) 운문산(雲門山) 광태선원(光泰禪院)에 주석하게 되었는데, 이때에 그의 문하가 크게 융성하여 산 이름을 따 운문종이라 부르게 되었다.

운문종에 대해 평한 말은 여러 문헌에 나타나 있다. 〈인천안목〉에는 “운문종의 종지는 온갖 망상의 흐름을 끊고, 헤아리는 어떤 분별도 용납하지 않으며, 범부도 성인도 갈 길이 없고, 색각에 의한 이해로는 통할 수 없다.”(雲門宗旨 絶斷衆流 不容擬議 凡聖無路 情解不通)고 하였다.

운문 선사가 사람들을 제접할 때마다 남긴 말이 공안이 된 것이 여러 개가 있다. 예를 들면 ‘간시궐’ ‘호떡(?餠)’ ‘화약란(花藥欄)’ 등이다. 한 학인이 부처가 무엇이냐고 묻자 운문 선사가 ‘마른 똥 막대기(乾屎)’라고 답했다. 또 한 번은 “어떤 것이 부처와 조사를 초월한 말입니까?” 하는 질문을 받고는 ‘호떡’이라 대답했다. “청정한 법신이 무엇이냐?”는 물음에 대해서는 화약란(花藥欄)이라 답했다. 화약란은 정원에 목책으로 둘러쳐진 활짝 핀 함박꽃 울타리를 말한다.

부처가 왜 마른 똥 막대기인가? ‘호떡’과 ‘화약란’은 또 무엇인가? 이런 식(式)의 말을 격외구(格外句) 또는 격외현담(格外玄談)이라고 한다. 격식 밖의 말 곧 상식을 초월한 어구로 선에서는 이 격외구를 알아차리는 것을 활구(活句) 소식을 얻는다 한다. 활구(活句)란 사구(死句)와 상대적인 말로 선종에서 써 온 용어인데 의미(義味)가 있고 의로(意路)가 통하는 말을 사구라 하는 반면 의로가 통하지 않고 의미를 알 수 없는 것을 활구라 한다. 일반적인 상식, 보통 사고의 틀을 벗어나 어디에도 구애 없이 자유롭게 본심을 드러내는 현묘한 말이라고 한다.

조사선(祖師禪)을 원래 격외선(格外禪)이라도 불렀다. 또 격외현기(格外玄機)라 하여 견성(見性)한 사람이 부리는 사유와 분별을 초월한 현묘한 기용(機用)으로 조사선에서 견성한 자를 감변(勘辨)하는 표준으로 사용하는 것을 두고 하는 말이다.

“격외의 기틀로 격외의 작용을 시행한다”는 말이 있으며 “현묘함을 말하고 도를 부르짖는 것이 모두 격외의 기틀이 아님이 없으니, 새가 나는 길처럼 종적이 없어야 도인이 가는 길이라고 할 것이다”고 했다.

이와 같이 격외선지를 거량하면서 종풍을 드날렸던 운문종은 북송(北宋) 시대를 정점으로 크게 흥성했다. 남송시대에 와서는 금(金), 요(遼), 원(元) 등 유목민족의 침입으로 북방지역에 있던 운문종 사찰들이 사원을 유지할 경제적 기반이 소실되면서 위축되기 시작하였고 원대에 와서 쇠퇴하고 말았다.

〈경덕전등록〉에 기재된 운문 선사의 사법(嗣法) 제자는 25인으로 나오는데 그 중 동산수초(洞山守初), 향림징원(香林澄元), 뇌악실성(雷岳實性), 덕산연밀(德山緣密), 쌍천사관(雙泉師寬), 파릉호감(巴陵顥鑒) 등이 대표적인 제자다. 운문 선사의 제자 향림징원의 법맥을 계승한 불국유백(佛國惟百)은 운문종과 임제종의 공안을 위주로 등재한 〈건중정국속등록(建中靖國續燈錄)〉을 1101년에 편찬하였고, 남송 때 뇌암정수(雷庵正受)는 1204년에 〈가태보등록(嘉泰普燈錄)〉을 편찬하였다. 운문 선사의 어록은 〈운문광록(雲門廣錄)〉이라 줄여 말하는데 운문 선사가 열반에 든 뒤 9년 후인 후주(後周) 때인 958년에 수견(守堅)이 엮었다. 그 뒤 1053년에 천의의회(天衣義懷)에 의해 수정되었고, 다시 1076년에 소해(蘇?)의 간정(刊正)을 거쳐 1143~1145년에 원각종연(圓覺宗演)이 교감하여 이 교감본이 1267년 〈고존숙어록(古尊宿語錄)〉에 추가되었다. 이후 다시 명나라 때 판각된 〈고존숙어록〉을 거쳐 명대(明代)에 곽응지(郭凝之)가 편찬한 〈오가어록(五家語錄)〉의 저본이 되었다.