1948년 5월 5일 서울특별시 태생이다. 경향신문 편집국장을 지낸 바 있는 언론인이자 소설가인 김광주의 아들로, 서울돈암초등학교와 휘문중학교, 휘문고등학교를 졸업하고 고려대학교 정치외교학과에 입학해 2년 만에 영문과로 전과했다. 그러나 군 복무 뒤 가정 사정이 어려워지자 중퇴했다.
군에서 제대하기 직전인 1973년에 아버지 김광주가 사망했는데, 어찌나 집안이 어려웠던지 묘지조차 제대로 구하지 못해서 김훈은 묘지 비용을 할부로 갚아야 했다.
1973년 한국일보에 입사하여 사회부 기자로서 활동하다가 국민일보, 한겨레..