1956년 서라벌예술대학 문예창작과를 졸업, 그 해 편집기사로 영화계에 입문했다. 김소동의 <왕자 호동과 낙랑공주>의 조감독을 거쳐 1961년 한국전쟁을 배경으로 한 영화 <5인의 해별>을 김화랑과 공동 연출하면서 감독에 데뷔했고, 이 작품으로 1962년 대종상 신인 감독상을 수상했다.
1961년 데뷔해서 1977년 은퇴하기까지 총 66편의 작품을 연출한 김기덕은 김수용, 이만희 등과 더불어 1960년대 영화계의 흐름을 대표하는 젊은 감독의 대열에 속해 있었다. 이 시기 흥행을 주도했던 대표적인 장르는 '청춘영화'라 불렸던 멜로영화였다. 김기덕의 <맨발의 청춘>(1964)은 그 중에서도 단연 돋보이는 작품으로, 희대의 청춘스타 커플 신성일, 엄앵란을 주연으로 하여 하층민 남성과 상류층 여성 사이의 이루어질 수 없는 사랑을 그린 비극이다. 계급과 절망의 문제를 멜로 드라마라는 대중적 장르에 녹여냈다. 그리고 이국적이면서도 자유로움의 상징이 되는 '빠'나 정원이 달린 호화주택과 별장 등의 영화 속 공간과 트위스트 김의 화려한 댄스와 같은 시각적 장치들을 통해 젊은 세대의 막연한 동경과 욕망을 재현해내는 데도 성공하면서 이 작품은 당시 큰 인기를 끌었다.
전쟁을 배경으로 한 멜로 드라마<남과 북>(1965)은 김기덕을 샌프란시스코영화제와 베니스영화제로 안내했다. 피난 시절 헤어진 아내를 찾아 부대를 이탈해 귀순한 북한군이 국군 중대장과 이미 새로운 삶을 살고 있는 아내를 만나 겪게 되는 갈등과 분단의 아픔을 다루었다. <말띠 신부>(1966)에는 백말띠 해에 태어난 여자는 팔자가 드세다는 통념에 반응하고 이에 도전하는 여성들의 모습이 코믹하게 그려지고 있다.
당시 한국영화에선 불모지나 다름없었던 SF장르에 도전하고, 비록 대부분이 일본의 기술에 의존한 것은 사실이지만, 특수효과의 지평을 열었다는 점에서 <대괴수 용가리>(1967)역시 주목할 만한 작품이다. 편당 500만~600만원의 제작비가 평균적이었던 당시에 1300만 관객을 동원하면서 흥행에도 크게 성공을 거두었을 뿐 아니라 해외에도 수출되어 한국감독으로서 김기덕을 해외에 알리는 계기가 되었다. 판문점 근처에서 솟아 나와 남한을 위협에 빠뜨리는 괴물 용가리의 출현은 한국전쟁을 상기시키면서 1960년대 관객에게 생생한 공포감을 자극했고, 이 떄문에 이 작품은 반공영화의 대열에 오르내리기도 한다. 1998년 제작된 심형래의 <용가리>의 모티브가 된 것으로 알려지면서 잊혀졌던 <대괴수 용가리>의 존재가 근래에 새로이 부각되기도 했다. 다양한 장르적인 실험과 왕성한 작품 활동, 기록적인 흥행 실적에도 불구하고 지금까지 감독으로서의 김기덕에 대한 평가와 조망이 인색했다면, 일본영화와의 상관관계에 대한 논란이 그중 한 이유가 되었을 것이다. <맨발의 청춘>은 일본의 '태양족 영화'<진흙 속의 순정>을 개작한 것으로 알려졌고, <대괴수 용가리>는 종종 쇼치쿠의 <고지라 > 시리즈와 비교되곤 한다.
1977년 이후 김기덕은 작품활동을 접고 서울예대 영화과 교수와 대종상 심사위원 및 집행위원, 공연윤리위원회 심의위원 등을 역임하면서 최근까지 영화계 인사로 활발하게 활동해왔다.