1977년 연극계에 입문하면서 연기를 시작한 김갑수는 연극과 뮤지컬 배우로만 16년간 활동하다가 1994년 임권택 감독의 <태백산맥>을 통해 스크린 신고식을 치루었다. 거친 외모덕분에 주로 개성강한 역할을 맡은 그는 <금홍아 금홍아>, <지독한 사랑> 등의 작품에서 수준급의 연기를 펼쳤다.
TV드라마 <왕과 비>, <태조 왕건> 등에서도 강하고 선굵은 캐릭터를 연기한 김갑수는 2003년 <장화, 홍련>에서 가족의 불화를 알지만 방관만하는 무기력한 가장역을 맡아 또 다른 모습을 선보였고, <똥개>에서는 무뚝뚝한 아버지로 출연하였다. <돌려차기>에서 만세고 태권도부를 살려내려는 석교장으로 출연한 김갑수는 대중의 인기를 몰고 다니는 스타는 아니지만 탄탄한 연기력으로 승부하는 진짜 배우이다.
그는 단명하는 캐릭터를 많이 맡은 것으로 유명한데, 드라마 '추노', '아이리스', '신데렐라 언니'를 비롯해 '거상 김만덕', 제중원' 등에서 5번의 죽음을 연이어 맞았다. 그리고 2010년 10월 27일 첫 방영된 MBC 수목드라마 '즐거운 나의 집'에서는 드라마 1회 시작 5분만에 비극적인 죽음을 맞아 화제가 되기도 했다.