很快,他获得了出演电视电影《荒唐大兵》(No Time for Sergeants)的机会,作品的成功接连催生了舞台剧和电影版《荒唐大兵》的相继问世,格里菲斯也以其出色的滑稽军人的角色征服了观众和评论界。《纽约时报》曾用热情洋溢的笔调写道:“没有人能抵御格里菲斯的魅力。”《荒唐大兵》成为了上世纪50年代末美国大众文化中家喻户晓的喜剧品牌,后来出现的喜剧剧集《傻子军士派尔》就从中直接汲取了大量的灵感。
同一时期,安迪•格里菲斯在批判现实主义电影大师伊利亚•卡赞的作品《登龙一梦》(A Face in the Crowd)中的表演,则凸显了他在正剧中拿捏小人物的杰出天赋。这是他第一次出演电影。片中角色也是来自乡下,但口若悬河,阴差阳错地成了电视节目主持,成名后,对权力的渴望使他逐渐迷失了自己——或者说,暴露了自己——最终只能以悲剧收场。