1958年4月,“双牌水库枢纽工程计划任务书”上报国家计委、经委、水电部。同年7月,在中共湖南省委召开的全省大、中型水电工程施工准备会议上,双牌水库被列为全省重点建设工程之一。是年8月,成立双牌水库工程指挥部,由零陵县县长蒋德玟任指挥长,省水电厅副厅长史杰坐镇指挥。1958年11月5日破土动工,调集零陵、东安、祁阳等县11000劳力上马修建。其大坝枢纽施工采用从左岸到右岸,底孔导流的三期围水方案;一期围堰于1958年11月开始,在左边河床施工,建筑左岸挡水坝与电站厂房基础开挖和浇筑挡水混凝土工程;二期围堰于1959年8月开始,采用右岸混凝土围堰,河床中间导流;三期围堰于1960年8月开始,9月5日正式截流,采用河心三个预留底孔泄流。1962年,该工程陆续封闭导流底孔,围水导流清基阶段结束,土建任务基本完成,1962年8月船闸通航,到1963年枢纽工程全部完成。1963年11月,时任中共中央中南局第一书记陶铸视察双牌水库,并亲笔题写“双牌水库”库名。双牌水库枢纽工程共耗资9620万元,全部由国家投资