二级建造师证书是由建设行政主管部门颁发的。根据《建筑法》和《建筑法实施条例》，建设行政主管部门是指省、自治区、直辖市人民政府的建设行政主管部门，即建设厅、建设局等。具体来说，二级建造师证书由各地的建设主管部门颁发，包括省级、市级和地方县区级的建设行政主管部门。

考生要获得二级建造师证书，首先需要参加国家举办的二级建造师考试。通过考试后，考生需要在规定的时间内向当地建设行政主管部门递交相关材料办理证书颁发手续。建设行政主管部门会对考生提交的材料进行审核，并在符合条件的情况下颁发二级建造师证书。

因此，二级建造师证书的颁发单位是建设行政主管部门，具体的颁发程序和材料要求可能会因地区而有所不同，考生在申请办理证书时要仔细查阅当地建设行政主管部门的相关规定，确保按照规定的程序和要求进行操作。