根据具体的应用情况选择。

用介词in的时候特指去医院看病，如果你去探病，不能说in the hospital；用介词at的时候强调医院这个地点，一般是探病或者上班。在表达地点的时候，at一般指具体地点，in表达在一个范围内。