位于沂水路11号的总督府坐落在观海山之南坡，背山面海，居高临下，天然造就了权力机构的肃穆和威严气势。

它始建于1903年，由德国建筑师拉查鲁维茨根据19世纪欧洲公共建筑的艺术形式设计，大楼外表均采用青岛优质花岗岩石料砌成，屋顶覆盖红色筒瓦。整个建筑既庄重典雅，又美观坚固，至今仍属青岛市著名建筑之一。

90年代初，青岛市人民政府根据大楼原貌在其北侧又建一幢新楼，新楼之外形、体量、材料以及装饰均与老楼相同，遂使长条形的“总督府”在经历近90个春秋后，成为一个宏大的方形建筑群。

大楼周围环境的规划设计的十分得体。楼体坐北朝南，楼门前自左向右辐射出6条马路。正南方恰好正对青岛路，并以青岛路为轴线，周围道路呈对称之势。道路两侧原多建有德国高级官员住宅，以及执法机关、洋行、旅馆、饭店等，此外英、法、美、日等国驻青领事馆也设于此，从而使这一带形成了当时以总督府为中心的行政中心。

总督府可以说是青岛风雨百年的见证。1996年国务院已将其列入国家级文物保护单位。

总督府现为青岛市人大常委会办公楼。