新馆拥有大小一系列院落，其中最重要的是入口庭院和位于入口大厅北面的主庭院。入口庭院是博物馆大门和入口大厅之间的过渡，与大门一样，它表现出一种对市民的欢迎态度。不同于国内很多博物馆，苏博的入口庭院属于城市的公共空间，人们无需门票就可以在此漫步，无形中拉近了普通市民与大师作品的距离。

　　庭院保持了贝聿铭先生一贯的优雅气质：白色的墙面，米色的砾石，黑色的屋顶，另外就是被精心修剪的单株树木，没有一丝多余的装饰，纯净而充满禅意的设计使进入庭院的人不由自主地沉静下来，可谓“结庐在人境，而无车马喧”。
　　透过大厅月亮门式的玻璃门，与入口庭院相互掩映的是大厅北侧的主庭院。和传统园林一样，这里是整组建筑的精髓所在。古人云：“无水不成园”，贝先生在主庭院中也设计了一方镜水，它位于主庭院的中央，新建筑沿东、南、西三个方向围绕而立，与北侧拙政园的围墙遥相呼应。一座贴水而建的曲桥把水面一分为二，人们漫步其上，随着曲桥方向的改变，可以从不同的视角观察博物馆。
　　水面的东岸和南岸设计师精心种植了数株小树，他们或疏或密，姿态各异，在背景白墙的衬托下尽情展示着各自的风韵。天气好的时候，树木的影子随阳光的移动在白墙上不断变幻，为本来一成不变的墙面平添了无限的风景。西岸种有两丛青竹，他们守护着西侧展厅通往主庭院的出口，凤尾森森，给传统文物展区带来了一丝幽静的感觉。绿竹的掩映下，贝先生还设计了一座八角形的茶亭，同样采用了钢构架和玻璃屋顶的处理方式，在现代中透着古韵。但遗憾的是亭子的整个体量稍大，钢构架也略显粗壮，少了几分轻灵。
　　在主庭院北侧，贝先生采用了“堆山”的手法。与传统园林不同，此处假山不模仿自然山石，而取法宋代大家米芾的山水画：颜色有微妙不同的泰山石略作斧凿后，被层层叠叠地立在水边砂石中，“以壁为纸，以石为绘”，在水影和白墙的衬托下尽显写意山水画的魂韵。