Galaxy Nexusでは、音量を下限にした状態からさらに下げると「バイブ」→「ミュート？サイレント？（音もバイブも鳴らない状態）」に切り替わります。
一週間このことがわからなくて、バイブなしで通知が来ているのを見ては「oh…」と嘆いていました。

音を鳴らしたくないときにとりあえず音量下ボタンを連打する方は嵌まりやすいと思いますので、メモっておきます。

端末左上側面の音量ボタンで音量を下限にしたのが以下の画面です。

この状態で下を押すと「音は鳴らない、バイブは鳴る」状態になって、

さらに下を押すと「音もバイブも鳴らない」状態になります。