ここの開発サイトですが、PukiWiki/1.4/InlinePlugin にあるネストのサンプルが動作しなくなっているようです。
&size(16){16px &color(red){ 赤 &size(24){ 24px }; }; &color(green){ 緑 }; };
16px 赤 24px 緑
手元の4月17日時点のCVS版 ではちゃんと動作するので、 最近の変更によるものだと思います。