以前から、Mayaのブーリアンはほとんど成功しない、というイメージがあったのでほとんど使っていませんでしたが、コツをつかめば、成功する場合、失敗する場合がなんとなく解ってきた気がします。
そして、マスターするとかなり使える！
まずは失敗した場合のモデルの状況について。
��．なにかしらのモデルが残っている場合
これはおそらく、法線の向き、もしくは演算方法が間違っている場合がある。
この状況の場合はほとんど成功しているので、法線の向きをチェックし、演算方法を確かめてみてください。
２．モデルが消失する場合
まぁ、失敗するとほとんどがこうなると思います。
では、どうして失敗するのか、一つ一つチェックしていきましょう。
法線の向きはあっているか、頂点、エッジ、面が重なっていないか、隙間がないか、ゆがんだポリゴンがあるか・・・等々
要するに、まず、ブーリアンを行う前にクリナップ、ヒストリーの削除を行うのが手っ取り早いと思います。
この手順を行っても失敗する場合は、おそらく、どちらか片方のポリゴンがひとつの囲われたポリゴンでなく、抜こうとしているポリゴンが境界エッジからはみ出している場合があると思います。
どういうことか画像で説明すると、
この場合、片方（平面）が開いたポリゴンで、もう片方が閉じたポリゴン。
境界エッジの内側にいるので、
きれいに抜くことができます。
これを、境界エッジの少し外側、
つまり、少しだけはみ出した状態でブーリアンを行います。
見事に失敗です。
これは逆も言えますし、両方が開いたポリゴンであっても起こります。
なので、単純にこの状況を改善してやれば、成功します。
解決策としては、開いたポリゴンを、無理やり閉じたポリゴンにしてやる、
もしくは、境界エッジに重ならないようにエッジを広げてあげれば成功します。
そのあとで望みの形に編集します。
まず、エッジを広げて境界エッジに収まるようにする。
その状態でブーリアン。
あとは伸ばした不要なポリゴンを削除すれば完成。
この方法で、ほぼ回避ができるかと思います。
それでも、どうしても成功しない場合は、
Mayaを再起動してみてください。直ったりします。
この辺はMayaのバグなのか、作業が進行するとよく起こる現象です。意外とこれが一番近道だったりしますが、ご愛嬌ということで。
それと、ひとつ便利なMEL。重なっている部分にエッジを追加してくれます。原理はブーリアンと同じ。
http://www.creativecrash.com/maya/downloads/scripts-plugins/modeling/poly-tools/c/jhpolystencil
