括弧には種類があり、全角半角によっても違いますし、使われ方もさまざまなので、前提条件を決めてチェック方法を考えないといけません。例えば丸括弧ですと、１）やA)というような使い方がされるため、「括弧を開かないで閉じている」というミスのチェックは難しそうです。ただ、日本語の「」や『』などは、そういう使い方がされないと予測されますから、チェックできそうですね。
ここではタイトルにある通り、前提条件として「括弧を開いたのに閉じ忘れたもの」を検出するためのワイルドカードを考えてみましょう。
まず、検索方法を考える上で、もうひとつ前提条件を付けます。それは、括弧ペアは必ずパラグラフの中で閉じているという条件です。私が翻訳で見ている文書を思い返しても、括弧ペアが文をまたぐのを見たことがありません。つまり、１文内にある括弧は必ずその１文の中で開いて閉じるということになります。言い換えれば、括弧を開いて閉じ忘れた状態とは、閉じる括弧が文末になっても現れない状態のことをいいます。
文末を知る上で使えそうなのは、英文であればピリオド、日本文であれば句点などでしょう。ただ、調べる種類が増えそうですので、検索文を簡略化するために少々乱暴ですが、改行コード ^13 を使うことにします。
[\(\[（「『【][!\)\]）」』】]@^13
最初の [(]（「『【] は括弧を開いたところを検索。続く [!)]）」』】]@ で開いた括弧に続いて、閉じ括弧以外の文字列の連続を検索し、括弧が閉じないまま改行コード ^13 が見つかれば、検索式にヒットします。
これで対応できる括弧ペアは、() [] 「」『』【】です。他の括弧ペアもチェックしたいときは、この検索式に盛り込めば利用できます。
※ この記述方法の制限として、括弧の入れ子は検出できません。
WildLight 