ここで二値化の功罪について書くのも今更感があるので省略しますが、特に作画の方の二値化への殺意は察するに余りあるかと思います。
線画の再現性を高める方法として、セルの解像度だけ上げるというオーバーサンプリング的な手法が思いつきます。確かに効果は高く、ワークフローを一切変えずに済むのですが、如何せんリソースの無駄遣い感が否めません。
そもそも、二値化に関してRetasが戦犯のような扱いを受けていますが、 実のところRetasには「階調線」という手段が用意されています。
これは通常通り二値化した線画を1pxまで細くして彩色、その後にグレースケールの線画を上に重ねるといった機能です。これならば二値化の恩恵を受けて彩色できる上に、線画を二値化から逃がすことが出来ます。色トレス線に繊細なタッチも糞も無いので理にかなった方法です。
じゃあこれで良いじゃんという気がするんですが、そうはいきません。今は彩色段階だけでなく撮影でも二値を利用しますし、作画ソフトが多様化した今、必ずセル素材がRetasを通過するわけでは無いからです。
長い前置きですが、要はAEで階調線的なアプローチを使いたい!というのが今回の主題です。
方法
とりあえずフッテージを二種類用意します。
・通常通り二値化して彩色した画像

・二値化していない彩色前のカラー画像
彩色前&二値化前のカラー画像ですが、ゴミ取り等は済ませた状態である必要があります。アナログの場合はほぼ必ず色トレス線が含まれていると思いますが、デジタル作画のように分離できる場合は最初から主線のみの方が便利だと思います。
この2種類をAEにぶち込んで、二値画像を下に、彩色前の画像を上に配置します。
彩色前の画像は主線のみを抽出したいので、こんな感じのエフェクトを追加してみます。

通常の二値画像は主線を消し飛ばして、かつアルファのエッジを縮小したいので
「F's Pluguin」の「F's MainLineRepaint (oldじゃない方)」を適用して、主線色を設定します。

そうすると、重ねた状態がこうなります。

あとは二値画像の方にいつも通りエフェクトを追加したりスムージングかけたりすれば良い訳です。
案外簡単な気がします。一番面倒なのは2種類フッテージを用意しなきゃいけないところでしょうか。紙の場合(TraceMan&PaintMan)はゴミ取りするタイミング等色々考えなきゃならない部分が出てくると思います。
もっといい方法あるよ!っていう場合は教えて頂けると幸いです。

あとは二値画像の方にいつも通りエフェクトを追加したりスムージングかけたりすれば良い訳です。
案外簡単な気がします。一番面倒なのは2種類フッテージを用意しなきゃいけないところでしょうか。紙の場合(TraceMan&PaintMan)はゴミ取りするタイミング等色々考えなきゃならない部分が出てくると思います。