AIが描いたイラストを見分けるAIが必要？

こんにちは、GVA TECH の長井です。

最近、イラストを自動生成するAIが何かと話題になっていますね。

この記事のカバー画像も、あるサービスで「絵を描くロボット」の画像を生成してみたものです。実は初めて自分で触ってみたのですが、狙った画像を出すまでに結構工夫が必要ですね。いろいろ試してみてもなぜか人間がロボットの絵を描く構図になってしまって...。なかなか奥が深くて面白いなと思いました。

個人的には画像を扱う仕事ではないこともあって、そうしたAI自体の是非についてはあまり強い意見は持っていないのですが、自分で描いたイラストを無断かつ無償で学習に利用されるイラストレーターのやるせない気持ちは想像に難くないですし、技術者として純粋にどこまでクオリティの高いイラストが生成できるかチャレンジしたい気持ちもわかるので、難しいところです。

AIによる学習や生成については、少なくとも現行の著作権法では適法という解釈が強いと思いますので、法改正等で今後規制されるかどうかは見守っていくとして、Twitterなどを見ていると 「人間が描いたイラストとAIが生成したイラストを見分けるAIが必要なのではないか」 という内容をちらほら見かけます。

上述の通り、イラストを生成するAIについて強い意見は持っていないので、防御策の必要性については一旦置いておくとして、防御が目的でそのような判定AIを作るというアイデアについては 「悪いことは言わないからやめておけ」 と言いたいです。
できる/できないの問題ではなく、完全に逆効果だと思われるからです。

敵対的生成ネットワーク（GAN）

敵対的生成ネットワークという言葉を聞いたことはあるでしょうか？ Generative Adversarial Network の訳語で、英語の頭文字をとって GAN と呼ばれることが多いです。

技術的な詳しい解説は調べればいくらでも出てくると思うのでそちらに譲るとして、仕組みを簡単に説明すると以下のようなものです。

画像を生成するAI（Generator）と、画像の真贋を識別するAI（Discriminator）を用意する
Generator は Discriminator を騙そうとし、Discriminator はそれを見破るために学習を重ねていく
結果として、より精度の高い Generator （と Discriminator）が完成する

おわかりいただけたでしょうか。冒頭のような 「イラストが人間によるものかAIによるものかを判定するAI」 というのはまさにこの Discriminator でして、より精度の高い Discriminator が登場すれば、Generator はそれを騙すためにより人間に近い画像を生成するようになるので、防御策どころか相手に餌を与えているようなものです。
なんかこう、少年漫画とかで主人公の成長を促すためにあえて壁として立ちはだかるちょっと粋でカッコいい敵役みたいなポジションになってしまうのではないでしょうか。まあちょっとカッコいいポジションだからそれもありかも...？

というか、そもそも最初から内部にそのような仕組みが入っている可能性が高いですね。すべての画像生成AIが GAN を採用しているとは限りませんが、画像生成の分野では既にかなり一般的な技術になっているので。

根本的な解決のために

個人レベルでできる対応というと、なんでしょうね...。そもそもどういったところを問題点と捉えているかによっても考え方は変わってくると思うので、なかなか一概には言えないかもしれないですね。

例えば、問題の一つとして、学習データとして使用されたイラストの著作者が適切な（というか一切の）対価を得られないという構造的な問題もあると思っているのですが、現行の著作権法では、これを防ごうと思ったら、有料サービスを通じてのみイラストを公開するなどSNS上でのパブリックな公開を制限するしかない気がします。
ただ、みんながそれをやってしまうとイラスト業界全体の衰退につながっていくように思うので、それもなんだかな、と思ってしまいます。AIの開発者だってイラスト業界を盛り上げたいという気持ちで作っているはず（と信じたい）ですし、本意ではないでしょう。

となると、身も蓋もないですが、結局はやっぱり法整備を進めるしかないのかな、という気がします。
「文化の発展に寄与する」という著作権法本来の目的を達成しがたい状況になれば、検討してもよさそうです。
ただし、法でガチガチに規制すれば当然技術の進歩も遅くなると思いますし、規制が本当に必要なのかも含めて、慎重に議論を重ねる必要があると思っています。

基本的にどんな技術であっても、技術そのものにはいいも悪いもなくて、使い方次第で便利にもはた迷惑にもなると思いますし、AIによるイラスト生成も個人で遊んでる分には普通に楽しい、いい技術だと思ってるので、規制なんかなくても使う側の方で倫理観を持って楽しく技術を発展させていければ一番いいと思うんですけどね。難しいものですね。

とりあえず、どうしても人間かAIか確認したいときは、ラーメン食べてる絵を描いてもらいましょう！

GVA TECHでは現在、一緒に働く仲間を募集中です。

AIエンジニアはもちろん、他にも様々なポジションで求人を出しているので、もし興味があればぜひ覗いてみてください！