#033 生成AIツールを使う際の注意点。「AIが作る」のでなく「AIで作る」という意識と責任(前編)

#033 生成AIツールを使う際の注意点。「AIが作る」のでなく「AIで作る」という意識と責任(前編)

イラスト生成AIツールの仕組みと、生成AIツールが抱えるリスクや問題点とは?

2023/11/8

目次

    こんにちは、文筆家/ライターの淺羽一( @KotobaAsobiComです!
    昨今、AI(人工知能)によって自動的にイラストや文章を生成するツール――生成AIツールが発展し、様々な場面で利用されています。
    生成AIツールは従来のデジタル技術と比較して大幅に作業効率や生産性を向上してくれるものであり、いっそ本人の実力に見合わない高品質なコンテンツを簡単に生成できると思っている人も多いでしょう。
    しかし、本当にAIや生成AIツールはそこまで理想的なほどに正確で便利なものなのでしょうか?
    今回は、前半で生成AIツールが抱えている社会的な問題を踏まえた上で、後半ではパートナーアーティストである斉藤幸延( @yonyon76にも協力してもらい、実際にプロのイラストレーターとして生成AIツールを活用する方法や注意点などを解説していきます。


    【そもそも生成AIツールとは?】

    生成AIツールとは、AI(人工知能)を利用して、自動的・半自動的にイラストや文章、動画といったコンテンツを生成・作成するAIツールの総称です。現在はイラスト生成AIツールや文章生成AIツール、動画生成AIツールなど様々な種類があり、目的に応じて使い分けられています。
    生成AIツールの技術は多分野で加速度的に進化しており、利用者があらかじめ何かしらのテーマや目的、キーワードを提供することで、AIがそれらの条件に合わせてコンテンツを自動生成してくれるシステムはまさに発展途上です。
    なお、例えば生成AIツールで生み出されたイラストはAI生成イラストやAIイラスト、AI絵などと呼ばれます。


    【AI(人工知能)と従来のプログラムの違いは?】

    〈人工知能(AI)――自ら学習し進化するプログラム〉

    人工知能とは文字通り『人工的に開発された知能』としてコンピュータ科学の分野で使われる技術です。人工知能を意味する英語『Artificial Intelligence』の頭文字を取ってAIと呼ばれており、従来のコンピュータのプログラムと異なる点は、AI自身が数多くのデータと試行の繰り返しによって〝学習していく〟という点でしょう。
    例えば、コンピュータへ「○○をしろ」と指示を出すとします。従来のコンピュータの仕組みであれば、あらかじめ指定されたプログラムや手順にもとづいて、その命令を再現します。何度同じことを繰り返しても、与えられたプログラムに従って忠実に命令を実行することがポイントです。

    一方、AIもコンピュータのプログラムとして構築される以上、やはりあらかじめ用意されているデータ(情報)にもとづいて命令を実行します。ただし、同時に指示者や利用者からのフィードバックを新しい情報として収集し、次に同じ命令を実行する際には〝より良い(と思われる)手順や方法〟を用いて再現するという点が重要です。そしてそれを繰り返すことで、より効率的で、より効果的で、より『命令者の本質的なニーズに適した結果』を追求していけるという『学習』がAIの最大の特徴といえるでしょう。

    つまりAIや生成AIツールを本当の意味で有効活用するには、以下の要件を全て満たすことが大切になります。
    • 利用者が目的に合わせて適切な命令や条件をAIへ提示する。 ⇒ プロンプト
    • 十分な量と質を備えた学習用のデータ(情報)をAIに提供する。 ⇒ データベース
    • AIの成果物の内容を利用者などがチェックし的確に評価する。 ⇒ フィードバック

    〈AIは学んでいないものを〝ひらめき〟はしない〉

    将来的には、SF映画や科学小説に登場する『AI』のように、目的のために指示を出す役割や内容を評価する役割まで全てAIが担える時代も訪れるかも知れませんが、少なくとも現時点ではあくまでも〝人間〟がAIに指示を出したり評価したりという段階が重要です。
    また、AIが生み出せるのは『学習した既存情報にもとづいて生成・発展させられるもの』であり、例えば天才的な〝ひらめき〟と呼ばれるような、本当の意味で新しいスタイルやモデルを一足飛びに生み出すことは困難です。

    そのため、例えばイラストや小説の創作に生成AIツールを利用することに対して、「AIがあれば人間の技術や経験は必要ない」と考える人は少なくないものの、現実的に見れば
    〝本当に適正な作品を創作するためには人間の技術や経験や感性が欠かせない〟
    といえるでしょう。


    【学習するための情報の量と質】

    〈膨大な量の情報をまとめたデータベースと学習プログラム〉

    上述したように、生成AIツールを使って正しく理想通りのイラストや小説――成果物をAIコンテンツとして得ようとすれば、まずツールの土台としてAIに『学習』させるためのプログラムと、AIにとっての〝教材〟となる『情報(データベース)』が必要です。
    つまり、例えばイラスト画像の生成AIツールを開発・利用するためには、AIプログラムを構築するだけでなく、膨大な量のイラストや写真、絵画といった画像データを用意してAIに学習させなければなりません。


    なおAI学習のためにデータベースを構築する上で、高品質なデータはもちろん低品質なデータも等しく重要です。なぜなら、前者には高評価が認められ、後者には低評価が示されます。するとAIは新しいイラストを生成する際に高品質なデータを優先的に利用し、低品質なデータを除外するといった判断を学習できるようになるでしょう。
    これを繰り返すことで、生成AIツールの成果物はどんどんと進化していくことができます。

    言い換えれば、AIの〝進化〟においては関連するあらゆる情報の収集が不可欠です。そして現代では様々な研究者や研究チームが、AIのデータベースを構築するために『データの自動収集ツール』を利用したり、自分たちで用意したデータを入力したりしています。

    【生成AIツールと著作権の問題】

    さて、生成AIツールが批判されたり危険視されたりする理由の1つとして、『著作権』や著作権法との間に生じる問題があります。

    〈著作権の基本ルール〉

    著作権はイラストや小説、漫画、音楽など、作者が『己の感情や感性を芸術的表現・技術を用いて創作した成果物(著作物)』に対して法的に認められる権利であり、著作物が完成した時点で自動的に発生する権利です。また著作物の作者は『著作権者』として認められ、原則として他人は著作権者に無断でその著作物を模倣したり改編したり利用することができません。
    加えて、著作権は成果物の種類や内容に応じて細分化されており、さらに著作者の死後70年間は保護されています。そのため、作者が亡くなっているからといってすぐに権利が失われない点も重要です。

    〈著作権侵害は〝犯罪〟である〉

    もし他人の著作物を無断で利用した場合、それは『著作権侵害』となり、明確な不法行為で〝犯罪〟です。
    ただし、著作権は少なくとも日本の現行法において『親告罪』とされており、著作権侵害を行った者を日本の検察が起訴するためには、権利を侵害された著作権者(被害者)からの訴え(告訴)が必要となります。
    そのため、例えばアニメの同人誌や漫画の同人イラストといった二次創作カルチャーを楽しむ人々の中には、
    『著作権侵害は原作者が訴えなければ罪にはならない』
    ⇒法的にグレーゾーン(良くはないけれど違法でもない)
    といった〝誤った理解〟をしている人も少なくありませんが、実際には
    『著作権侵害は原作者が訴えなければ起訴されないだけで、本質的に犯罪行為』
    となります。
    なお、当然ながら原作者が「僕の作品の二次創作は自由にしてもらってOKです」などと明言していれば、その作品を原作者に無断で利用しても著作権侵害には当たりません。

    〈生成AIツールによる著作権侵害のリスク〉

    さて、生成AIツールと著作権との問題は、大きく2つのテーマに分けて考えるべきでしょう。

    1. 学習プログラムがネット上のイラストデータなどを自動的に収集・利用する行為⇒著作権者に無断で著作物を利用する行為
    2. 生成AIツールで自動的・半自動的に生成された成果物に著作権を認めるか否か⇒AIイラストは著作権法で保護される〝著作物〟に当たるのか?

    〈AI学習は必ずしも著作権侵害に該当しない〉

    AIイラストがしばしば『著作権侵害』と言われたり、生成AIツールが『著作権侵害を助長する』と指摘されたりする理由は、まさしく上記の『1』の問題があるからです。
    実際問題、既存のイラスト生成AIツールの多くは、ネット上などにあるイラストデータや写真データ、あるいは漫画やアニメの画像などを自動的かつ大量に収集してデータベースを構築しているとされており、当然ながらそれぞれの著作権者に対して個別に使用許諾を得ていません。
    そのため生成AIツールやAIイラストは一般的に〝著作権侵害を前提としている〟という風に考えられています。

    ただし、著作権法の条文を正しく読むと、実は『コンピュータプログラムやデータベースを構築するための学習目的』のみを理由にして著作物の情報を収集する行為は、必ずしも著作権侵害に該当しません。そのためAI学習そのものは著作権侵害に当たるとは限らない点も重要です。

    問題は、AI学習の段階で他人の著作物を収集・利用することが著作権侵害に当たらなくとも、それを〝再利用〟して生成AIツールを機能させる行為は著作権侵害に該当し得るということです。

    とはいえ、これは見方を変えると、
    『他人の著作権を侵害しないイラストや画像のみでデータベースを構築する生成AIツールでは、著作権侵害リスクは発生しない』
    といえるでしょう。
    事実、例えば画像編集ソフト『Photoshop』やデザインソフト『Illustrator』といった製品を開発・販売しているAdobe社のように、自社開発した生成AIモデル及び学習プログラムを利用し、〝著作権侵害の問題を解決した画像データのみ〟を使ってデータベースを構築した生成AIツールを提供する企業も増えています。

    つまり、プロのイラストレーターやフォトグラファーといった職業の人々が生成AIツールを利用する場合、著作権リスクに配慮されており、さらに〝商用利用〟を前提としている生成AIツールを使うことが重要となります。

    〈AIイラストに対する著作権〉

    生成AIツールと著作権の関係に関してもう1つの問題が、
    『AIイラストは著作者による作品なのか、AI(プログラム)による作品なのか』
    といった〝線引き〟です。

    著作権は、『芸術的技術を用いて作者の感情や思想を表現した創作物』を著作物として、著作物をどのように扱うのか作者(著作権者)に認められる権利です。
    つまり著作権は『作品(もの)』を対象として、『作者(人)』に与えられる権利となります。

    さて、それを踏まえて考えると、仮に生成AIツールを利用した作品が『AIが作ったもの』になるのであれば、AIイラストに著作権は認められません。

    AIイラストに対して著作権が認められるためには、
    『イラストを創作した主体はあくまでも作者であり、AIは技術や表現を助ける〝ツール〟として利用されている』
    という前提が必要となります。
    そして生成AIツールを単なる〝画像編集ソフト〟と考えるのであれば、それは従来のCGイラストの制作に使われるデジタルツールと変わらないといえるでしょう。
    もちろん生成AIツールであれデジタル画像編集ソフトであれ〝便利なツール〟であることに違いありません。ですが、筆と絵の具で描いた絵には著作権があり、CG編集ソフトを使って制作した画像には著作権がない、という考え方は現代のルールにマッチしていません。


    要約すれば
    • 創作的意図を持たない生成AIツールが自動的に生成した作品⇒著作権なし
    • 人が創作的意図の表現手段として生成AIツールを利用した作品⇒著作権あり
    となります。

    そして、上記において『人が創作的意図を表現する手段』として鍵になるのが、AIに与える指示や条件であり、それを『プロンプト』と呼びます。

    ※AIや生成AIツールと著作権の問題について、文化庁の見解などを含めたより詳細を知りたい方は、ぜひこちらの記事も参考にしてください。

    【生成AIツールとプロンプト】

    〈言葉によってイラストを描く時代〉

    プロンプトとは、利用者がAIなどのプログラムへ提示する指示や条件、質問といったものです。
    AIは利用者によって与えられたプロンプトにもとづいて、学習データを参照しながら動作を実行します。そして利用者は得られた成果物が、自分の意図したものとどの程度〝適合しているのか〟をチェックして評価し、AIへフィードバックします。

    AIはとても優秀で便利なプログラムですが、あくまでも人工的に作られている知能プログラムであり、人間の脳のように意思を持って主体的に思考するものではありません。
    そのため、利用者からの不十分・不正確なプロンプトに対して、AIが自ら〝利用者の意思をおもんばかって〟足りない部分を補足し、改めて正しい内容を創造するといった配慮は行えません。

    もちろん、利用者からのプロンプトの正確性を分析し、不足している情報を補填して動作するという流れを〝学習〟していけば、いずれAIも一見すると人間の脳と同様に自律的な思考を行うようになるでしょう。
    しかし少なくとも現時点で一般ユーザーに利用されているような生成AIツールは、そこまで優れた〝知性〟を備えていないことが事実です。

    つまり、生成AIツールを利用してAIイラストを創作するには、利用者がどれだけ適切かつ十分なプロンプトを指示できるのかという『言葉選び』が重要になるのです。

    〈イメージを言語化する能力〉

    作家が脳内にイメージしている理想のイラストや抽象的な表現を、具体的に言語化して、言葉や文章としてまとめた上で、プロンプトとしてAIに提示するという仕組みは、ある意味では『呪文を唱えて不思議な事象を引き起こす』というファンタジー世界の〝魔法〟のようなものでしょう。

    見方を変えると、言葉による具体的な表現や、抽象的なイメージの言語化を得意としている人であれば、線を書いたり色を塗ったりする技術が一切なくても『イラスト』をアウトプットできるということになります。
    あるいは、単に話題のキーワードや人気のテーマを単語としてプロンプト入力すれば、脳内に自分なりのイメージや表現がなくても〝とりあえず流行に乗った画像〟を生み出せるということでもあります。

    極論すれば、僕のように『言葉』のプロとして技術を備えている人間であれば、生成AIツールを使って自由自在にプロのイラストレーターよろしく理想のイラストを描ける……のでしょうか?

    残念ながら、この問いについては明確に『ノー』と答えるべきでしょう。

    【AIは〝正しさ〟を判断できない】

    確かに、十分な実力を備えた小説家や脚本家、ライターといったプロの物書きであれば、抽象的なイメージを言葉によって具体的に表現してプロンプトを作成することも可能です。
    しかし、そのプロンプトに従って生成AIツールが作成したイラストが、本当の意味で〝正しく目的に合致しているのか〟という判断を下すのは利用者です。
    つまり、生成AIツールを利用する人間に十分かつ適切な絵画技術やイラストへの知識、表現への感性などが備わっていなければ、そもそもAIイラストの良し悪しや品質を判断することができません。

    例えば、甚平を着た僕自身の写真(鏡像)をベースとして、生成AIツールでアニメのキャラクターのようなイラストをSNSのプロフィールアイコン用に制作したとします。すると以下のような3枚の和風(中華風?)のイラストが得られました。


    なるほど、どれも実物からかけ離れたイケメンもしくはイケオジといった感じで、いかにも人気が出そうです。
    とはいえアイコン用に使えるのは1枚だけ。
    さて、それではこれらのイラストのうち、僕はどれを選ぶべきなのでしょうか。
    もちろんそれぞれに違いや味があり、好みによっても大きく〝正解〟は変わることでしょう。しかしそれ以前の問題として、例えば着物の『えり(えり合わせ)』に注目しなければなりません。

    それぞれのキャラが着ている着物の〝えり〟を見ると、1枚は右側が手前になり、1枚は左側が手前になり、そして残りの1枚は何とも奇妙な形状をしています。

    ここで思い出さなければいけないのは、着付けの『えり合わせ/前合わせ』に関するルールです。
    一般的に知られる現代の着物の着付けとして、通常のえり合わせは〝右前〟が原則となります。
    これは
    『着物を羽織った際、自分から見て右側のえりが下(手前)になり、左側のえりがその上に重なるように着る』
    というルールです。

    なお、逆に『左前:左のえりが手前にくる着方』は〝死に装束〟としての着付けとされており、亡くなった人に着せる時の形となります。つまり今回のように、鏡に映った姿を〝そのまま〟反映させてしまうと、作品として全く意味が変わってしまうということです。


    もちろん、あえてデザイン的なこだわりや、キャラクター設定上の表現として、生きている人物に〝左前で着物を着せる〟という場合もあるでしょう。しかしそれはあくまでも理由があってそうするものであり、通常の自撮り写真や人物イラストとしては〝右前〟を選ぶことが賢明です。


    そうなると、今回に得られたAIイラストの中から僕が選ぶべきは、消去法で『A』となります。とはいえ、他の2枚と比べると髪型――後ろ髪の毛の長さやヒゲの雰囲気から、いささか野性味の強い印象となっており、スマートな方向でまとめたい場合は不適切かも知れません。

    【成果物の品質を担保するのはAIでなく作家自身】

    どのようなテーマやモチーフであれ、それぞれのイラストにおいて注目すべきポイントは色々とあり、プロとして自身の成果物を提供するのであれば、それらの全てに対して責任と納得できる表現が反映されていなければなりません。
    また、イラストレーターとしてクライアントからの求めに応じて新しいイラストを創作・制作する場合、成果物を依頼者の指示内容に合致させることはもちろん、時には〝依頼者自身も言語化できていないニーズ〟を反映させなければならないといったこともあります。
    生成AIツールは上手に利用することで、様々な表現を迅速かつ多彩に再現できる便利な技術であり道具ですが、生成AIツールを本当の意味で効果的に扱おうと思えば、それを利用する人間に相応の技術や知識、経験といったスキルが必要になるのです。



    ――以上が、人工知能(AI)を活用した生成AIツールの基本的な仕組みや考え方であり、注意点です。
    後半ではいよいよ実際にイラスト生成AIツールの活用法や気をつけるべきポイントなどを、斉藤幸延のオリジナルイラストのメイキング画像もまじえて解説していきますので、ぜひ続けてお楽しみください。






    匿名で質問やリクエストを送る

    ※登録・ログインなしで利用できます

    メールアドレスだけでかんたん登録

    • 新着記事を受け取り見逃さない
    • 記事内容をそのままメールで読める
    • メール登録すると会員向け記事の閲覧も可能
    あなたも Medy でニュースレターを投稿してみませんか?あなたも Medy でニュースレターを投稿してみませんか?