生成AIの業務活用が広がる中、文章案、企画書、画像、議事録要約など、様々な「成果物」をAIに作らせる場面が増えています。別の記事では、“入力した情報が学習に使われるかどうか”という観点から注意点を見ましたが、今回は、AIが出力した「成果物をどう使うか」という点について考えてみます。
結論から申し上げますと、成果物をそのまま使うことはできません。
出力結果の正確性に対する注意
成果物の利用でまず注意したいのは、その内容が本当に正しいかという点です。生成AIは、しばしば、事実関係、法令名、判例、統計数値、会社名などを誤ることがあります。いわゆるハルシネーションと呼ばれる現象です。
生成AIの特長として、誤った情報でも見た目にはそれらしく正しく見えるようにするのが非常に得意であり、誤りに気付きにくいのです。
そのまま社外向け資料や顧客への回答に用いると、不正確な情報が混入してしまうおそれがあります。したがって、AIが作ったからといって無条件に信頼するのではなく、AIの出力結果については必ず人間が事実確認（ファクトチェック）を行うプロセスが不可欠です。
第三者の権利に配慮する
次に注意すべきは、第三者の権利を侵害していないかという点です。文章であっても画像であっても、第三者の著作物や商標等に関係する場合には注意が必要です。生成AIが作成したものであっても、それだけで直ちに安全とはいえません。
万が一、既存の他人の著作物と類似性が高いものをそのまま業務に利用してしまうと、トラブルに発展する可能性があります。特に広告、Web掲載物、提案資料など外部に出すものについては、通常の制作物と同じように、他者の権利を侵害するおそれがないか確認することが重要です。
生成物の著作権と利用規約の確認
また、AIが出力した成果物に自社の著作権が認められるかについては、一律には言えません。人がどのように指示し、どの程度創作的に関与したかによって考え方が変わります。そのため、「AIで作ったのだから当然に自社の著作物として保護される」と即断しない方が安全です。
さらに、利用規約との関係も見落とせません。AIサービスによっては、生成された成果物の利用範囲や商用利用について条件が設けられていることがあります。「学習に用いるか」でもそうでしたが、無料版と有料版、個人向けと法人向けで取扱いが異なる場合もあり得るため、入力データだけでなく、出力物の扱いについてもあらかじめ規約を確認しておく必要があります。
最終的な責任はどこにあるのか
社内では、「AIが作ったものだから」ということで、ついチェックが甘くなったり、責任の所在が曖昧になったりしがちです。しかし、実際には、その成果物を採用し、社内外で利用する判断をしたのは人です。
どの文書、資料も最終的には組織の責任で出されるものです。AIの出力であることは、作業の負担を軽くする理由にはなっても、内容に対する責任を軽くする理由にはならないことを肝に銘じておくことです。
まとめ
生成ＡＩの生成物を扱うのに最低限必要なのは、生成AIの成果物を「完成品」ではなく「下書き」として扱うことです。具体的には、以下のような運用が基本になります。
① 事実確認（ファクトチェック）をする
② 権利侵害のおそれがないか確認する
③ 社外へ公表する前に人が内容を確認する
④ 重要な用途では承認者を置く（具体的に成果物を利用するかの検討を組織として行う）
その上で、最終的には人の責任であることを忘れないようにしましょう。
生成AIを含む情報システムの導入のご相談は
↓
みよし市で行政書士開業準備中－ITセカンドオピニオン
