生成AIとは、学習したデータを基に、新たなコンテンツを機械学習技術で自動生成する。テキスト・画像・音声などを、素早く、簡単に生成できる。

企業の生産性向上やクリエイティブな取り組みに寄与するため、近年急速に普及しているものの、常にリスクと隣り合わせの状況にある。ここでは、生成AIで想定される代表的なリスクとして、以下の三点を解説する。

著作権侵害

生成AIで特に注意すべき問題が著作権侵害である。AIは学習データに基づいてコンテンツを生成するため、アウトプット内容が既存コンテンツと類似するリスクをはらんでいる。実際、生成AIアプリのベンダーが著作権侵害で訴えられた事例も存在する。

関連記事：AIが生成したデータに著作権はある? 生成AIを活用するうえで注意すべきポイントを解説

倫理的問題

生成AIのアウトプットに、差別的発言やヘイト表現、もしくは虚偽の内容が含まれると、倫理的な問題を引き起こしかねない。またフェイクニュースに悪用される恐れもあるため、対策として倫理規範やガイドラインが必須である。

ハルシネーション

生成AIは、人間が作成したものに見劣りしない高品質なコンテンツの生成が可能である。しかしその半面、AIが誤った情報を真実のように生成してしまうケースに注意が必要だ。また、意図しない誤情報を拡散するリスクも存在する。

生成AIのリスクが顕在化した事例は、既に世界中で報告されている。今回は二つの事例を紹介する。

生成AIアプリ経由の情報漏えい

2023年6月にシンガポールのセキュリティ企業であるGroup-IB社は、10万件を超えるChatGPTアカウントがダークウェブで取引されている実態を発表した。これらの多くは、マルウェアに感染したデバイスからログイン情報が盗まれたことが原因である。

日本でも約660件ものアカウント流出が確認されている。特に、ChatGPTは対話履歴を保存できるため、アカウント乗っ取りをきっかけに社内の情報漏えいに発展するリスクもありうる。

生成AIアプリベンダーへの訴訟

画像生成AIアプリでは、インターネット上の膨大な画像データを学習に活用しているため、アーティストの作品が許可なく使用されているとの指摘が多数寄せられてきた。米国のGetty Images社は、ある生成AIアプリが自社の著作物を無断使用しているとして、アプリ提供元のベンダー企業に対し、2023年1月より裁判を開始している。

最後に、生成AIのリスクを抑える対策方法について三つ解説する。

徹底したセキュリティ対策

生成AIの利用時にセキュリティ対策を行う場合には、セキュアなストレージサービスを利用し、データを安全に保管することが不可欠だ。また信頼性の高い生成AIベンダーを選定し、セキュリティ基準を満たしたサービスを利用することも重要である。

強固なセキュリティを構築しているサービスであれば、機密情報の漏えいやサイバー攻撃のリスクは最小限に抑えられるであろう。

データ利用の適正化

生成AIで使用する学習データは、データ提供元から明確に利用許可を得ることが必須である。違法に取得されたデータや利用許可がないデータを使用すると、法的リスクにつながりかねない。また、クレジットなどによりコンテンツが生成AIで作成されたことを示すことで、透明性を確保しながら不信感や誤解のリスクを低減できる。

プライバシーへの配慮

個人情報を取り扱う場合は、特に配慮が必要である。個人データの匿名化や個人情報の削除リクエストに即対応できる体制の構築や従業員教育を講じるなど、プライバシー保護に関する社内風土の醸成も重要だ。

さらに、海外で事業展開を行う場合は、ビジネスを行う現地での規制にも十分注意しなければならない。

関連記事：日本企業に求められる対応は? 2024年施行予定のEUサイバーレジリエンス法（CRA）を解説

生成AIが生成する新たなコンテンツは、企業の生産性向上や創造的な取り組みに役立つ半面、倫理的問題やアウトプットの悪用などリスクも少なくない。既にこれらのリスクが顕在化した事例も報告されており、場合によっては企業の信頼性や競争力にも影響を与えうる。

これらのリスクは、セキュリティ対策やデータ利用の適正化などで十分に低減可能である。自社のクライアントには生成AI利用によるリスクとその対策を提示し、生成AIアプリを導入するだけにとどまらない、より包括的なサービスを提案してみるのも良いだろう。