生成AIは、優秀だけど“確認”が必要なアシスタント。上手な扱い方、教えます｜AIいろは【4】

数十人の智慧ある先賢に手をとられ、ほとんど、いろはから教えたたかれて、そうして、どうやら一巻、わななくわななく取りまとめた。
（先人たちに手を取られ、いろはから叩き込まれて、やっと一冊を書き上げた）

― 太宰治「創作余談」

天才も、一から教わっていた。情報があふれる今、私たちは基礎や前提を学ばないまま進みがちだ。この連載は、実学をいろはから手ほどきする。

生成AIに対する高評価とネガティブな感想

超入門AI講座も第4回となりました。今回は、仕事でAIを使うときにもっとも気になる、生成AIに「できること」と「できないこと」をわかりやすく整理してみましょう。

生成AIをビジネスシーンで使い始めると、よく耳にする声が2つあります。「すごい！　何でもできる」という高評価と、「間違いが多くて、仕事には使えない」という否定的な感想です。実はどちらも半分正しく、半分は間違っています。

生成AIを仕事に使う前提として知っておきたいのは、AIには明確に得意な分野と、同じくらい苦手な分野があるということです。さらに重要なのは、その境界線を把握しておくこと。「できる」「できない」の境界線がわかっていれば、適正な使い方ができ、成果物の出来・不出来に振り回されずに済むというわけです。

生成AIが得意なことって、何？

まず得意な分野から見ていきましょう。ここでいうAIとは、ChatGPTのような「生成AI」を指します。生成AIとは、文章や画像などを「新しく作り出す」AIのことでしたね。

生成AIの得意分野は、おおまかに次の6つ。いずれも日常業務によくフィットします。

• 要約：長い議事録や資料を、数行に圧縮する。会議に出られなかったときのキャッチアップに使えます。
• 翻訳：海外の取引先からの英文メールを日本語にする。反対に、日本語の文面を自然な英語にする作業も得意です。
• 文章の下書き：お詫びメールや案内文の「たたき台」を作る。ゼロから書くより、修正するほうが速くなります。
• アイデア出し：企画名の候補を20個出す。質より量が欲しい場面で力を発揮します。
• パターン認識：大量の問い合わせ文を「クレーム」「質問」などに仕分ける。分類のルールが決まっている作業に向きます。
• 定型作業の自動化：表形式のデータを決まった文章フォーマットに流し込む。同じ形の繰り返し作業を代替します。

共通点が見えてきましたね。生成AIは「言葉のパターンを処理する作業」が得意なのです。たくさんの文章を読み込んで学ぶため、語彙や文章の扱いに長けており、自然な文章を作ることができます。

生成AIの苦手分野・できないことは？

次に苦手な分野です。ここを理解しないまま使うと、冒頭の「間違いが多くて使えない」といった失敗に直結するため、ぜひ押さえておきたいところです。

下の図に、得意な分野と苦手な分野を並べました。左右を見比べると、境界線が見えてきます。

苦手な分野を、一つずつ補足します。

• 事実の正確性の保証：もっともらしい文章の中に、事実でない内容が混じることがあります。書いた内容が事実かどうかを、自分で保証する仕組みはありません。
• リアルタイムの情報：過去のある時点までのデータで学習しているため、いま起きていることを全て把握できるとは限りません。
• 責任を負う：ミスがあった場合、最終責任を負うのは使った側の人間で、AIではありません。
• 個別事情への配慮：あなたの会社の事情や取引先との経緯は、こちらから教えない限り考慮されません。
• 最終決定を下す：「どちらの案を選ぶべきか」などの最終決定は、AIに丸投げできません。

気になる「ハルシネーション」と、その対策

こうした苦手分野を把握する上で、1つ覚えておくべき用語があります。それが「ハルシネーション」です。

ハルシネーションとは、生成AIが間違った情報を、もっともらしい文章にして回答してしまう現象のことです。現状の生成AIはその構造上、知らないことでも推論で文章を組み立てるため、まるで本当にあったことのように語ってしまうのです。これはやっかいですね。

しかも、文章生成を得意とする生成AIの口調は、いつも自信たっぷりです。確証のない部分を、自分から教えてくれるとは限りません。そのため使う側が注意していないと、誤りを鵜呑みにしてしまう危険が常につきまといます。

決定的な対策はあるのでしょうか。答えはシンプルで、「事実確認（ファクトチェック）」と「最終判断」は人間が行うこと。現状では、これがもっとも確実な方法とされています。

「できる・できない」の見極めフレーム

では、目の前の作業を生成AIに任せていいか、どう判断すればよいでしょうか。難しく考える必要はありません。次の3つを順番に問うだけです。

AIに任せるか否かを判断する3つの問い

3つすべてを守れているなら、安心して任せられます。メールの送信を例にとると、すぐ下書きを読んで確認し、送信前に直し、最後は自分で送信することで、3つの条件をクリアできます。

逆に、一つでも守れていない点があるなら要注意です。たとえば「未確認のまま顧客に数字を送る」作業は、問い3が欠けており、人間のチェックを行う必要があります。

生成AIはパートナーではなく、優秀なアシスタント

ここまで踏まえると、生成AIの正しい捉え方が見えてきます。生成AIは「代わりに全部やってくれる部下」ではありません。「優秀だが、確認が必要なアシスタント」です。

優秀なので、下書きやアイデア出しは驚くほど速くこなします。一方で、事実確認や最終判断は任せきれません。だから、出てきたものを人間が見て仕上げる。この組み合わせが、いちばん成果につながります。

この前提を持つだけで、活用の質は大きく変わります。「全部やってくれるはず」と期待すると、間違いに気づけず失敗します。「確認が必要なアシスタント」と捉えれば、最初からチェックを組み込めます。同じAIでも、結果がまるで違ってくるのです。

次回はいよいよ最終回。ChatGPTは2022年に突然現れたように見えますが、AIには70年の歴史があり、ブームは今回が初めてではありません。なぜ過去のブームは冷め、なぜ今回は爆発したのか。その謎を歴史から解きます。