生成AIの扱い方

生成AIを全く使ったことがない！ link

という方は、ChatGPTのアカウントを作った後、以下のページも併せてご活用ください。

👍 基本的な姿勢 link

- 生成物を提案として扱う link

生成AIの出力には誤りや嘘が含まれている可能性があります。これは**ハルシネーション（幻覚）**と呼ばれ、AIがもっともらしい内容を自信を持って生成するものの、事実とは異なるケースです。

たとえば、大学業務で以下のようなことが起こり得ます。

一見すると正確で詳しい回答に見えます。しかし「大学評価基準改訂要綱（第3版）」や「第12条第3項」は実在しない可能性があります。AIは存在しない規程名や条文番号を、もっともらしく生成することがあるのです。

同様に、統計データの捏造（「令和5年度の大学進学率は58.3%で…」と実在しない数値を出す）、架空の論文の引用（著者名・タイトル・掲載誌がすべてでたらめ）なども起こります。

あくまで生成物は生成AIから利用者への提案であり、利用者が提案を受け入れる・却下する判断を下す必要があります。特に規程・法令・統計データ・引用文献は、必ず一次情報で裏取りをしてください。

- 試行錯誤する link

生成AIは一度のプロンプトでうまくいく（=利用者の意図・目的に沿う生成物が得られる）ことは滅多にありません。 生成AIを利用した経験がある方は納得されるのではないでしょうか。大きく分けて3つの理由があります。

• 利用者の意図・目的が最初からはっきりしていないから 最初のプロンプトを投げる時点ではモヤモヤしていることが、生成AIとのやり取りを通じてはっきりすることがあります。

• 指示が悪いから 意図・目的がはっきりしていても、それを指示に含めなかったり、指示の言葉が良くないことが挙げられます。

• 生成AIの挙動が確率論的かつ暫定的だから 生成AIの出力には再現性がありません。指示によっては、同じ指示を10回出しても、10回とも異なる内容が返ってくる可能性があります。 また現在公開されている生成AIサービスの中で使用されている言語モデルが更新を続けているため、半年前と今時点とで、挙動が異なることがあります。

試行錯誤の対象はプロンプトの書き方だけではありません。Web検索を有効にするか、ファイルを添付するか、画像で渡すか、対話を重ねるか――AIに渡す文脈の設計全体が試行錯誤の範囲です。どの入力手段が目的に合うかも含めて試してみましょう。

現在各所で紹介されている「有用なプロンプト」のほとんどは「ある日時や一定条件下で役に立つプロンプト」であり、確実に・普遍的に役立つものは少ないです。

生成AIへの指示や生成物を継続的に確認・検証するスタンスが重要です。 link

🔄 AIの進化と変わらない原則 link

生成AIは日々進化しています。内部で段階的に推論するモデル、自律的にツールを使い分けるエージェント型の機能、ファイルや画像を直接読み取る機能など、できることは急速に広がっています。

しかしどれだけAIが賢くなっても、上で述べた2つの姿勢は変わりません。

• 生成物を提案として扱う：推論モデルやエージェントが出した結果でも、事実確認と判断は利用者の責任です
• 試行錯誤する：AIの能力が上がったことで頼めることの幅も広がっています。何をどう頼むかを試行錯誤する姿勢はむしろ今まで以上に大切です

この「適切な扱い方」を土台にして、良いプロンプトとはで具体的なプロンプトの考え方を学び、さらにAIとの付き合い方で「上手な扱い方」へと進んでいきましょう。