- 生成AIは意味を理解せず次の言葉を予測
- もっともらしさと正しさを見分ける確認
- 前提や根拠を示させ、最後は自分で判断
生成AIは何をしている?
今週は「生成AIは何をしているのか」を、問いを試しながら確かめました。基本原理は、次に続く単語を統計的に予測することであり、ヒトのように意味を理解しているわけではありません。
理解していなくても役立つの?
一方で、同じ言葉を状況に応じて読み分けたり、複数の条件をもとに原因を絞り込んだりと、原理からは想像しにくいことができるのも事実です。演習を通じて、AIの回答の方が筋道立っていると感じる場面もあり、「意味を理解していない」ことと「役に立たない」ことは別だと実感しました。
AIの回答はどこまで信頼できる?
今週の学びは、AIの回答をどこまで信頼してよいか判断する際に活かせます。業務では、情報の整理や原因の仮説出しをAIに任せる場面があります。AIは条件を与えれば筋の通った推論を返しますが、もっともらしさと正しさは別物です。前提が少し変わるだけで、誤る可能性もあります。
AIへの依頼で意識することは?
今後は、AIに依頼するときに前提条件と比較対象を明示します。また、回答には「その結論になる根拠」と「反対の可能性」も併せて示してもらい、最後の判断は自分で行います。この習慣をつければ、より効果的に活用できそうです。
AIの答えをどう確かめる?
「AIの答えを、どこまで確かめれば使ってよいのか」を、皆さんと考えたいです。今週の演習で、AIは意味を理解していなくても、かなり筋の通った答えを出すことが分かりました。ただ、答えがもっともらしいほど、確認は手薄になりがちです。かといって、すべてを確かめるならAIを使う意味が薄れてしまいます。
確認の深さはどう決める?
皆さんは、業務の重要度や内容によって確認の深さを変えていますか。「ここは必ず人が確かめる」と決めている点があれば、ぜひ教えてください。
生成AIの利用に関する知識を体系的に学ぶことができ、更に毎週の課題演習といった実践の場もあり、理解を深めるのに役に立った。モチベーションの高い受講者とのワークショップからも刺激を受けた。