生成AIの基本

オンデマンド

https://joelnitta.github.io/joho-shori/on-demand

みなさん、生成AI（ChatGPT、DeepLなど）を使っていますか？

• 私はよく使っています

• データサイエンスのみならず、様々な場面において大事なツール

• でも、そもそもAIが何をしているのか、分かりますか？

https://chat.openai.com/

みなさん、ChatGPTとか、DeepLといった、いわゆる「生成AI」を使ったことがありますか？ 私はよく使っています。

ChatGPTに何か質問すると、まるで何でも知っているすごく頭のいい人みたいなペラペラな答えが返ってきます。

このようにですね。本当にすごいのです。

生成AIはデータサイエンスだけでなく、様々な場面においてとても大事なツールになっています。 私は特にプログラミングや翻訳に使っています。 でも、生成AIを使う前に、それが何をしているのか、ちゃんと理解する必要があります。

Artificial Intelligenceという名前は嘘

• AI ＝ Artificial Intelligence （人工知能）

• ・・でも、AIは何も考えていない！

  • 真偽を知らない！

そもそも「AI」は何を意味しているのでしょうか？

AはArtificial(人工的)でIはIntelligence（知能）ですね。

でも、この名前に騙（だま）されないでください！確かに人工的ではありますが、知能は全く関係ありませんから。

AIは知能を持っていなければ、真偽も知りません。では、何で「すごく頭のいい人」のように答えることができるのでしょうか？

ChatGPTによる画像

LLMは言葉を予測するモデルである

• ChatGPTはLarge Language Model（LLM）の一種である
  • Chat = 喋る
  • 言葉を予測するモデル
  • 莫大な量のデータ（インターネットの大部分）を使っている
• LLMは入力された言葉に対して、最も確率の高い次に来る言葉を返す

そもそも、あたかも人間のように会話できるChatGPTはLarge Language Model（LLM）の一種です。 要するに、言葉を予測する数理モデルです。何かの入力を引き受けて、処理して、出力を返すものです。 「Large」が名前に入っている理由は、このモデルは非常に大きいからです。モデルを作るためにWEB上にある言葉の大部分を使っているからです。 このようなモデルは昔からありましたが、最近いきなりこんなに上手になった理由は、大規模なデータでモデルを訓練させる技術ができたからです。

で、このLLMは入力された言葉に対して、最も確率の高い次に来る言葉を返すわけです。この動作にはロジックや知能は関係していません。次に「来そうな」言葉を返しているだけです。

LLMは言葉を予測するモデルである

https://perplexity.vercel.app/

このサイト（perplexity.vercel.app/）ではLLMが何をしているのか、実際に目で確かめることができます。

この言葉についている色はモデルがどれくらいの確率でその言葉を予測できたのかを表しています。

緑色は確率が高い、黄色はまあまあ、赤色は低いことを表しています。

例えば、一から始めて１０まで数えると、次に出てくる言葉は予測しやすいので、数え始めたらほとんど緑色ですね。

LLMは言葉を予測するモデルである

https://perplexity.vercel.app/

しかし、普通一緒に言わない言葉を連続で打つと、モデルは次に来る言葉をなかなか予測できません。この辺は赤ですね。

LLMは必ず「もっともらしい」言葉を自信満々で返す

・・けど、それが正解とは限らない

• 平気な顔で嘘をつく

というわけで、LLMは「人間が言いそうな言葉」を返すのが非常にお上手です。「もっともらしい」言葉を自信満々で返します。

しかし、それが正解だと限りません。

平気な顔で嘘をつくこともよくあります。

例えば、ChatGPT　に「となりのトトロ」について聞いてみましょう・・

LLMは「妄想」しがち

https://chat.openai.com/share/dcee3278-0f51-4bc2-8051-849ef1b0b072

私が
「となりのトトロ」のめいちゃんのおばあちゃんの名前は何でしょうか？
と聞いたら、

ChatGPTは
「となりのトトロ」のめいちゃんのおばあちゃんの名前は「くま」です。
と答えました。

日本語として完璧、見事な答えですね。しかし、「となりのトトロ」を見たことのある方には、この答えがおかしいことに気がついたはずです。なぜならば、めいちゃんのおばあちゃんという登場人物が存在していません！つまり、ChatGPTは「となりのトトロ」についての知識を使って考えたわけではなく、そのような質問に対するもっともらしい言葉を予測しただけです。意図的な嘘ではないから、「妄想」というように呼ばれることもありますが、とにかく覚えてほしいのは、ChatGPTの出力が必ずしも正解ではない、ということです。しかも、「本当にありそうな」ことを言うので、注意がとても必要です。

LLMは「妄想」しがち

• LLMが返した言葉を信用できるかどうか判断するのがあなたの責任

というわけで、ChatGPTなど、LLMを使うときは、それが返した言葉を信用できるかどうか判断するのがあなたの責任です。必ず確かめる必要があります。確かめなかったが嘘だったときにはChatGPTに責任があるわけではなく、あなたに責任があります。

ChatGPTに入れた情報はプライベートではない

• ChatGPTに入力した文章はOpenAI社のサーバーに送られる

• つまり、OpenAI社にとってあなたのデータ（入力）は新しいモデルを作る材料となっている

  • これを「オフ」にする設定もあるが、データが向こうに送られるのは変わらない

• 公開したくないなら、ChatGPTに入れない方がいい

それから、もう一つ注意しないといけないことについて説明したいと思います。

ChatGPTと話していると、なんとなく、プライベート（個人と個人の間）の会話になっているような気がするかもしれませんが、あなたが入力した言葉はもちろん、全てChatGPTを作った会社、OpenAI社に送られています。

あなたのデータをOpenAI社がどのように使うかについては、OpenAI社が決めるわけですね。例えば、デフォルト設定では、次のモデルを作るためにあなたのデータが使われます。

というわけで、公開したくない内容を含むことはChatGPTに入れない方がいいでしょう。もちろん、パスワードや個人情報は絶対に入れないように気を付けましょう。

どうやって使ったら良いのか？

• まずは簡単な質問をして、どう答えるのかを自分で確かめる
  • https://chatgpt.com/からアカウントを持っていなくてもすぐに試せる
• 返ってきた答えを確かめる
  • コードを走らせてみる
  • 内容を他のソースで確認する
  • 裏付けとなっている文献を出すように指示する
• 必ず批判的なスタンスを持つこと

では、色々と注意点があることが分かりましたが、どうやって使ったらいいでしょうか？

まずは、自分で色々な質問に対してどう答えるのか、試してみてください。chatgpt.comからアクセスすると、アカウントなしでも使えます。

それから、ChatGPTの答えは絶対に確かめる必要があります。

例えば、RやPythonのコードの書き方を教えてもらったら、それを実際に走らせて、予想通りの結果になるかどうかを確かめてください。

それから、事実に関する答えは他のソース（信頼できるウェブサイトや本など）で確かめてください。

ChatGPTに裏付けとなっている文献を出すように指示することもできます。

つまり、いつでも嘘をつかれることがあることを念頭に置いて、常に批判的なスタンスを持つことが大事です。

コピペしないこと

• 大学とは自分で考えることを身につける場である
• LLMは「言葉の計算機」だと思えば良い
  • 計算機があるからといって、算数を全く勉強しなくていいわけではない
• LLMは色々な作業を手伝う（よく嘘をつく）アシスタントであるが、自分の代わりに考えるものではない！

今までの話を聞いたら、これは当たり前だと思うでしょうが、ChatGPTの答えを確かめずにそのままコピペすることはもちろんダメです。

嘘になっている可能性があることを別にして、そもそもあなたたちがこの大学にパソコンのテキストをコピペしに来たわけではないからだと思います。

大学とは自分で考えることを身につける場所であるはずです。

LLMは「言葉の計算機」だと思ってください。計算機があるからといって、算数を全く勉強しなくていいわけではありません。

LLMは色々な作業を手伝う（よく嘘をつく）アシスタントではありますが、自分の代わりに考えるものではありません。

課題

• 中部大学「データサイエンス」の「ChatGPT」を全部（「詳細」まで）読んでください

https://edu.isc.chubu.ac.jp/hsuzuki/iip/DataScience/ChatGPT/chatgpt.html

最後に、オンデマンド回の課題について説明したいと思います。

この中部大学のデータサイエンスの授業には、ChatGPTについて非常にわかりやすい説明があるので、ぜひ読んでほしいと思います。中に「詳細」というところがありますが、これも必ず読んでください。ChatGPTの会話の例です。

https://edu.isc.chubu.ac.jp/hsuzuki/iip/DataScience/ChatGPT/chatgpt.html

https://edu.isc.chubu.ac.jp/hsuzuki/iip/DataScience/ChatGPT/chatgpt.html

https://edu.isc.chubu.ac.jp/hsuzuki/iip/DataScience/ChatGPT/chatgpt.html

課題

• Moodleにクイズがある。締め切りまでに完成させてください。

中部大学の資料を読んでから、Moodleにクイズがあるので、締め切りまでに完成させてください。