🔥虚無との戦い

🤖ChatGPT

12 min read

ChatGPTとは

2022/11/29誕生. 📝OpenAIが開発.

url: https://chat.openai.com/chat

📝Transformersをベースに📝Fine Tuningした🔖GPTモデルを活用したサービス.

ChatGPTの仕組み

text-davinci-003, GPT 3.5というGPT-3の改良モデル. 教師あり学習と📝強化学習を使用.

ChatGPTの生成する応答は, 学習データからその応答の確率が最も高いものを返す. 具体的には, 条件付き会話モデルという, 与えられた会話履歴(前の会話, とても重要)を元に次の解答を予測する.

🔧ChatGPT Plugin

🔧PromptPerfect

指示文をいい感じに改善して送信してくれる.

🔧WebPilot

指定したURLから情報を取得して要約したり質問に回答してくれる.

🔧SEO.app

SEOに最適化したアドバイスをくれる.

🔧Code Interpreter

ChatGPT上でPythonのコードを生成/実行できる.

たとえばcsvデータをアップロードして分析作業を依頼するとコードが帰ってくる.

  • データ分析
  • データ可視化

🔧Custom Instructions

ロールとバイアスを授ける.

  • あなたは心理カウンセラーです.
  • 優しくアドバイスをお願いします.

🔧GPTs

ノーコードでChatGPTチャットボットを作成する.

💡特定のサイトを読み込んで質問に答えるbot

  • xだけど質問ある?

References

ChatGPT Topics

💡ChatGPTでEmacsから対話する

すごい…

Emacsの対話セラピー機能doctorをChatGPTに対応させる

💡ChatGPTはサイコロの集合体

あなたの仕事が劇的に変わる!? チャットAI使いこなし最前線 - YouTubeより.

応答の生成において, 与えられた文脈のなかで, 各単語の出現確率を計算して, 最も自然なものを選択している.

これは, 巨大な情報空間のなかでサイコロを振っているようなものだ, というもの.

🎲サイコロ

💡可能性空間

深津氏の独自用語. ChatGPTに指示を与える時, 情報源を限定することでより正確な情報を引き出すことができる, というもの.

💡深津貴之氏のChatGPT活用シーン(要約/ブレスト/ロールプレイ/レビュー)

これは, 確率論における📝条件付き確率の概念. 確率過程の領域.

🤖ChatGPTみたいな人

未来の差別用語.

ChatGPTみたいな回答. ChatGPTみたいな人. ChatGPTの劣化コピー.

💡ChatGPTでソクラテス問答法

ChatGPTにひたすら問いをぶつけることで物事の理解を深めていく, 📝ソクラテス問答法.

私がソクラテスでChatGPTが愚者.

self-ask,

💡ChatGPTで多重人格会議

ChatGPTに複数のロールをもたせて議論させる方法, 💫多重人格会議.

ChatGPTAとChatGPTBとそれをメタ認知で眺めるわたし.

ChatGPT Tips

ChatGPTの出力が途中でとまったら?

続きをお願いします. と入力する.

✅ChatGPTに長文を入力するには？

2023現在は2848文字だが, 最新の情報は直接するのがいい. 日本語より英語のほうが入力文字数が多い.

まだまとめないで, まとめてという特殊プロンプトが必要.

ChatGPT API

🤖GPT(OpenAI)

GPT, Generative Pre-trained Transformerの略.

GPT (言語モデル) - Wikipedia

GPT1(2018)

GPT2(2020)

GPT1のデータを大規模にした. 1.17億パラメータ->15億パラメータ.

GPT3

15億パラメータ->1750億パラメータ

📝GPT4(2023)

GPT-4o(2024/3/13)

  • oはomni. すべてのという意味. マルチモーダル.

GPT-4o mini(24/07/18)

4oと同じような性能の小規模モデル.

https://openai.com/ja-JP/index/gpt-4o-mini-advancing-cost-efficient-intelligence/

GPT-o1(24/09/19)

強化学習で学習したモデル. Reasoning

MIT Tech Review: GPT-4oを圧倒、オープンAI新モデル「o1」に注目すべき理由

GPT-o3 mini(25/01/31)

推論モデル. o1小型化. https://openai.com/index/openai-o3-mini/

🦊なぜChatGPTがわたしにとって重要か?

🦊ChatGPTの出現したこれからの時代で大事なのは論点思考

うまい回答はもう人間はAIに勝てない. 人間に勝てる部分は, 問いを立てる力. なぜならば, 質問を入力しないと回答をしてくれないからだ.

推論と試行回数の仮説思考は圧倒的に勝てない. より一層, 🌳論点思考がこれからの時代に重要になる.

🦊ChatGPTのやっていることはわたしが大学生のころに作りたかった謎掛けマシーン

✨ChatGPTの生成テキストの意味が多様とは情報エントロピーが高く正確とはエントロピーが低い

大学4年生のとき, 📝情報理論を📝謎掛けに応用したかった. 単純にある情報源からの単語選択では, 笑えない. 笑いには意外性が必要なのだ. そして, その意外性ということは確率としてどう定義すればいいのか? それを生み出す情報空間は, 情報エントロピーは?…

それらを実現したのがChatGPTという位置づけにある.

以下は2017年の記事. あれから6年でついに謎掛けが民主化された.

gensim で謎かけしたら微妙な結果になった | Futurismo

📐笑いの不一致理論

ChatGPT Insights

ChatGPT vs 人類

ChatGTPの得意なこと

  • 暗記, 記憶, 受験勉強.
  • 手続き的作業, 事務的な作業, 正確性を求められる仕事.
  • ロジカルシンキング
    • 論理を活かす仕事.
  • 抽象化思考
    • 概念の共通性質を抜き出すことは勝てない.
  • 仮説思考
    • 試行回数を上げて高速に学習することは勝てない. ex. チェス.

ChatGPTが苦手なこと

  • 感性を活かす仕事.
  • 身体性を活かす仕事.
  • 創造性, アイデア発想, 創造的な作業.
  • 問題を定義する. 問いを立てる, 問題発見, 論点設定. 論点思考.
  • クリティカルシンキング, 批判する.
  • 応用力, アナロジー思考.

📍ChatGPTができないことはなにか?

✨ChatGPTは抽象化はできても概念化はできない

💡Diffusionモデルでは言葉から言葉が生成できないからのインサイト.

文章の要約はできる. さらに２つの概念の共通性質を答えることもできる. しかし, 性質そのものを抽象的に新しく定義することができない.

つまり, 📝抽象化はできても📝概念化はできない. 名前をつけることができない.

これはとても大事なインサイトかもしれない.

✨ChatGPTはなぜやとはによって抽象度の移動ができない

ChatGPTはなぜやとはができない. 言い換えるならば, 📝概念化と📝論点思考はできない. 言葉を名付けることと問いを立てることはできない.

✨ChatGPTにイリュージョン落語がつくれない

✨ChatGPTにレトリックは操れない

耳障りのよいある程度のレトリックはできるかもしれない.

しかし, センスの悪いレトリック, 下品なレトリック, ユーモアのレトリックがつくれない.

✨ChatGPTは個性的な文体がつくれない

自分独自の個性や文体を構築して文章を書くことを強くする.

🔖AI 🔖シンギュラリティ 🔖チャットAI

Journals

グラフビュー

バックリンク

Recents