2023.5撰寫

運作原理

• ChatGPT 大解密：帶您探討機器學習背後的秘密以及利用與發展 (2023.02)
  • 預訓練
  • 轉移學習
  • Transformer 模型
  • Beam Search 算法
• 解析ChatGPT背後運作原理 (2023.03)
  • 變換模型 (Transformer 模型)
  • 海量數據
  • 巨量運算硬體
• Introduction (Open AI)
  • Key concepts
    • Prompts
      • Prompt design
    • Tokens
    • Models
  • Guides
    • Text completion
      • Prompt design
    • Chat completion
• Introducing ChatGPT
  • Step 1: Collect demonstration data and train a supervised policy
    • Reinforcement Learning from Human Feedback (RLHF)
  • Step 2: Collect comparison data and train a reward model
  • Step 3: Optimize a policy against the reward model using the Proximal Policy Optimization (PPO) reinforcement learning algorithm

使用經驗

ChatGPT非常的紅，這裡分享一下目前的使用經驗，首先，先進到ChatGPT的網頁

點「TryChatGPT」，如果你還沒使用過，就需要先登入，因為ChatGPT會把對話紀錄下來，所以，請先註冊或利用google帳號、microsoft帳號登入

如果還沒註冊過，可以點選Sign up，輸入Email之後，進行註冊，或者，利用google帳號或microsoft帳號登入

如果註冊過，可以登入，也可以利用利用google帳號或microsoft帳號登入

接下來就會進到ChaGPT的畫面，可以透過「send a message」的文字輸入框輸入我們要問的問題，ChaGPT可以接受中文，所以，可以利用繁體中文輸入，只是，大部分的訓練資料應該是簡體中文，所以，常常會用簡體中文回答。

輸入之後，就會有回應。例如:

很快的，就會發現ChatGPT給的答案算是滿中規中矩的。我們來問點技術性的問題吧，例如: