Jump to content

GPT: Difference between revisions

119 bytes added ,  3 March 2023
no edit summary
No edit summary
No edit summary
Line 8: Line 8:
! colspan="5" | Training Data
! colspan="5" | Training Data
|-
|-
! Release Date
! Tokens
! Tokens
! Words
! Words
Line 18: Line 19:
! hello
! hello
|-
|-
| '''[[GPT-1]]''' || 117 Million || 512 || 358 ||  ||  ||  ||  ||  
| '''[[GPT-1]]''' || June 11, 2018 ||117 Million || 512 || 358 ||  ||  ||  ||  ||  
|-
|-
| '''[[GPT-2]]''' || 1.5 Billion || 1024 || 716 ||  ||  ||  ||  ||  
| '''[[GPT-2]]''' ||  February 14, 2019 || 1.5 Billion || 1024 || 716 ||  ||  ||  ||  ||  
|-
|-
| '''[[GPT-3]]''' || 175 Billion || 2,048 || 1,433 ||  ||  ||  ||  ||  
| '''[[GPT-3]]''' || June 11, 2020 || 175 Billion || 2,048 || 1,433 ||  ||  ||  ||  ||  
|-
|-
| '''[[GPT-3.5]]''' || 1.3 Bilion<br>6 Billion<br>175 Billion  || 4,000 || 2,800 ||  ||  ||  ||  ||  
| '''[[GPT-3.5]]''' || January 2022 || 1.3 Bilion, 6 Billion, 175 Billion  || 4,000 || 2,800 ||  ||  ||  ||  ||  
|-
|-
| '''[[ChatGPT]]''' || xxx || 4,096 || 2,867 ||  ||  ||  ||  ||  
| '''[[ChatGPT]]''' || November 30, 2022 || xxx || 4,096 || 2,867 ||  ||  ||  ||  ||  
|-
|-
| '''[[GPT-4]]'''<br>(v1) || xxx || 8,000 || 5,600 ||  ||  ||  ||  ||  
| '''[[GPT-4]]'''<br>(v1) || ???? || xxx || 8,000 || 5,600 ||  ||  ||  ||  ||  
|-
|-
| '''[[GPT-4]]'''<br>(v2) || xxx || 32,000 || 22,400 ||  ||  ||  ||  ||  
| '''[[GPT-4]]'''<br>(v2) || ???? || xxx || 32,000 || 22,400 ||  ||  ||  ||  ||  
|-
|-
|}
|}