मॉडल ठीक-ठीक शब्दों के साथ काम नहीं करता। वह टोकन—यानी शब्दों के टुकड़ों—के साथ काम करता है, जो अंग्रेज़ी में औसतन लगभग चार अक्षरों के होते हैं। समझ एक इकाई के बजाय इन टुकड़ों की श्रृंखला बन जाती है। इस छोटे से विवरण के स्पष्ट परिणाम हैं: ऐतिहासिक रूप से मॉडल किसी शब्द के अक्षर गिनने या स्ट्रिंग उलटने में इसलिए कठिनाई महसूस करते रहे हैं, क्योंकि वे अक्षरों को आपकी तरह नहीं देखते।
ट्रेनिंग के दौरान मॉडल को भारी मात्रा में टेक्स्ट दिखाया जाता है, उसके कुछ हिस्से छिपाए जाते हैं और उससे छिपे हुए हिस्से का अनुमान लगाने को कहा जाता है। गलत अनुमान उसके आंतरिक पैरामीटरों को बहुत थोड़ा बदलता है। लिखित इंटरनेट के बड़े हिस्से पर इसे दोहराने से ये छोटे बदलाव जमा होकर ऐसी क्षमता बनाते हैं जिसने, प्रभावी रूप से, भाषा के उपयोग का सांख्यिकीय ढाँचा आत्मसात कर लिया है—जिसमें व्याख्याओं की संरचना, कोड लिखने का तरीका और तर्क प्रस्तुत करने का ढंग शामिल है।
जब आप संदेश भेजते हैं, तो वह संदेश और अब तक की बातचीत मिलकर संदर्भ बनते हैं। मॉडल अगले टोकन का अनुमान लगाता है, उसे जोड़ता है और तब तक दोहराता है जब तक उसे लगे कि जवाब पूरा हो गया। न तो कुछ खोजकर निकाला जाता है और न ही इंसान की तरह उस पर विचार किया जाता है—हालाँकि नए मॉडलों को उत्तर से पहले मध्यवर्ती कार्य दिखाने के लिए प्रशिक्षित किया जाता है, जिससे कई चरणों वाली समस्याओं के नतीजे बेहतर होते हैं।
मुख्य ट्रेनिंग के बाद मॉडल ऐसे अतिरिक्त चरणों से गुजरते हैं जो उनके ज्ञान के बजाय व्यवहार को आकार देते हैं—उन्हें निर्देश मानना, मददगार होना और कुछ अनुरोधों को अस्वीकार करना सिखाया जाता है। इसी कारण समान सामग्री पर प्रशिक्षित दो मॉडलों का उपयोग अनुभव बहुत अलग हो सकता है। मॉडल के व्यक्तित्व जैसा जो कुछ आप महसूस करते हैं, उसका बड़ा हिस्सा मूल आर्किटेक्चर के बजाय इसी चरण से आता है।