Libro

The Hundred-Page Language Models Book: ปูพื้น LLM จากคณิตศาสตร์ถึงโค้ด PyTorch

หนังสือของ Andriy Burkov ที่ไล่จากพื้นฐาน Machine Learning ไปจนถึง Transformer และ LLM พร้อมโค้ด PyTorch บทความนี้สรุปจากตัวอย่าง 30 หน้าที่ผู้เขียนเผยแพร่ เพื่อช่วยดูว่าเล่มนี้เหมาะกับพื้นฐานของคุณหรือไม่

ทีมบรรณาธิการ Libro · 25 ตุลาคม 2569 · แก้ไขล่าสุด 27 ตุลาคม 2569 · อ่านประมาณ 4 นาที

ภาพประกอบบทความ: ปกหนังสือ The Hundred-Page Language Models Book โดย Andriy Burkov

ขอบเขตของบทความ: สรุปจากไฟล์อ่านตัวอย่าง 30 หน้าที่เผยแพร่บนหน้า Leanpub ของหนังสือ (สารบัญ คำนำ บทนำของผู้เขียน และบทที่ 1 ถึงต้นหัวข้อ 1.4) รวมกับคำอธิบายบนหน้า Leanpub และรายการไฟล์ใน repository ทางการ ยังไม่ได้อ่านบทที่ 2–6 ข้อสังเกตเรื่องบทเหล่านั้นมาจากชื่อหัวข้อในสารบัญเท่านั้น

นักพัฒนาหรือคนทำงานข้อมูลจำนวนมากใช้ LLM ผ่าน API ทุกวัน แต่ยังตอบไม่ได้ว่าข้างในทำงานอย่างไร self-attention คืออะไร ทำไม model ถึงตอบผิดอย่างมั่นใจ และถ้าจะ finetune เองต้องเข้าใจอะไรบ้าง หนังสือหลายเล่มที่ตอบคำถามนี้ยาวหลายร้อยหน้า

The Hundred-Page Language Models Book เลือกทางสั้นกว่า บทความนี้ช่วยดูว่าเล่มนี้ครอบคลุมอะไร สมมติพื้นฐานผู้อ่านไว้แค่ไหน และไม่ได้สอนเรื่องอะไร

หนังสือเล่มนี้ว่าด้วยอะไร

The Hundred-Page Language Models Book มีชื่อรอง hands-on with PyTorch เขียนโดย Andriy Burkov ผู้เขียน The Hundred-Page Machine Learning Book หน้า Leanpub ระบุว่าผู้เขียนจบปริญญาเอกด้าน AI และเป็นหัวหน้าทีม Machine Learning ที่ TalentNeuron (หน้าหนังสือบน Leanpub)

หน้าลิขสิทธิ์ในไฟล์ตัวอย่างระบุปี 2025, ISBN 978-1-7780427-2-0 และสำนักพิมพ์ True Positive Inc. คำนำเขียนโดย Tomáš Mikolov ผู้เขียน word2vec และ FastText (ไฟล์ตัวอย่าง)

เนื้อหาครอบคลุมหัวข้ออะไร

สารบัญแบ่งเป็นหกบท (ไฟล์ตัวอย่าง, หน้า 6–8):

บท

ชื่อบท

หัวข้อย่อยบางส่วนตามสารบัญ

1

Machine Learning Basics

Model, Vector, Neural Network, Matrix, Gradient Descent, Automatic Differentiation

2

Language Modeling Basics

Bag of Words, Word Embeddings, Byte-Pair Encoding, Count-Based Language Model, Evaluating Language Models

3

Recurrent Neural Network

Elman RNN, Mini-Batch Gradient Descent, RNN as a Language Model, Dataset and DataLoader

4

Transformer

Self-Attention, Rotary Position Embedding, Multi-Head Attention, RMS Normalization, Key-Value Caching, Transformer in Python

5

Large Language Model

Supervised Finetuning, Sampling, LoRA, LLM as a Classifier, Prompt Engineering, Hallucinations, LLMs, Copyright, and Ethics

6

Further Reading

Mixture of Experts, Model Merging, Model Compression, Preference-Based Alignment, Vision Language Model

ในบทนำ ผู้เขียนอธิบายว่าตั้งใจพาผู้อ่านผ่านวิธีรุ่นเก่าอย่าง count-based model และ RNN ก่อน เพื่อให้การไปถึง Transformer ค่อย ๆ ต่อยอด ไม่ใช่กระโดดทีเดียว (หัวข้อ Book Structure หน้า 13)

ด้านโค้ด ในเล่มพิมพ์เฉพาะส่วนสำคัญ โค้ดเต็มเป็น Jupyter notebook ที่รันบน Google Colab ผู้เขียนเตือนไว้เองว่า GPU ใน Colab แบบฟรีไม่รับประกันและมีข้อจำกัดการใช้งาน บางตัวอย่างอาจต้องใช้ GPU นาน (หน้า 13–14) ใน repository ทางการบน GitHub มีไฟล์อย่าง byte_pair_encoding.ipynb, count_language_model.ipynb, news_RNN_language_model.ipynb, news_decoder_language_model.ipynb และ emotion_GPT2_as_text_generator_LoRA.ipynb ซึ่งชื่อไฟล์สอดคล้องกับหัวข้อในสารบัญ บทความนี้ไม่ได้รัน notebook เหล่านี้

แนวคิดที่เห็นจากตัวอย่างบทที่ 1

บทที่ 1 เริ่มจากประวัติย่อของ AI ตั้งแต่ workshop ปี 1955, Perceptron, ช่วง AI winter ทั้งสองรอบ จนถึง deep learning ราวปี 2012 แล้วจึงนิยามว่า model คืออะไร (ไฟล์ตัวอย่าง, หัวข้อ 1.1–1.2)

ตัวอย่างหลักของหัวข้อ 1.2 คือการทำนายราคาบ้านจากพื้นที่ด้วย linear model f(x)=wx+bf(x) = wx + b ผู้เขียนนิยาม squared error แล้วรวมเป็น mean squared error จากนั้นหา partial derivative ด้วย chain rule ทีละขั้นกับข้อมูลบ้านสามหลัง จนได้ค่า weight และ bias ที่ทำให้ค่า loss ต่ำสุด หัวข้อ 1.4 ต่อด้วยเวกเตอร์และ dot product ซึ่งเป็นพื้นของ neural network ในหัวข้อถัดไป

จากตัวอย่างนี้ พอเห็นสไตล์ของเล่ม คือแสดงสมการทุกขั้นและอธิบายกฎ calculus ที่ใช้ไว้ในกรอบข้าง ๆ คนที่ลืม calculus ไปแล้วน่าจะตามได้ แต่ต้องยอมอ่านสมการ ไม่ใช่หนังสือที่เล่าแนวคิดโดยไม่มีคณิตศาสตร์

พื้นฐานที่ควรมีก่อนอ่าน

ทั้งหน้า Leanpub และบทนำระบุตรงกันว่า (หน้าหนังสือบน Leanpub; ไฟล์ตัวอย่าง, หน้า 11–12):

  • ต้องเขียน Python ได้ เพราะตัวอย่างลงมือทำทั้งหมดใช้ Python

  • PyTorch ไม่บังคับ ถ้ายังไม่คุ้น ผู้เขียนให้ไปอ่านบทแนะนำสั้น ๆ ใน wiki ของหนังสือ

  • คณิตศาสตร์ระดับมหาวิทยาลัยช่วยได้ แต่ไม่ต้องจำทุกรายละเอียด และไม่ต้องมีประสบการณ์ Machine Learning มาก่อน

เหมาะกับใคร และใครควรเริ่มจากเล่มอื่นก่อน

บทนำเขียนว่าหนังสือเขียนให้นักพัฒนาซอฟต์แวร์ นักวิทยาศาสตร์ข้อมูล วิศวกร Machine Learning และคนที่อยากเข้าใจ language model ไม่ว่าจะใช้ model ที่มีอยู่หรือเทรนเอง

ผู้เขียนระบุไว้ชัดว่าหนังสือ ไม่ได้สอน การเทรน model ขนาดใหญ่บนระบบกระจาย การ deploy ขึ้น production (serving, API, scaling, monitoring) และการสร้างแอปพลิเคชัน LLM เชิงพาณิชย์ในองค์กร ถ้าเป้าหมายหลักคือเรื่องเหล่านี้ ผู้เขียนแนะนำให้หาแหล่งอื่นมาเสริม (หน้า 12)

สรุปตามหลักฐานที่มี:

  • เหมาะ กับคนที่เขียน Python เป็น อยากเข้าใจกลไกของ Transformer และ LLM ถึงระดับสมการและโค้ด และพร้อมรัน notebook เอง

  • ควรหาเล่มอื่นเสริม ถ้าต้องการคู่มือ deploy ระบบ LLM จริงหรือเทรน model ขนาดใหญ่

  • สำหรับงานการเงิน เล่มนี้ไม่ได้มีหัวข้อเฉพาะด้านการเงินในสารบัญ ใช้เป็นพื้นฐานความเข้าใจ LLM ก่อนนำไปประยุกต์เองได้

ข้อจำกัดของข้อมูลที่ใช้ในบทความนี้

  • อ่านเฉพาะไฟล์ตัวอย่าง 30 หน้า ครอบคลุมสารบัญ คำนำ บทนำ และบทที่ 1 ถึงต้นหัวข้อ 1.4 บทที่ 2–6 สรุปจากชื่อหัวข้อเท่านั้น

  • เว็บไซต์ thelmbook.com ติดหน้าตรวจสอบบอต จึงไม่ได้เปิดอ่าน wiki ของหนังสือ

  • Open Library ไม่มีระเบียนของ ISBN นี้ ข้อมูลฉบับและปีจึงยืนยันจากหน้าลิขสิทธิ์ในไฟล์ตัวอย่างเท่านั้น

  • repository ดูเฉพาะรายชื่อไฟล์ ไม่ได้รันโค้ด

แหล่งอ้างอิง

บทความนี้อ่านจบได้ในตัวเอง หนังสือด้านบนคือจุดต่อยอดสำหรับผู้ที่ต้องการศึกษาลึกขึ้น