All Posts

LLM app production là một distributed system có dependency chậm, đắt tiền, không deterministic và có rủi ro security riêng. Nếu mỗi feature team gọi provider SDK trực tiếp, hệ thống sẽ nhanh chóng mất...

Ngày 20: Đọc Income Statement — Báo Cáo Kết Quả Kinh Doanh

Structured output biến LLM từ một text generator thành một component có contract gần giống API response. Function calling không có nghĩa model tự chạy function. Model chỉ đề xuất tool name và argument...

Ngày 19: Risk Management — Quản Lý Rủi Ro

Prompt engineering production không phải là viết câu 'hay hơn'. Nó là thiết kế một contract giữa application và một runtime xác suất. Prompt tốt có nhiệm vụ rõ, input boundary rõ, context đủ, example...