4228
25-09-2026
Hướng dẫn trở thành AI Engineer vào năm nay: Lộ trình học tập toàn diện
Dù bạn mới bắt đầu từ đầu hay đang chuyển hướng từ software engineering, dưới đây là lộ trình bài bản giúp bạn trang bị những kỹ năng mà các doanh nghiệp thực sự kỳ vọng ở một AI Engineer vào năm 2026.
Hiện nay, ngay cả các vị trí AI Engineer cấp độ đầu vào cũng yêu cầu hiểu các khái niệm như Retrieval-Augmented Generation (RAG), embeddings, vector databases, structured outputs và agentic workflows.
Dù bạn là:
- Sinh viên bắt đầu từ con số 0
- Software Engineer muốn chuyển sang lĩnh vực AI
- AI Engineer muốn nâng cao năng lực
Roadmap này tập trung vào những kỹ năng quan trọng trong năm 2026 — khác đáng kể so với những gì được coi trọng cách đây 5 năm.
Hãy bắt đầu.
AI thay đổi nhanh hơn phần lớn các roadmap
Phần lớn nội dung AI roadmap trên Internet thực chất là các Machine Learning Roadmap từ năm 2019, sau đó mới bổ sung LLM như một phần phụ.
Cách tiếp cận này có thể phù hợp với người mới, nhưng với các kỹ sư đã có kinh nghiệm, yêu cầu hiện nay cao hơn đáng kể.
AI Engineer hiện nay cần những gì?
Năm 2026, vai trò AI Engineer đã khác rõ rệt so với chỉ hai năm trước, đặc biệt về các kỹ năng và công nghệ được yêu cầu trong thực tế.
Có cần lo AI sẽ thay thế việc làm?
Không nhất thiết. Công nghệ AI tiếp tục tạo ra những vai trò và yêu cầu kỹ năng mới. Chẳng hạn, cách đây 3–4 năm gần như chưa có vị trí Prompt Engineer, trong khi hiện nay đã xuất hiện nhiều công việc liên quan đến lĩnh vực này.
Nếu dành nhiều tháng để học AI, bạn nên có một roadmap phản ánh những kỹ năng mà doanh nghiệp thực sự tuyển dụng hiện nay, thay vì dựa trên những nội dung đã lỗi thời.
Đừng chạy theo công cụ. Hãy xây dựng nền tảng kỹ thuật.
Lưu ý: Trước khi học AI, hãy học cách xây dựng phần mềm
Không thể chỉ xem vài video YouTube về Transformer vào cuối tuần rồi trở thành người chuyên fine-tune LLM hoặc xây dựng AI Agent. Đằng sau một AI Engineer có khả năng triển khai sản phẩm thực tế vẫn cần nền tảng Software Engineering vững chắc với các khả năng:
- Đọc và hiểu stack trace, kể cả khi gặp lỗi mới.
- Viết code dễ hiểu và có thể bảo trì.
- Sử dụng Git thành thạo.
- Phân tích khả năng hệ thống xử lý 10.000 requests thay vì chỉ 1 request.
AI Engineer trước hết vẫn là Software Engineer.
Lưu ý:
Mỗi giai đoạn đều có tài liệu học tập tương ứng, gồm video, tài liệu đọc và project thực hành khi cần.
Có thể bắt đầu từ hình thức phù hợp nhất với bạn. Cách học hiệu quả nhất vẫn là học đi đôi với thực hành.
Phase 1: Python, Git và nền tảng lập trình
Đã thành thạo Python? Có thể chuyển sang phần Git, môi trường ảo và debugging.
Đây là nền tảng để bắt đầu học Python cho AI.
Thực hành và tự triển khai thuật toán thường mang lại hiệu quả học tập tốt hơn so với chỉ xem tutorial. Việc luyện DSA và trực tiếp viết thuật toán cũng giúp cải thiện khả năng tư duy lập trình.
Bạn nên thành thạo một ngôn ngữ lập trình cơ bản như Python hoặc C++. Tuy nhiên, nếu sử dụng C++ để học DSA, sau này vẫn có thể cần chuyển sang Python khi làm việc với các thư viện AI.
Python giúp việc sử dụng các thư viện AI trở nên dễ tiếp cận hơn.
Dưới đây là những nội dung cần nắm vững:
1. Core Python
Các cấu trúc dữ liệu (list, dict, set), hàm, lớp (class), list/dict comprehension, generator, decorator (bạn sẽ bắt gặp chúng ở khắp mọi nơi trong các framework AI)
Tài liệu tham khảo 💻
CS50’s Introduction to Programming with Python | Harvard University
The Complete Python Bootcamp From Zero to Hero in Python (lựa chọn tốt nhất để lấy chứng chỉ)
Đừng tốn quá nhiều thời gian để chọn tài liệu tốt nhất; hãy cứ bắt đầu với một nguồn cụ thể.
Lời khuyên là bạn nên bắt đầu bằng một khóa học hoặc video hướng dẫn. Sau khi đã nắm được kiến thức cơ bản, hãy bắt đầu giải các bài tập về DSA trên các nền tảng như LeetCode để trau dồi kỹ năng.
2. Virtual environments & package management
venv, pip, và ngày càng phổ biến là uv. Bạn sẽ tốn hàng giờ đồng hồ để giải quyết các dependency conflicts nếu bỏ qua phần này!
Git & GitHub: Nắm các khái niệm cơ bản như branch, commit, pull request và xử lý merge conflict. Không cần học thuộc; hãy thực hành trong quá trình làm việc.
Làm việc với file và dữ liệu: Đọc/ghi JSON, CSV và văn bản thuần túy — những dạng dữ liệu phổ biến trước khi được xử lý thành dataframe.
Terminal: Nắm các lệnh Bash cơ bản, điều hướng thư mục và kết hợp các lệnh bằng pipe.
Debugging: Học cách đọc và phân tích error message trước khi nhờ chatbot. Sử dụng các công cụ debugging trong IDE, chẳng hạn breakpoint trong VS Code. Print cũng là một cách đơn giản nhưng hữu ích.
Nhiều khi mọi người cho rằng chỉ cần xem video đến khi hiểu ra vấn đề là đủ. Tuy nhiên, nếu không thực sự triển khai với code, xử lý lỗi và lặp đi lặp lại các thao tác đó thì cũng không thể đủ để có thể biến thành kinh nghiệm của riêng mình.
Thực hành: Dự án thực tế đầu tiên 🎯
Bắt đầu với một dự án đơn giản như BMI Calculator, Sudoku hoặc Tic-tac-toe để rèn kỹ năng cơ bản. Sau đó, thử xây dựng một dự án giải quyết vấn đề thực tế, chẳng hạn:
Công cụ CLI lấy và làm sạch dữ liệu từ API công khai rồi lưu thành file có cấu trúc.
Script đọc file CSV sao kê ngân hàng hoặc dữ liệu Splitwise và phân loại chi tiêu.
Web scraper thu thập và làm sạch dữ liệu về một chủ đề bạn quan tâm.
Mục tiêu không chỉ là tạo ra sản phẩm, mà là làm quen với các vấn đề thực tế như dữ liệu lỗi, lỗi lệch chỉ số (off-by-one), hoặc API thay đổi cấu trúc dữ liệu.
Có thể tham khảo tài liệu này để tìm ý tưởng dự án từ cơ bản đến thực tế.
Lưu ý: Các kiến thức toán học học ở Phase 2 nên được thực hành bằng code, qua đó hiểu khi nào và nên dùng thư viện nào.
Phase 2: Những kiến thức toán học thực sự quan trọng
Mọi người thường e ngại khía cạnh toán học của AI hơn mức cần thiết. Để bắt đầu, chúng ta không cần nắm toàn bộ đại số tuyến tính mà chỉ cần một phần nhỏ và cụ thể. (Bạn hoàn toàn có thể mở rộng kiến thức sau này!)
1. Đại số tuyến tính (Linear Algebra)
Vector, ma trận, tensor và hiểu phép nhân chúng có ý nghĩa hình học gì.
Tích vô hướng (dot product), phép nhân ma trận, trị riêng (eigenvalues) và vector.
Đây là những khái niệm sẽ xuất hiện lại ngay trong cơ chế Attention và Embedding.
Tài liệu tham khảo 💻
Nếu bạn thích học qua hình minh họa:
2. Giải tích
Có thể phần lớn chúng ta đã học qua môn này ở bậc trung học. Tuy nhiên, dưới đây là các chủ đề chính và nguồn tài liệu giúp bạn ôn tập lại các khái niệm:
Tiền giải tích, Giải tích vi phân, Giải tích tích phân, Giải tích đa biến
Đạo hàm, và cụ thể là khái niệm về vectơ gradient.
Tài liệu tham khảo 💻
3. Xác suất & Thống kê
Các phân phối, giá trị trung bình/phương sai, xác suất có điều kiện
Đây chính là ngôn ngữ được sử dụng để thể hiện output của model, độ bất định và các chỉ số đánh giá.
4. Tối ưu hóa
Thuật toán gradient descent, tốc độ học, hàm loss, và cơ chế chuyển đổi từ trạng thái sai lệch sang trạng thái ít sai lệch hơn theo thời gian.
Resources
Nếu bạn vẫn đang thắc mắc xem tất cả những kiến thức toán học đó trở nên cần thiết ở đâu:
Các tool để làm việc với data
Hãy tìm hiểu các library phổ biến như Pandas và NumPy để xử lý và phân tích dữ liệu.
Tham khảo các công cụ trực quan hóa dữ liệu như Matplotlib và Seaborn. (Hãy bắt đầu với Matplotlib vì nó dễ học hơn).
Tài liệu tham khảo 💻
Data Visualization có thể mở rộng tầm nhìn về tư duy và kể chuyện:
Thực hành: Tự xây dựng mô hình Hồi quy Tuyến tính từ con số không 🎯
Đây là bài tập mang lại hiệu quả cao nhất trong toàn bộ lộ trình này, nhưng hầu hết mọi người lại bỏ qua vì thấy nó quá cơ bản. Đừng bỏ qua nhé.
import numpy as np
class LinearRegressionScratch:
def __init__(self, learning_rate=0.01, n_iterations=1000):
self.learning_rate = learning_rate
self.n_iterations = n_iterations
self.weights = None
self.bias = None
def fit(self, X, y):
n_samples, n_features = X.shape
self.weights = np.zeros(n_features)
self.bias = 0
for _ in range(self.n_iterations):
y_pred = np.dot(X, self.weights) + self.bias
# Gradients
dw = (1 / n_samples) * np.dot(X.T, (y_pred - y))
db = (1 / n_samples) * np.sum(y_pred - y)
# Update
self.weights -= self.learning_rate * dw
self.bias -= self.learning_rate * db
def predict(self, X):
return np.dot(X, self.weights) + self.bias
Sau khi chạy và tạo ra kết quả, hãy so sánh nó với: `sklearn.linear_model.LinearRegression` trên cùng một tập dữ liệu.
Khi các con số thu được tương đồng, bạn đã tự chứng minh được rằng mình hiểu rõ cơ chế vận hành bên trong của mọi mô hình mà bạn sẽ làm việc cùng sau này.
Bất cứ khi nào bắt gặp các kỹ thuật tương tự, hãy thử tự triển khai thuật toán cốt lõi để hiểu sâu hơn về chúng.
Các library có thể giúp mọi việc trở nên dễ dàng, nhưng điều quan trọng là bạn phải nắm vững thuật toán và nền tảng toán học đằng sau chúng.
Phase 3: Machine Learning kiểu cũ
Trước khi bắt tay vào làm việc với neural network, bạn cần nắm vững các phương pháp ML truyền thống; lý do là vì phần lớn các bài toán ML trong thực tế vẫn được giải quyết hiệu quả và tiết kiệm chi phí hơn bằng những phương pháp truyền thống so với các mô hình deep learning.
Hãy tìm hiểu lý do tại sao chúng ta ưu tiên sử dụng một số kỹ thuật nhất định thay vì các kỹ thuật khác, cũng như cách thức chúng giải quyết vấn đề.
Các topic trọng tâm
Học có giám sát (Supervised learning): hồi quy, phân loại, decision trees, random forests, gradient boosting (XGBoost/LightGBM)
Học không giám sát (Unsupervised learning): phân cụm (k-means), giảm chiều dữ liệu (PCA)
Đánh giá mô hình: chia tập huấn luyện/kiểm tra (train/test split), kiểm định chéo (cross-validation), các chỉ số precision/recall/F1, ROC-AUC, và quan trọng nhất là hiểu được chỉ số nào thực sự có ý nghĩa đối với bài toán kinh doanh cụ thể
Kỹ thuật đặc thù (Feature engineering): kỹ năng quyết định chất lượng mô hình (tốt hay chỉ ở mức trung bình)
Thành thạo scikit-learn, pipeline, preprocessing, lựa chọn mô hình
Tài liệu tham khảo 💻
Portfolio Project #1: Dự đoán tỷ lệ khách hàng rời bỏ (Customer Churn Prediction) 🎯
Dự án này được xem là một cột mốc quan trọng để tích lũy kinh nghiệm, bởi: nó buộc bạn phải thực hiện toàn bộ quy trình làm việc thực tế:
Từ khâu xử lý dữ liệu dạng bảng (tabular data) còn thô và chưa sạch, giải quyết vấn đề mất cân bằng dữ liệu, feature engineering, so sánh các mô hình, cho đến việc đánh giá hiệu quả dựa trên góc độ kinh doanh (trong trường hợp này, một kết quả âm tính giả đồng nghĩa với việc công ty thực sự mất đi một khách hàng).
Dưới đây là những yếu tố tạo nên một phiên bản chất lượng cho dự án này:
Trình bày rõ ràng tại sao lại chọn thước đo đánh giá như vậ (lưu ý: độ chính xác/accuracy thường không phải là lựa chọn phù hợp cho bài toán dự báo tỷ lệ rời bỏ khách hàng - churn).
So sánh ít nhất hai mô hình, thay vì chỉ đưa ra lý do đơn giản như "chọn XGBoost vì phổ biến".
Khả năng giải thích mô hình: sử dụng các giá trị SHAP, confusion matrix hoặc feature importance để giải trình lý do mô hình đưa ra kết quả dự báo cụ thể đó.
Portfolio Project #2: Hệ thống đề xuất (Recommendation Systems) 🎯
Dự án này giúp bạn hiểu về độ tương đồng (similarity) — khái niệm sẽ được sử dụng nhiều khi học Embedding và RAG.
Xây dựng một hệ thống đề xuất đơn giản theo:
Content-based hoặc Collaborative filtering. Có thể dùng dữ liệu về phim, sách hoặc sản phẩm.
Mục tiêu là hiểu cách biểu diễn các đối tượng dưới dạng vector và đo khoảng cách/độ tương đồng giữa chúng. Ý tưởng này sẽ xuất hiện lại ở Phase 5.
Tham khảo nhiều project hơn:
Phase 4: Deep Learning
Đây chính là giai đoạn quyết định xem liệu Deep Learning có phù hợp với bạn hay không. Đây là lúc mà nhiều người mới tự học hoặc các engineer sẽ hoặc là say mê lĩnh vực này, hoặc là bỏ cuộc ngay sau khi chỉ mới nắm được những kiến thức cơ bản.
Các topic trọng tâm
Kiến thức cơ bản về neural network : các layers, hàm activation, forward/backward pass
Training dynamics: overfitting, regularization, dropout, batch normalization
Các thuật toán tối ưu: SGD, Adam, và lý do tại sao việc lựa chọn thuật toán lại thực sự quan trọng trong thực tế
GPU: giải thích tại sao laptop lại tăng nhiệt đến vậy khi chạy một mô hình có hàng tỷ tham số!
Tài liệu tham khảo 💻
https://course.fast.ai/?source=post_page-----d21e5748a0aa-----------------------------------------
Vậy PyTorch hay TensorFlow?
Đây là câu hỏi rất phổ biến với người mới học AI.
PyTorch hiện gần như là lựa chọn mặc định trong nghiên cứu, phần lớn các mô hình mã nguồn mở hiện đại và nhiều công việc AI production vào năm 2026.
TensorFlow vẫn được sử dụng, đặc biệt trong một số hệ thống doanh nghiệp và triển khai trên thiết bị di động thông qua TensorFlow Lite.
Nếu chỉ có thể học sâu một framework, nên ưu tiên PyTorch.
PyTorch cũng là nền tảng của rất nhiều mô hình trên Hugging Face, các framework về AI agents và code nghiên cứu mà bạn sẽ thường xuyên gặp.
Tài liệu tham khảo 💻
NLP, Thị giác máy tính (Computer Vision) và Transformer
Bạn cần nắm vững kiến thức nền tảng về các lĩnh vực sau:
Các nguyên lý cơ bản của NLP: tokenization, embeddings, sequence models
Các nguyên lý cơ bản của Computer Vision: CNNs, image preprocessing, transfer learning
Kiến trúc Transformer: attention, self-attention, và lý do tại sao kiến trúc cụ thể này lại là nền tảng cho sự ra đời của mọi mô hình ngôn ngữ lớn (LLM) mà bạn đang sử dụng ngày nay
Cơ chế Attention chính là yếu tố cốt lõi! (theo đúng nghĩa đen)
Hãy thực sự hiểu cách thức hoạt động của cơ chế Attention trong kiến trúc Transformer. Mọi nội dung trong Phase 5 đều được xây dựng dựa trên nền tảng này. (xem các tài liệu tham khảo bên dưới)
https://www.kaggle.com/discussions/getting-started/587250
Portfolio Project #3: Phân tích cảm xúc (Sentiment Analysis)
Fine-tune một Transformer đã được huấn luyện trước (có thể bắt đầu với một phiên bản BERT rút gọn để tiết kiệm tài nguyên) trên bộ dữ liệu phân loại cảm xúc.
Dự án giúp bạn làm quen với toàn bộ quy trình fine-tuning hiện đại:
Tải mô hình → Tokenize dữ liệu → Fine-tune → Đánh giá kết quả.
Đây cũng chính là quy trình tương tự được sử dụng khi triển khai các mô hình ở quy mô production lớn hơn.
Portfolio Project #4: Công cụ chuyển biên bản cuộc họp 🎯
Xây dựng một quy trình hoàn chỉnh:
Audio đầu vào → Transcript → Tóm tắt.
Kết hợp Speech-to-Text (Whisper là lựa chọn phù hợp) với bước tóm tắt bằng LLM.
Đây là dự án AI thực tế đầu tiên của bạn, không chỉ đơn thuần là xây dựng một model. Đồng thời, bạn có thể tiếp tục sử dụng chính công cụ mình tự xây dựng.
Tài liệu tham khảo 💻
Phase 5: AI Engineer
Đây là giai đoạn trọng tâm của roadmap, nơi bạn bắt đầu làm AI Engineering thực tế.
Lưu ý: Nếu định theo hướng ML, từ giai đoạn này lộ trình sẽ khác. Các phần trước là nền tảng chung cho cả AI và ML, dù bạn là người mới hay đã có kinh nghiệm.
Bạn cũng có thể bắt đầu học AI Evaluation sớm: xác định bộ dữ liệu đánh giá (eval set) và tiêu chí thành công trước khi xây dựng hệ thống. Điều này giúp đo lường tiến độ và tạo ra hệ thống đáng tin cậy hơn.
Context Engineering
Context Engineering có thể xem là bước phát triển tiếp theo của Prompt Engineering trong năm 2026.
Prompt Engineer: Tập trung vào “Nên viết gì trong prompt?”
Context Engineer: Tập trung vào “Toàn bộ thông tin nào cần đưa vào context — tài liệu, kết quả từ tools, lịch sử hội thoại, system instructions, memory — và sắp xếp chúng thế nào để model thực hiện nhiệm vụ tốt nhất?”
Nói cách khác, đây là cách tư duy về AI như một hệ thống hoàn chỉnh.
Các khái niệm cần tập trung
Xác định thông tin nào cần thiết trong context và thông tin nào là nhiễu.
Biết cách sắp xếp context: thứ tự, định dạng, nén thông tin.
Quản lý context window: token có giới hạn; đưa quá nhiều thông tin không phải lúc nào cũng tốt và đôi khi còn làm kết quả kém hơn.
Structured Outputs: Học cách yêu cầu LLM trả về dữ liệu theo schema định trước như JSON, Pydantic thay vì văn bản tự do. Điều này giúp ứng dụng AI ổn định hơn và dễ tích hợp với các hệ thống khác.
Tài liệu tham khảo 💻
Retrieval-Augmented Generation (RAG)
RAG là kỹ thuật giúp LLM trả lời câu hỏi bằng cách sử dụng thông tin mà model chưa được huấn luyện trên đó.
Các topic cốt lõi
Chunking: Phân chia dữ liệu thành các đoạn nhỏ — từ chia theo kích thước cố định đến chia theo ngữ nghĩa. Cách chia ảnh hưởng trực tiếp đến chất lượng tìm kiếm.
Embeddings & Vector Database: Chuyển văn bản thành vector và lưu trữ/tìm kiếm bằng các công cụ như Pinecone, Weaviate, Chroma hoặc pgvector.
Retrieval: Tìm kiếm theo độ tương đồng, hybrid search (kết hợp keyword + semantic) và re-ranking.
Các kỹ thuật RAG:
Query Rewriting: Cải thiện câu hỏi trước khi tìm kiếm.
Agentic RAG: Cho phép agent lập kế hoạch và tìm kiếm nhiều lần.
Graph RAG: Dùng knowledge graph để thể hiện mối quan hệ giữa các thực thể, giúp truy xuất thông tin phong phú hơn.
Evaluation: Đánh giá chất lượng retrieval và mức độ hallucination, không chỉ xem câu trả lời cuối có “trông ổn” hay không. Có thể dùng các chỉ số như context precision và context recall.
Tài liệu tham khảo 💻
Dự án thực hành RAG
Bạn có thể xây dựng một hệ thống RAG trên chính nhật ký cá nhân của mình. Đây là một dự án khá thú vị để thực hành.
Model Context Protocol (MCP)
MCP là một tiêu chuẩn giúp ứng dụng LLM kết nối với các công cụ và nguồn dữ liệu bên ngoài, thay vì mỗi đội phải tự xây dựng một tích hợp riêng cho từng công cụ mà AI Agent cần sử dụng.
Các topic cốt lõi
Hiểu mô hình MCP Client / Server.
Kết nối một MCP Server có sẵn với Agent do bạn xây dựng.
Tự xây dựng một MCP Server đơn giản cho một công cụ chưa có MCP Server.
Tài liệu tham khảo 💻
MCP chính là công nghệ vận hành mọi công cụ mà bạn sử dụng cùng với ChatGPT hoặc Claude để tương tác (ghi dữ liệu vào hoặc đọc dữ liệu từ) các nền tảng như Canva, Notion hay bất kỳ công cụ bên ngoài nào khác.
AI Agent
AI Agent là một hệ thống trong đó LLM có khả năng suy luận về mục tiêu, quyết định công cụ cần sử dụng, thực hiện hành động, quan sát kết quả và lặp lại quy trình này, thay vì chỉ tạo ra một phản hồi văn bản tĩnh duy nhất như chatbot thông thường.
Topic cốt lõi
Vòng lặp reasoning: plan → act → observe → repeat (mô hình ReAct)
Tool use/function calling: cách model quyết định khi nào và gọi tool nào
Memory: short-term (trong một session) và long-term (lưu qua nhiều session)
Guardrails: các cơ chế ngăn agent thực hiện hành động gây destructive, tốn kém hoặc sai
Hãy xây dựng ít nhất một agent bằng raw API calls trước khi sử dụng framework như LangChain hoặc LangGraph.
Điều này giúp hiểu framework thực sự làm gì cho bạn, thay vì chỉ biết cách sử dụng API của framework.
Tài liệu tham khảo 💻
Một số nguồn cũng khá hữu ích:
Dù việc nắm vững các khái niệm về agent quan trọng hơn việc sử dụng các framework, nhưng cũng rất đáng để tìm hiểu những framework hiện đại như OpenAI Agents SDK, LangGraph, CrewAI, Google ADK, Agno, AutoGen và Smolagents nhằm hiểu rõ các phương pháp tiếp cận khác nhau trong việc xây dựng các hệ thống agent sẵn sàng cho môi trường production (production-ready).
Multi-Agent Systems
Multi-Agent Systems mở rộng mô hình single-agent bằng cách chia một task phức tạp cho nhiều agent chuyên biệt và phối hợp với nhau.
Điều này hữu ích vì single agent có giới hạn khi xử lý task phức tạp, nhiều bước: context dễ bị quá tải, và một agent phải làm mọi thứ thường không chuyên sâu ở từng nhiệm vụ.
Specialized agents với nhiệm vụ rõ ràng, phạm vi hẹp và context riêng thường hiệu quả hơn agent tổng quát.
Các pattern cần biết
Orchestrator-worker: một agent phân chia subtask cho các worker chuyên biệt.
Sequential pipelines: output của agent A trở thành input của agent B.
Debate/critique: output của một agent được agent khác review và phản biện trước khi hoàn tất.
Tài liệu tham khảo 💻
AI Evaluation
Đối với AI Engineer, đây là yếu tố quan trọng để phân biệt demo với production system.
Topic cốt lõi
Xây dựng test set gồm các input đại diện trước khi đưa hệ thống vào production.
Xác định tiêu chí “good” cho từng task: độ chính xác, mức độ tuân thủ với nguồn được truy xuất, tone, latency, v.v.
Sử dụng mô hình LLM-as-judge khi đánh giá thủ công không còn khả thi, đồng thời hiểu các bias của phương pháp này.
Sử dụng các framework như DeepEval, Promptfoo, LangSmith, Ragas, Arize Phoenix để benchmark và theo dõi regression trong prompts, RAG pipelines và agentic workflows.
Theo dõi regressions theo thời gian khi thay đổi prompt, model hoặc logic retrieval.
Tài liệu tham khảo 💻
Các nguồn dưới đây đề cập đến các chỉ số như điểm mức độ phù hợp (relevance score), độ chính xác (precision), độ thu hồi (recall), ROUGE và BLEU, cũng như các technique, tool, và framework.
LLMOps
Khi các hệ thống AI chuyển sang giai đoạn production, việc tìm hiểu về LLMOps trở nên ngày càng quan trọng.
Các topic trọng tâm
- Prompt versioning
- Model routing
- Tracing & observability
- Giám sát chi phí
- Caching
- Theo dõi thử nghiệm
LLMOps hỗ trợ xây dựng các hệ thống AI chạy ổn định và có khả năng mở rộng.
Tài liệu tham khảo 💻
Triển khai AI Applications
Các kiến thức nền tảng cần biết
APIs: đóng gói model/agent bằng FastAPI hoặc framework tương tự.
Containerization: biết Docker, hiểu mục đích và cách sử dụng.
Inference & model-serving: vLLM cho LLM serving với throughput cao; LiteLLM để routing request giữa nhiều model provider qua một interface thống nhất.
Basic cloud deployment: có khả năng triển khai AI application end-to-end trên cloud quen thuộc.
Monitoring & cost tracking: LLM calls phát sinh chi phí theo token; production system cần theo dõi latency và chi phí sử dụng. Đây là một trong những phần được chú trọng nhất.
CI/CD basics: phục vụ triển khai và tự động hóa các pipeline.
Những sai lầm thường thấy ở beginner
Vọc ngay vào LLM và AI Agent mà bỏ qua Giai đoạn 1–3.
Coi các framework (như LangChain) là thứ cần học, thay vì hiểu trước các khái niệm nền tảng để xây dựng framework.
Chỉ sưu tầm tutorial thay vì tự xây dựng project. Xem không đồng nghĩa với làm; khoảng cách giữa hai việc này là nơi nhiều người dễ bị mắc kẹt mà không nhận ra.
Xây dựng hệ thống đánh giá (eval pipeline) ngay trong quá trình phát triển, thay vì để sau. Mỗi thay đổi nhỏ đều giúp biết pipeline đang hoạt động tốt hơn hay kém đi.
Lời kết
Nếu chỉ có thể đúc kết một điều từ lộ trình này, thì đó chính là: trở thành AI Engineer không phải là việc thông thạo tất cả các tool mới, mà là xây dựng nền tảng kiến thức vững chắc và áp dụng chúng một cách nhất quán.
Đừng vội vã khi đi qua từng giai đoạn. Hãy thực hiện các dự án, thử nghiệm, chấp nhận sai lầm và học hỏi thông qua thực hành. Đó mới là lúc sự phát triển thực sự diễn ra. Hy vọng lộ trình này mang lại cho bạn định hướng rõ ràng và giúp bạn tiết kiệm thời gian.
