alumni techtalk 3

Chúng ta đang sống trong thời đại mà năng lực của các mô hình ngôn ngữ lớn (LLM) tăng trưởng theo cấp số nhân. Code được AI viết ra nhanh gấp 10 lần con người. Một dòng lệnh có thể sinh ra cả một tính năng chỉ trong vài phút. Nghe qua, đây phải là kỷ nguyên vàng của năng suất.

Nhưng có một nghịch lý đang âm thầm bào mòn các đội ngũ kỹ thuật: model mạnh lên gấp nhiều lần, còn năng suất team thì gần như đứng yên. Code sinh ra nhanh, nhưng khâu review vẫn một tay con người gánh, dẫn đến quá tải. Tệ hơn, trong không ít dự án, mỗi tính năng mới được AI “vẽ” ra lại khiến hệ thống rối thêm một chút và tính năng kế tiếp, thay vì dễ làm hơn, lại khó hơn.

Tại buổi sinh hoạt của CLB Alumni, diễn giả Trần Đức Quý đã đặt thẳng câu hỏi: Vì sao một công cụ mạnh đến vậy lại không kéo được năng suất đi lên tương ứng? Và câu trả lời anh đưa ra không nằm ở việc tìm model tốt hơn, mà ở cách chúng ta xây dựng hệ thống làm việc quanh nó.

techtalk 3 -1

Mở đầu phiên sinh hoạt của CLB, diễn giả Trần Đức Quý đã đi thẳng vào vấn đề vì sao dù đã có AI hỗ trợ nhưng hiệu suất của nhiều team không tăng trưởng như mong muốn. 

Theo anh Quý, phần lớn các đội ngũ hiện nay vẫn đang dùng AI theo kiểu assisted, tức là coi AI như một trợ lý gõ phím nhanh hơn. Mỗi lần bắt đầu việc mới, mọi ngữ cảnh, mọi bài học từ lần trước gần như bị xoá sạch. AI không nhớ team đã từng sai ở đâu, đã từng quyết định gì, đã từng loại bỏ phương án nào. Kết quả là: tốc độ gõ code tăng, nhưng tổng năng suất hệ thống không tăng tương ứng, vì tri thức không được tích lũy.

Compound Engineering là câu trả lời cho vấn đề đó. Đây không phải một công cụ mới, mà là một cách tổ chức lại toàn bộ quy trình làm việc với AI, sao cho mỗi đơn vị công việc hoàn thành hôm nay làm cho công việc ngày mai dễ hơn, chứ không phải khó hơn.

techtalk 3 -2

Để hiểu Compound Engineering, diễn giả dẫn dắt người nghe qua một sơ đồ bốn lớp đồng tâm. Chúng không thay thế nhau, mà bao bọc và hỗ trợ lẫn nhau, mở rộng dần “chân trời thời gian” của AI từ một lượt chat đơn lẻ thành cả một quý làm việc.

Lớp 1 – Prompt Engineering

Những chỉ dẫn đơn lẻ: Chain-of-Thought, Few-shot, XML tags. Đây là lớp mà hầu hết người dùng AI phổ thông đang dừng lại, chúng ta hỏi một câu, nhận một câu trả lời từ AI, rồi quên.

Lớp 2 –  Context Engineering

Nếu Prompt Engineering là câu lệnh, thì Context Engineering đóng vai trò như quản trị RAM cho một hệ điều hành.  Context càng dài, khả năng truy xuất đúng của model càng giảm –  hiện tượng mà giới kỹ thuật gọi là Context Rot.

Lớp 3 – Harness Engineering

Đến lớp thứ ba, AI hoạt động trong một môi trường có “yên cương” (harness) để điều khiển “con ngựa” (model). Thông qua ma trận Guides và Sensors, team tạo ra những agent có khả năng tự sửa lỗi và hoạt động đúng chuẩn.

techtalk 3 -4

“Context là tài nguyên hữu hạn phải được quản trị, không phải cái thùng để đổ đầy” Anh Quý nhấn mạnh.

Lớp 4 – Compound Engineering

Lớp ngoài cùng, nơi mọi kinh nghiệm, quyết định kiến trúc và bài học từ lỗi sai được “vật chất hóa” thành các artifact mà chính AI có thể đọc lại ở phiên làm việc sau. Đây là lớp biến một hệ thống từ “chạy được” thành “tự lớn lên”.

Để áp dụng Compound Engineering, quy trình phát triển phần mềm (SDLC) được mở rộng từ 4 bước truyền thống thành 8 bước chuyên sâu: Ideate → brainstorm → plan → work → review → polish → compound → repeat. Trong đó, Compound là bước quan trọng giúp những kiến thức và kinh nghiệm có được trong quá trình làm việc được lưu lại để sử dụng cho những lần sau.

Diễn giả mượn ẩn dụ của Trevin Chow để mô tả vai trò con người trong quy trình này: “AI là phần nhân. Con người là hai lát bánh mì giữ cho nó không rơi ra.”

Lát bánh đầu – Input

Con người quyết định vấn đề nào đáng giải quyết, mục tiêu là gì và cần làm đến đâu. Đây là phần AI không nên tự quyết định thay con người.

Phần nhân – Work

AI hỗ trợ thực hiện những công việc có tính lặp lại, xử lý thông tin, viết code hoặc thực hiện các tác vụ theo hướng dẫn. AI cần con người định hướng và kiểm soát.

Lát bánh cuối – Output

Con người đánh giá kết quả dựa trên trải nghiệm thực tế và mục tiêu ban đầu: sản phẩm có thực sự tốt không, có giải quyết đúng vấn đề không, có điều gì cần thay đổi?

Nếu bỏ qua Compound, quy trình chỉ dừng ở việc hoàn thành công việc với sự hỗ trợ của AI. Mỗi lần bắt đầu một nhiệm vụ mới, team vẫn có nguy cơ phải giải quyết lại những vấn đề cũ. Với Compound, sau mỗi vòng làm việc, team chủ động ghi lại:

  • Điều gì đã làm hiệu quả?
  • Điều gì chưa hiệu quả?
  • Đã rút ra insight hay quy tắc nào?
  • Có giải pháp nào có thể tái sử dụng?

Những kiến thức này có thể được lưu vào CLAUDE.md, thư mục docs/solutions/ hoặc hệ thống tài liệu nội bộ. Nhờ vậy, ở vòng làm việc tiếp theo, AI và các thành viên trong team có thể sử dụng ngay những kiến thức đã tích lũy thay vì bắt đầu lại từ con số 0. Đó chính là ý nghĩa của “Compound”: mỗi vòng làm việc không chỉ tạo ra kết quả, mà còn làm cho vòng tiếp theo trở nên tốt hơn.

Để mỗi người tự xác định mình đang sử dụng AI ở mức nào, diễn giả đưa ra thang trưởng thành gồm 6 nấc.

  • Ở nấc 0 – 1, người dùng vẫn chủ yếu code thủ công hoặc chỉ sử dụng AI theo kiểu hỏi – đáp rời rạc qua chat.
  • Lên nấc 2 – 3, AI bắt đầu trở thành một công cụ thực thi thông qua Agentic tool, đồng thời người dùng chuyển sang tư duy “Plan-first”: xác định mục tiêu và lập kế hoạch trước khi để AI bắt tay vào code.
  • Ở nấc 4 – 5, AI được tham gia ngay từ khâu hình thành ý tưởng, có thể chạy song song trên cloud và thực hiện phần lớn công việc; con người chuyển dần từ người trực tiếp làm sang người định hướng, kiểm soát và ra quyết định.

Theo diễn giả, bước chuyển từ nấc 2 lên nấc 3 là một trong những thay đổi khó nhất, bởi con người phải từ bỏ thói quen kiểm tra từng dòng code để chuyển sang review kế hoạch, kiến trúc và những quyết định quan trọng. Đây cũng là lúc cách làm việc thay đổi căn bản: “Mọi năng lực bạn giữ lại cho riêng mình đều trở thành việc bạn phải tự làm bằng tay.”

techtalk3-7
techtalk3-6

Muốn AI ngày càng làm việc hiệu quả hơn, kinh nghiệm của team cần được biến thành tri thức có thể lưu trữ và tái sử dụng, thay vì chỉ nằm trong đầu từng thành viên. Có thể bắt đầu từ những việc rất đơn giản: sử dụng CLAUDE.md / AGENTS.md để lưu các quy ước, nguyên tắc và hướng dẫn mà agent cần biết trước mỗi phiên làm việc; duy trì docs/plans/ và docs/solutions/ để lưu lại kế hoạch, cách giải quyết vấn đề và những bài học đã rút ra, giúp AI và team không phải lặp lại những sai lầm cũ.

Bên cạnh đó, thay vì review toàn bộ code một cách thủ công, có thể tập trung vào 3 câu hỏi quan trọng: Quyết định khó nhất là gì? Bạn đã loại bỏ phương án nào? Bạn ít tự tin nhất ở đâu? Ba câu hỏi này giúp chuyển trọng tâm của việc review từ “đọc từng dòng code” sang “hiểu những quyết định quan trọng phía sau code”, qua đó tiết kiệm thời gian nhưng vẫn nắm được bản chất của công việc.

Và cách bắt đầu có thể đơn giản đến mức chỉ là tạo một thư mục:

“Hãy bắt đầu ngay hôm nay bằng lệnh mkdir docs. Tri thức của bạn xứng đáng được lưu lại cho tương lai.”

Cám ơn bạn đã đọc đến đây! Hẹn gặp lại – Thứ Bảy, tuần thứ 2 mỗi tháng – tại CodeGym