English
← Ghi chép thực tế

Ghi chép · Tech Week Singapore 2026

Tech Week Singapore 2026: phần khó nằm ở chỗ nối

Hai ngày ở Tech Week Singapore: gian hàng nào cũng bán một mảnh, còn chỗ nối giữa các mảnh thì không ai bán. Mà dự án AI doanh nghiệp hay hỏng đúng ở chỗ đó.

Harry đứng phía sau bảng chữ Tech Week Singapore tại khu trưng bày của sự kiện.
Ở Tech Week Singapore 2026. Ảnh cá nhân của tôi.

Ở Tech Week Singapore 2026 (29-30/9, Sands Expo), gần như gian hàng nào cũng bán một mảnh: người bán chip, người bán hệ thống làm mát, người bán công cụ đọc tài liệu, gateway cho mô hình, công cụ quét bảo mật. Mảnh nào cũng hay. Nhưng đi hết hai ngày, tôi nhận ra không ai bán phần nối các mảnh đó lại với nhau. Và theo tôi, dự án AI trong doanh nghiệp thường thành hay hỏng ở chính những chỗ nối này. Cũng vì không ai bán sẵn nên đây mới là phần thú vị: mỗi người, mỗi doanh nghiệp phải tự đi tìm lời giải cho chỗ nối của riêng mình.

Ý này bắt đầu từ cuộc nói chuyện ở gian hàng Netris. Ban đầu chúng tôi nói về GPU của NVIDIA, AMD và vài hãng khác, nhưng câu chuyện nhanh chóng chuyển sang thứ mà bảng thông số không bao giờ ghi: khi hàng nghìn người dùng chung một cụm máy, làm sao để dữ liệu và quyền truy cập của đội này không lẫn sang đội kia? Có tiền là mua được GPU. Biến nó thành một dịch vụ nhiều đội dùng chung mà vẫn an toàn mới là phần khó.

Từ lúc đó, đi đến đâu tôi cũng để ý chuyện này. Có một slide của Huawei về bộ lưu điện (UPS) phải phân biệt được đâu là sự cố lưới điện, đâu chỉ là cụm GPU vừa đổi tải. Có một trường dữ liệu nhỏ trong kết quả của TextIn ghi lại mỗi con số nằm ở chỗ nào trên trang gốc, và với tôi nó đáng giá hơn mọi con số độ chính xác in trên tờ giới thiệu. Rồi có các kỹ sư Google cười trừ khi tôi hỏi bao giờ có mô hình mới, chỉ vài tiếng trước khi Gemini 4 Argon được công bố.

Dưới đây là cách tôi tóm lại sau chuyến đi. Mỗi dòng là một chỗ nối, phần sau sẽ nói lần lượt từng chỗ.

Chỗ nốiGian hàng bán gìCâu hỏi mình vẫn phải tự trả lời
Điện và GPUUPS, làm mát bằng chất lỏng, rack cho AIPhòng máy còn chịu thêm tải được không?
Cụm GPU và các độiTự động hóa mạng, chia tách tenantBước nào khi cấp GPU vẫn phải làm tay?
Chip và chất lượngSuy luận nhanh hơn, ít tốn điện hơnLượng tử hóa xong, số liệu tài chính còn đúng không?
Gateway và workflowMột API, định tuyến, failoverAi đảm bảo một bước chạy lại không bị làm hai lần?
Công cụ đọc tài liệu và người duyệtDữ liệu có cấu trúc từ bản scanNgười duyệt mất bao lâu để kiểm một con số?
Người dùng và mô hìnhMô hình chạy trên máy và trên cloud trong cùng một appNgười dùng có biết dữ liệu của mình đi đâu không?
Agent và quyềnTruy cập an toàn, quản lý quyền admin, quét lỗ hổngAgent đang dùng quyền của ai?
Cảnh báo và hành độngDashboard, cảm biến, robotAi xử lý, và mất mạng thì thiết bị làm gì?
Lộ trình của hãng và hệ thống đang chạyMô hình mớiĐổi mô hình mà không làm hỏng thứ đang chạy được không?

Huawei và Datalec: giới hạn nằm ở điện, không phải ở GPU

Slide làm tôi nghĩ nhiều nhất ở Tech Week lại không nói gì về AI. Nó nói về một bộ lưu điện.

Slide Huawei TaiShan UPS tại triển lãm, trình bày nội dung về nguồn điện và biến động tải.

Slide giới thiệu bộ lưu điện Huawei TaiShan tại triển lãm. Các con số là do hãng công bố.

Ở mục “Load Smoothing”, slide TaiShan UPS viết rằng thiết bị làm phẳng các dao động tải tính bằng giây trong khoảng 30-70%, tự điều chỉnh điện áp bus để vẫn cấp điện ở chế độ bình thường thay vì liên tục chuyển sang ắc quy. Bài tổng kết sự kiện của Huawei Digital Power đặt chuyện này vào cả một chuỗi gồm nguồn điện, lưu trữ năng lượng và làm mát cho trung tâm dữ liệu AI, nơi tải điện lên xuống thất thường hơn nhiều so với trước.

Nghe thì giống chuyện của dân cơ điện. Nhưng thử nghĩ: khi hàng nghìn con chip cùng lúc đổi trạng thái, một hệ thống điện bình thường có thể tưởng lưới điện vừa gặp sự cố. Tôi không kiểm chứng được các con số trên slide, đó là số của hãng. Nhưng riêng cách đặt vấn đề đã đủ để nhớ: nếu phòng máy đã hết điện hoặc hết khả năng làm mát, mua thêm GPU về cũng không chạy được.

Khách tham quan tại gian hàng Datalec, phía trên là hệ thống ống làm mát bằng chất lỏng chạy dọc dãy tủ rack.

Gian hàng Datalec ở khu Data Centre World, ống làm mát bằng chất lỏng chạy ngay trên dãy rack.

Gian hàng Datalec thì cho thấy điều đó bằng hiện vật: cả một hệ ống làm mát bằng chất lỏng chạy ngay trên đầu dãy rack. Thông báo sự kiện và trang AI Factories của họ coi làm mát, nguồn dự phòng và kết nối băng thông cao giữa các rack là một bài toán chung. Xem xong, tôi bớt nghĩ theo kiểu “mua thiết bị” mà nghĩ nhiều hơn về việc “bàn giao một môi trường vận hành”: điện, làm mát, mạng và phần mềm phải được thử tải cùng nhau, và đội cơ điện, đội mạng, đội ứng dụng cần chung một quy trình khi tải sắp chạm ngưỡng.

Chuyện cloud hay on-premise cũng nên nhìn từ góc này. Thuê GPU trên cloud là để nhà cung cấp lo chuyện điện, đổi lại mình chịu hạn mức theo vùng, câu hỏi dữ liệu được lưu ở đâu, và giá tính theo giờ. Tự xây thì mình nắm quyền kiểm soát, nhưng cũng phải tự lo luôn chuyện điện. Đằng nào thì một kế hoạch mở rộng AI mà không có kỹ sư cơ điện ngồi cùng cũng là kế hoạch còn thiếu.


Netris: có GPU rồi, chia cho nhiều đội mới là chuyện khó

Quay lại Netris. Tài liệu của họ tập trung vào tự động hóa mạng, các lớp trừu tượng giống cloud, và tách biệt kiểu VPC giữa nhiều tenant dùng chung phần cứng. Nghe thì giống việc đi dây, và đúng là việc đi dây thật. Nhưng nhờ nó mà một phòng đầy GPU mới thành thứ doanh nghiệp có thể cấp cho mười đội dự án, đội này không nhìn thấy dữ liệu của đội kia. Mỗi lần một đội được cấp thêm, bị thu hẹp hay bị thu hồi cụm máy, chính sách định tuyến, mạng ảo và ranh giới bảo mật đều phải đổi theo. Làm bằng tay thì sai sót và chờ đợi sinh ra từ đó.

Cuộc nói chuyện cũng để lại cho tôi hai lưu ý. Một là, chuyển một yêu cầu đến cụm máy đang rảnh ở vùng phù hợp khác hoàn toàn với việc ghép các cụm ở xa nhau thành một cỗ máy. Huấn luyện xuyên nhiều địa điểm cần độ trễ tính bằng micro giây và băng thông cỡ InfiniBand hay RoCE, đường truyền diện rộng không đáp ứng nổi. Nên đừng kỳ vọng lớp này gom GPU khắp nơi thành một siêu máy tính. Hai là, mạng chỉ là phần dễ thấy. Mô hình vẫn phải chạy được trên đúng bộ phần mềm, NVIDIA CUDA hay AMD ROCm, ở đúng phiên bản.

Câu hỏi tôi mang về: với một yêu cầu GPU, từ lúc cấp đến lúc thu hồi, bước nào lớp mạng tự làm, bước nào Kubernetes lo, bước nào vẫn cần người vận hành? Chưa vạch rõ chỗ này thì khi có sự cố, không ai biết phải gọi ai.


FuriosaAI: chi phí theo token là chưa đủ

Bo mạch tăng tốc FuriosaAI RNGD và bảng thông số được trưng bày tại triển lãm.

Card FuriosaAI RNGD tại gian hàng. Thông số lấy từ bảng trưng bày của hãng.

RNGD của FuriosaAI được làm ra cho đúng chỗ nối giữa con chip và căn phòng đặt nó. Theo trang sản phẩm RNGD, card có 48 GB HBM3 với băng thông 1,5 TB/s, 256 MB SRAM trên chip và TDP 180 W, đủ thấp để chạy trong phòng máy làm mát bằng không khí. Tức là nó quay lại đúng câu chuyện điện ở trên. Tài liệu cho lập trình viên có bộ công cụ lượng tử hóa và Furiosa-LLM, engine phục vụ mô hình với API tương thích OpenAI.

Các con số hiệu năng, kể cả benchmark của chính hãng tính số người dùng phục vụ được trên mỗi kilowatt, là để đo con chip. Nhưng ngân hàng trả tiền cho nhiều thứ hơn thế. Một hợp đồng được đọc nhanh gấp đôi nhưng đọc sai điều khoản thanh toán thì chẳng tiết kiệm được gì, chi phí chỉ chuyển sang người kiểm tra, có khi sang cả khách hàng. Vì vậy bên cạnh chi phí theo token, tôi tính thêm chi phí cho mỗi câu trả lời dùng được: tiền máy, tiền điện, bản quyền và công vận hành, chia cho số kết quả không ai phải sửa lại. Tính theo cách này, token rẻ đôi khi lại là thứ đắt nhất.

Nếu được thử RNGD, tôi sẽ giữ nguyên bộ tài liệu, tác vụ và tiêu chí chấp nhận, tăng dần số người dùng cùng lúc, rồi xem lượng tử hóa FP8 hay INT4 có làm sai con số tài chính nào không. Tôi cũng sẽ tính cả số tuần kỹ sư phải bỏ ra để chuyển và duy trì mô hình trên một bộ công cụ mới, vì đó cũng là chi phí.


MixRoute × Kong: failover có thể khiến một hóa đơn bị trả hai lần

Gateway cho mô hình là thứ rất dễ được lòng các đội phát triển. MixRoute cho một API chung đến nhiều nhà cung cấp mô hình, có định tuyến và tự động failover. Kong AI Gateway thêm những thứ doanh nghiệp cần: xác thực, hạn mức, audit log, lọc nội dung. Tôi đọc tài liệu cả hai khi tìm hiểu các mẫu thiết kế gateway; chữ “MixRoute × Kong” là cách tôi gọi chung hai nhóm năng lực bổ sung cho nhau, không phải sản phẩm chung của hai công ty.

Vấn đề nằm ở chỗ này. Thử hình dung một agent đang xử lý hóa đơn. Công cụ thanh toán đã tạo giao dịch xong thì lượt gọi mô hình bị timeout. Gateway làm đúng việc của nó là chuyển sang mô hình khác, agent chạy lại bước vừa rồi, và tiền bị chi hai lần. Không thành phần nào làm sai, nhưng kết quả cuối cùng vẫn sai. Đổi mô hình không giữ được trạng thái của quy trình. Chỉ workflow mới biết bước thanh toán đã chạy rồi, nên idempotency key và việc kiểm tra trạng thái thật trước khi thử lại phải đặt ở đó, không đặt ở gateway.

Semantic cache cũng gặp chuyện tương tự. Plugin AI Semantic Cache của Kong trả lời các câu hỏi gần nghĩa từ cache vector, và tài liệu nói thẳng là cách này tốn thêm lưu trữ, tính toán và không phải lúc nào cũng có lợi. Ở ngân hàng, câu “thuật ngữ này nghĩa là gì?” thì cache thoải mái. Nhưng câu “số dư của tôi bao nhiêu?” mà lấy câu trả lời đã cache của một khách hàng khác thì là lộ dữ liệu. Quyền truy cập và độ mới của dữ liệu phải được tính vào thiết kế cache ngay từ đầu.

Nếu phải chia việc, tôi sẽ để gateway lo chính sách truy cập, đo chi phí và điều phối lưu lượng. Workflow lo cho quy trình chạy đúng. Còn kết quả nghiệp vụ thì phải có một người cụ thể chịu trách nhiệm.


TextIn: biết con số nằm ở đâu quan trọng hơn tỷ lệ chính xác

Phần lớn thông tin của ngân hàng không nằm trong văn bản sạch sẽ. Nó nằm trong bản scan, hồ sơ vay, báo cáo tài chính có bảng kéo qua nhiều trang, ô gộp, con dấu đè lên chữ, chữ viết tay trên mẫu in sẵn. OCR có thể đọc đúng từng chữ mà vẫn làm vỡ hết cấu trúc.

TextIn (của INTSIG), ở khu Cloud & AI Infrastructure Asia, là gian hàng tôi muốn ghé nhất. TextIn xParse Enterprise làm phẳng trang bị cong, xóa bóng, dựng lại bảng phức tạp, rồi trả ra Markdown hoặc JSON, chạy qua API trên cloud hoặc cài tại chỗ. Chi tiết tôi thích nhất lại rất nhỏ: mỗi khối nội dung trong JSON có kèm số trang và tọa độ trên ảnh gốc. DocFlow, xây trên xParse, tách các bộ hồ sơ lẫn lộn, trích các trường đã cấu hình, đối chiếu với bộ quy tắc và hiện bằng chứng ngay cạnh từng giá trị.

Vì sao tọa độ lại quan trọng hơn tỷ lệ chính xác? Vì độ chính xác 99% trên cả trang vẫn có thể giấu một số 0 bị đọc sai trong bảng cân đối, tỷ thành triệu, hay dòng doanh thu bị đổi chỗ với dòng chi phí. Tỷ lệ chính xác cao đến đâu thì những con số quan trọng vẫn cần người kiểm. Thứ sản phẩm làm được là giúp việc kiểm đó mất năm giây thay vì năm phút: bấm vào con số doanh thu, thấy ngay vùng đó trên bản scan, đồng ý hoặc sửa. Nói cách khác, với AI đọc tài liệu, thứ cần tối ưu là thời gian kiểm chứng, không chỉ tỷ lệ lỗi.

Nếu thử nghiệm, tôi sẽ không dùng vài file PDF mẫu đẹp đẽ, mà dùng một bộ tài liệu tiếng Việt được phép sử dụng, có chữ viết tay, bản scan mờ và bảng biểu kiểu Việt Nam. Câu hỏi cần trả lời là trường nào tự động được, trường nào phải chuyển cho người, và người đó mất bao lâu để quyết. Còn đối chiếu mã số thuế của một công ty qua nhiều giấy tờ, phát hiện trang bị chỉnh sửa, hay đẩy dữ liệu vào hệ thống khởi tạo khoản vay là những yêu cầu tôi sẽ phải tự kiểm chứng. Tôi chưa thấy chúng chạy.


Msty: cho người dùng thấy prompt của mình đi đâu

Tôi cũng có một buổi nói chuyện rất vui với đội làm Msty. Sản phẩm này nằm ở chỗ nối mà đội nền tảng thường giấu đi: giữa người dùng và mô hình họ đang dùng. Trang tính năng của Msty Studio mô tả một ứng dụng gom các engine chạy trên máy như MLX, llama.cpp, Ollama với các mô hình trên cloud, cho chạy nhiều mô hình cạnh nhau để so sánh, trả lời dựa trên tài liệu của chính mình qua Knowledge Stacks, và có SSO, phân quyền theo vai trò, audit log cho các đội.

Ở doanh nghiệp, phản xạ thường thấy là giấu chuyện chọn mô hình sau một API nền tảng: người dùng chỉ gọi “mô hình”, còn nền tảng tự quyết. Msty thì để lựa chọn đó hiện ra: bản nháp nhạy cảm thì chạy mô hình trên máy, câu hỏi chung chung thì gửi lên mô hình mạnh hơn trên cloud, và người dùng biết rõ cái nào đang chạy ở đâu. Tôi nghĩ để người dùng thấy như vậy là điểm cộng, miễn là chính sách vẫn quyết định cái gì được phép. Msty cũng coi prompt, persona và skill là thứ để thiết kế và chia sẻ, đúng câu hỏi tôi hay trăn trở: làm sao một prompt hay của một người trở thành thứ cả đội dùng lại được?

Câu hỏi còn bỏ ngỏ là chuyện áp chính sách: chính sách dữ liệu của cả đội làm sao đến được một ứng dụng desktop có thể chạy mô hình offline?


Bảo mật AI agent: cách nối nhanh nhất cũng dễ lộ dữ liệu nhất

Tôi có ba cuộc nói chuyện về bảo mật, mỗi cuộc một hướng. Ở Nord Security là chuyện truy cập an toàn khi người dùng và thiết bị ở khắp nơi; mô hình SASE của họ kết hợp kết nối diện rộng với kiểm soát truy cập. Halodata phân phối các giải pháp bảo mật ở Đông Nam Á, trong đó có Admin By Request, chỉ cấp quyền admin trên máy khi thật sự cần. Audacix làm Cyber Chief, quét lỗ hổng ứng dụng web, API và môi trường cloud theo cách một kẻ tấn công sẽ làm, có chuyên gia bảo mật hỗ trợ lập trình viên sửa lỗi.

Ghép ba câu chuyện lại, tôi thấy chúng mô tả đúng vấn đề mà agent mang tới. Một agent được nối với công cụ là thêm một “người” đang giữ quyền, và mỗi API nó gọi là thêm một chỗ có thể bị tấn công. Vào được mạng mới chỉ là bước đầu. Câu hỏi thật sự là: ai đang làm việc này, thay mặt ai, và với quyền gì, ở mọi chặng từ người dùng, qua ứng dụng, đến mô hình, đến công cụ, rồi xuống hệ thống lõi.

Cách nhanh nhất để nối agent vào database là dựng một MCP server dùng chung một service account. Demo thì chạy ngon, nhưng đây là lỗi kinh điển có tên “confused deputy”: một chuyên viên quan hệ khách hàng hỏi về một khách hàng không thuộc danh mục của mình, và hệ thống vẫn trả lời, vì từ agent trở xuống không ai còn biết thật ra ai đang hỏi. Hướng dẫn bảo mật của MCP nêu đích danh lỗi này và yêu cầu server không bao giờ nhận token không được cấp cho chính nó. Cách sửa là truyền danh tính người dùng xuống từng tầng bằng cơ chế ủy quyền phạm vi hẹp, ví dụ OAuth 2.0 Token Exchange, và kiểm tra quyền ngay tại nơi giữ dữ liệu.

Thêm hai tình huống giả định tôi hay dùng để thử thiết kế agent:


Edge AI và giám sát: cảnh báo không ai nhận thì chỉ là tiếng ồn

Ở khu thiết bị, AI đã bước ra khỏi màn hình. Ubitus giới thiệu tại sự kiện nhân vật ảo 3D UbiOne và robot trò chuyện Little Lemon. Marketon có một agent dạng hologram. Weston Robot mang hẳn robot vào hội trường; những ứng dụng họ từng giới thiệu trong ngành dầu khí có robot bốn chân đo chất lượng không khí và kiểm tra đường ống.

Các robot trong khu trưng bày Weston Robot tại Tech Week Singapore.

Khu trưng bày của Weston Robot tại Tech Week Singapore 2026.

Những demo này rất cuốn, và cũng khiến mọi chỗ nối ở trên trở nên nghiêm trọng hơn. Trả lời sai trên màn hình thì chỉ là một dòng chữ. Robot quyết định sai thì đó là một chuyển động thật, ngay cạnh con người. Nên câu hỏi đầu tiên không phải thiết bị làm được gì, mà là mất mạng thì nó làm gì: dừng lại, tiếp tục trong phạm vi an toàn đã định trước, hay trả quyền điều khiển cho người? Hướng dẫn an toàn vận hành của Weston Robot mở đầu bằng việc kiểm tra nút dừng khẩn cấp và khu vực hoạt động trước khi bật máy. Dân phần mềm như tôi rất dễ quên những bước như vậy.

Màn hình AI agent dạng hologram tại gian hàng Marketon.

Agent AI dạng hologram ở gian hàng Marketon. Giao diện AI đang dần rời khỏi màn hình phẳng.

Băng rôn của Harbor Technology Solutions tại gian hàng ST-10, giới thiệu Vision Guard, Sound Guard, Vibration Guard và Power Guard.

Băng rôn của Harbor Technology Solutions ở gian hàng ST-10, với bốn nhóm giải pháp Guard.

Harbor Technology Solutions (皓博科技) theo dõi tình trạng thiết bị cơ điện bằng cảm biến và máy tính biên: Sound Guard (âm thanh), Power Guard (phóng điện cục bộ), Vibration Guard (rung động) và Vision Guard (hình ảnh). Tôi không có số liệu về độ chính xác phát hiện, và điều tôi quan tâm hơn là chuyện gì xảy ra sau khi có cảnh báo. Hệ thống tự mở phiếu bảo trì, hay cô lập thiết bị qua hệ thống điều khiển tòa nhà? Cảm biến mà cứ kêu hoài không dẫn tới hành động gì thì chẳng bao lâu người vận hành sẽ quen tai và bỏ qua.

Thông cáo của Motadata tại sự kiện đặt ObserveOps (metrics, logs, luồng mạng, traces) cạnh ServiceOps (quản lý sự cố, thay đổi, tài sản). Tôi thấy cách ghép này đúng ý: rút ngắn khoảng cách từ lúc có cảnh báo đến lúc có một người cụ thể nhận việc. Riêng với hệ thống AI, cần theo dõi thêm một thứ. Một lượt gọi mô hình có thể nhanh, rẻ, không báo lỗi gì mà vẫn trích nhầm phiên bản cũ của một văn bản chính sách. Nếu không gắn mỗi câu trả lời với phiên bản mô hình, tài liệu nguồn và điểm chất lượng, dashboard vẫn xanh trong khi câu trả lời đã sai.


Google và Gemini 4 Argon: đừng lập kế hoạch theo lộ trình của hãng

Ở gian hàng Google Cloud trong khu Big Data & AI World, tôi hỏi các kỹ sư bao giờ có thế hệ mô hình tiếp theo. Tôi dùng hệ sinh thái Google nhiều năm và theo dõi Antigravity khá sát, nên không nhịn được. Họ cười và bảo chưa chia sẻ được thời gian.

Ngay sau đó là demo Gemini Live: khách nói chuyện qua lại bằng giọng nói trong một kịch bản mua sắm. Gemini Live giờ kết hợp được giọng nói với camera và chia sẻ màn hình. Điều tôi rút ra là chuyện giữ ngữ cảnh khi người dùng chuyển qua lại giữa nói, nhìn và chạm. Thử hình dung một khách hàng ngân hàng đang lướt danh sách sản phẩm trên điện thoại rồi hỏi: “Gói này khác gì gói tôi xem lúc nãy?” Hệ thống phải biết “gói này” là gói nào, lấy dữ liệu mới nhất, trả lời đủ nhanh để giống đang nói chuyện thật, và chuyển sang bước xác thực cẩn thận ngay khi khách muốn mở tài khoản hay chuyển tiền.

Harry và đồng nghiệp ngồi cùng nhau trên tàu Metro ở Singapore trong những ngày Tech Week.

Trên tàu Metro cùng đồng nghiệp trong mấy ngày Tech Week Singapore.

Vài tiếng sau, ngồi trên Metro rời Sands Expo, tôi mở điện thoại và đọc tin Google vừa công bố Gemini 4 Argon ngày 30/9/2026, triển khai theo từng giai đoạn, bắt đầu với các đơn vị phòng thủ an ninh mạng được tin cậy. Hóa ra lúc ở gian hàng, các kỹ sư không giấu gì tôi cả. Nhiều khả năng họ cũng không được phép nói.

Chuyện đó làm tôi nghĩ: mô hình mới ra theo lịch của hãng, không theo lịch của mình, và nhanh hơn mọi chu kỳ thay đổi trong doanh nghiệp. Mình không thể lên kế hoạch theo một lộ trình mình không nhìn thấy. Thứ mình chủ động được là bộ đánh giá của riêng mình: tác vụ thật, dữ liệu được phép dùng và tiêu chí chấp nhận, đủ để trong vài ngày biết được mô hình mới có tốt hơn cho công việc của mình hay không. Cộng thêm một kiến trúc cho phép đổi mô hình mà không phải đụng vào workflow, phân quyền hay dấu vết kiểm tra xung quanh, thì mỗi lần hãng ra mô hình mới sẽ là cơ hội, không phải một lần chữa cháy.


Cái đắt nhất là biết khi nào tin được câu trả lời

Nhìn lại tất cả các chỗ nối, tôi thấy một điểm chung. Con chip, công cụ đọc tài liệu, gateway, agent hay cảm biến đều cho ra kết quả rất nhanh. Cái tốn kém nằm ở phía sau: kiểm một con số với bản gốc, xác nhận một khoản thanh toán không bị chi hai lần, chứng minh agent chỉ làm trong phạm vi quyền của người dùng, quyết định ai xử lý một cảnh báo. Chi phí để tạo ra câu trả lời mỗi quý một rẻ hơn. Còn chi phí để biết có nên tin câu trả lời đó hay không thì không tự rẻ đi, trừ khi có người chủ động thiết kế cho nó.

Harry đứng bên sông Singapore, phía sau là các tòa nhà của thành phố.

Bên sông Singapore, một ngày trước Tech Week.

Nên sau chuyến đi, tôi đang đổi ba thứ trong cách mình làm:

  1. Đánh giá giải pháp AI nào cũng bắt đầu bằng câu hỏi kiểm chứng: một người mất bao lâu để kiểm một kết quả, và thiết kế có thể rút ngắn thời gian đó ra sao.
  2. Chỗ nối nào cũng phải có người chịu trách nhiệm: điện và GPU, gateway và workflow, agent và quyền, cảnh báo và hành động.
  3. Mô hình mới nào cũng phải qua một bộ đánh giá cố định, xây từ tác vụ thật, trước khi được đưa vào quy trình đang chạy.

Còn ở chỗ bạn, chỗ nối nào đang gây đau đầu nhất? Kể tôi nghe trên LinkedIn nhé. Tôi đặc biệt muốn nghe từ những ai đã tìm được người “nhận” chỗ nối giữa gateway và workflow.

Về bài viết này

Tôi sắp xếp bài theo các chỗ nối, không theo thứ tự ghé gian hàng. Thông tin sản phẩm được đối chiếu với trang công khai của các hãng tại thời điểm viết; thông số và số liệu là của các hãng, tôi chưa tự thử nghiệm sản phẩm nào. Các tình huống và ví dụ thiết kế là suy nghĩ cá nhân sau chuyến đi, để mọi người cùng thảo luận. Chúng không phải tính năng của nhà cung cấp, không phải sự cố có thật, cũng không phải kết quả thử nghiệm tại nơi tôi làm việc.