Trao đổi với Tạp chí Điện tử và Ứng dụng, ông Nilam Ruparelia, Phó Giám đốc phụ trách bộ phận kinh doanh giải pháp Edge AI của Microchip, cho rằng năm 2026 sẽ là năm quyết định đối với trí tuệ nhân tạo tại biên ( Edge AI). Theo ông Nilam Ruparelia, trong bối cảnh trí tuệ nhân tạo tiếp tục giữ đà phát triển rất mạnh trong hệ sinh thái điện tử, sau nhiều năm hoạt động đào tạo và suy luận dựa trên môi trường điện toán đám mây tiến triển với tốc độ rất cao. Trí tuệ hiệu suất cao vì thế bắt đầu di chuyển ra biên mạng để hoạt động trên những hệ thống đặt ra yêu cầu về độ trễ, công suất, kết nối và chi phí.
Ông Nilam Ruparelia nhấn mạnh sự thay đổi đó không diễn ra theo kiểu nhích dần từng bước mà thực chất là một cuộc chuyển dịch kiến trúc trên phạm vi rộng, làm thay đổi tận gốc cách các kỹ sư đưa trí tuệ phân tán vào sản phẩm, hệ thống và cơ sở hạ tầng thế hệ mới.
Chuyên gia Microchip nêu một ví dụ cụ thể về bài toán phát hiện lỗi đánh lửa hồ quang nguy hiểm trong các cầu dao điện cao áp, nhất là ở những công tắc lắp trong nhà dân, công trình thương mại hay khu công nghiệp. Hệ thống phải phát hiện lỗi hồ quang đủ nhanh để ngắt cầu dao và chặn nguy cơ hỏa hoạn, nhưng các tiêu chí dựa trên ngưỡng truyền thống lại thường báo sai nhiều đến mức không thực tế, nhất là trong môi trường nhiễu điện từ trường mạnh. Phương pháp phát hiện dựa trên AI khắc phục điểm yếu đó khi giảm tỷ lệ báo lỗi sai mà vẫn giữ tỷ lệ bỏ sót lỗi ở mức thấp, qua đó tạo ra một hệ thống an toàn thiết thực, hiệu quả hơn và cứu sống được nhiều người.
Edge AI thay đổi cách kỹ sư thiết kế sản phẩm
Theo ông Nilam Ruparelia, Edge AI là quá trình xử lý trí tuệ nhân tạo được thực hiện ngay tại hoặc gần thiết bị phần cứng vật lý đang thu thập dữ liệu và ra quyết định, thay vì chỉ dựa vào các trung tâm dữ liệu đám mây ở xa. Khi đưa chức năng suy luận về sát nguồn dữ liệu, nhà thiết kế hiện thực hóa khả năng phản ứng theo thời gian thực, kiểm soát quyền riêng tư chặt chẽ hơn và hạ thấp mức độ phụ thuộc vào kết nối mạng liên tục.
Nhờ những khả năng đó, hệ thống đưa ra quyết định chỉ trong vài mili giây thay vì vài giây và đáp ứng đúng yêu cầu mà nhiều ứng dụng công nghiệp cùng hệ thống nhúng đặt ra. Trải dài từ tự động hóa nhà máy cho tới giám sát an toàn, nhu cầu phát hiện vấn đề và ra quyết định tức thời đã trở thành yếu tố cốt lõi mà các kỹ sư phải tính đến ngay từ khâu thiết kế, vì thế họ buộc hệ thống phải hoạt động bằng trí tuệ tại chỗ, tự nhận biết được ngữ cảnh và duy trì hiệu suất ổn định ngay cả lúc kết nối đám mây gián đoạn hoặc không còn khả dụng.
![Trung tâm điều hành hệ thống camera AI của Công an Hà Nội. Ảnh: Lao động]( "Trung tâm điều hành hệ thống camera AI của Công an Hà Nội. Ảnh: Lao động") |
| Trung tâm điều hành hệ thống camera AI của Công an Hà Nội. Ảnh: Lao động |
Theo chuyên gia Microchip giới kỹ sư thiết kế hiện phải cân đối nhiều yêu cầu đan xen, và bốn nhóm lý do kỹ thuật sau đây giải thích vì sao trí tuệ nhân tạo buộc phải dịch chuyển ra biên.
Trước hết là độ trễ và tính xác định, hai yếu tố vẫn luôn đặt ra giới hạn cơ bản cho mọi hệ thống thời gian thực. Khi mô hình AI chạy ngay tại biên thay vì trên đám mây, hệ thống cắt bỏ hoàn toàn độ trễ hai chiều của việc gửi và nhận dữ liệu qua mạng, nhờ đó với những ứng dụng như nhận lệnh, phát hiện bất thường theo thời gian thực hay điều khiển theo vòng lặp chính xác, độ chắc chắn về mặt thời gian không còn là một tùy chọn mà trở thành yêu cầu bắt buộc. Chuyên gia Microchip cho biết quay lại ví dụ phát hiện lỗi hồ quang nêu trên, một hệ thống đặt an toàn lên hàng đầu cần đồng thời cả độ trễ thấp lẫn tính xác định, và cùng đòi hỏi đó cũng đặt ra với giao diện người máy dựa trên âm thanh trên robot hỗ trợ hay giao diện cử chỉ tại ki ốt sân bay. Mỗi khi hệ thống phản hồi chậm hoặc thiếu nhất quán, trải nghiệm của người dùng lập tức xấu đi rất nhanh, nên khả năng suy luận ngay tại chỗ trên thiết bị nắm giữ ý nghĩa sống còn đối với thành công của sản phẩm.
Lý do thứ hai liên quan tới hạn chế về điện và năng lượng, bởi các nền tảng nhúng thường vận hành trong những ràng buộc rất nghiêm ngặt, nên khi chạy suy luận AI dưới một giới hạn năng lượng cố định, kỹ sư phải tối ưu hóa hài hòa giữa thông lượng tính toán, hiệu quả thuật toán và lựa chọn phần cứng. Mỗi quyết định kỹ thuật vì thế đều phải bảo đảm cho hệ thống vận hành bền vững mà vẫn nằm gọn trong giới hạn điện năng cũng như khuôn khổ đóng gói vốn rất phổ biến ở các hệ thống phân tán.
Lý do thứ ba nằm ở quyền riêng tư và bảo mật dữ liệu, bởi khi xử lý AI ngay tại chỗ, hệ thống giảm hẳn lượng thông tin nhạy cảm phải truyền qua mạng và nhờ đó hóa giải nhiều mối lo xoay quanh quyền riêng tư cùng an toàn dữ liệu. Với những hệ thống thu thập dữ liệu cá nhân, dữ liệu tác nghiệp hoặc đặt ra đòi hỏi cao về an toàn, việc suy luận ngay trên thiết bị giúp nhà thiết kế thu hẹp rủi ro từ bên ngoài mà vẫn cung cấp đầy đủ thông tin chi tiết hữu ích. Ông Nilam Ruparelia dẫn ra trường hợp một cảm biến đếm người trong khách sạn, phòng hội nghị hay nhà hàng có thể mang lại nhiều phân tích hoạt động rất giá trị, thế nhưng chỉ cần manh nha nguy cơ xâm phạm quyền riêng tư cá nhân cũng đủ khiến cả giải pháp trở nên không thể chấp nhận, nên một hệ thống khép kín ngay trên thiết bị trở thành điều kiện cần để biến ứng dụng đó thành hiện thực.
Lý do thứ tư là hiệu quả sử dụng tài nguyên cùng khả năng mở rộng, bởi trong những môi trường có tới hàng nghìn thậm chí hàng triệu thiết bị đầu cuối, tổng chi phí để truyền dữ liệu thô lên đám mây rồi suy luận tập trung có thể phình lên rất lớn. Edge AI gỡ bỏ gánh nặng đó khi lọc, chuyển đổi và ra quyết định dựa trên dữ liệu ngay tại chỗ, sau đó chỉ gửi về các hệ thống tập trung phần dữ liệu đã tóm tắt hoặc những cảnh báo thật sự cần thiết.
Edge AI đã đi vào sản xuất thực tế ở nhiều ngành
Ở nhiều ngành kinh tế, Edge AI đã vượt ra ngoài phạm vi những chương trình thí điểm, đi vào môi trường sản xuất đầy đủ và định hình lại quy trình thiết kế truyền thống.
Trong các hệ thống công nghiệp, hoạt động bảo trì dự đoán và phát hiện bất thường diễn ra trực tiếp ngay trên máy móc, giúp giảm thời gian gián đoạn ngoài kế hoạch và cho phép điều chỉnh vận hành theo thời gian thực mà không lệ thuộc vào năng lực phân tích từ xa.
Trong lĩnh vực ô tô và giao thông vận tải, cảm biến phát hiện có người trong xe đang nổi lên như một ứng dụng quan trọng. Những hệ thống nhận biết sự hiện diện của hành khách, bao gồm cả trẻ em bị bỏ quên ở hàng ghế sau, phải hoạt động tin cậy theo thời gian thực mà không phụ thuộc kết nối đám mây. AI trên thiết bị cho phép giám sát liên tục bằng dữ liệu thị giác máy tính, radar hoặc âm thanh, đồng thời bảo vệ quyền riêng tư và bảo đảm khả năng phản hồi chắc chắn. Các thiết kế này đặt ưu tiên vào an toàn, tiêu thụ điện năng thấp và xử lý cục bộ an toàn trong kiến trúc nhúng của xe.
Ở mảng thiết bị tiêu dùng và IoT, các thiết bị thông minh diễn giải giọng nói, cử chỉ và bối cảnh môi trường ngay tại chỗ, mang lại trải nghiệm liền mạch cho người dùng mà vẫn duy trì tuổi thọ pin cùng quyền riêng tư.
Với cơ sở hạ tầng và năng lượng, các tài sản phân tán trong lưới điện, hệ thống và hạ tầng thành phố thông minh tận dụng năng lực AI cục bộ để cân bằng tải, phát hiện lỗi hồ quang nguy hiểm và tối ưu hiệu suất mà không gây quá tải mạng truyền dữ liệu. Điểm chung dễ nhận thấy ở mọi lĩnh vực này là khi trí tuệ cần thiết càng mang tính tức thời thì AI càng phải được đặt sát nguồn dữ liệu.
Edge AI trở thành lựa chọn chiến lược bắt buộc
Ông Nilam Ruparelia cho biết, triển khai trí tuệ tại biên mạng cũng kéo theo những thách thức mới và phức tạp. Bên cạnh khâu thiết kế và triển khai hệ thống, quá trình phát triển AI đòi hỏi thu thập dữ liệu có cấu trúc và đào tạo mô hình ngay từ đầu rồi duy trì liên tục về sau. Dữ liệu thu thập cần đủ đa dạng và mang tính đại diện để đào tạo mô hình hiệu quả, điều này yêu cầu kế hoạch cẩn thận và tối ưu hóa liên tục, khác với quy trình phát triển nhúng thông thường. Dù vậy, một khi hoạt động thu thập dữ liệu có cấu trúc trở thành một phần trong vòng đời kỹ thuật, nhiều tổ chức nhận thấy điều đó góp phần tạo nên các giải pháp thiết thực, tiết kiệm chi phí và mang lại giá trị lớn hơn.
Ngoài chiến lược dữ liệu, các kỹ sư còn phải xử lý không gian bộ nhớ hạn hẹp hơn, kiến trúc điện toán không đồng nhất và chuỗi công cụ đang phát triển nhằm kết nối quá trình đào tạo mô hình với việc triển khai suy luận dễ dàng. Một cách tiếp cận toàn diện đòi hỏi xác định đúng các điều kiện hoạt động thực tế, xác thực hành vi mô hình trong điều kiện ràng buộc và tích hợp quy trình AI với kiến trúc phần cứng cùng phần mềm nhúng hiện có. Trong bối cảnh đó, lựa chọn kiến trúc điện toán và hệ sinh thái phát triển mang ý nghĩa vô cùng quan trọng. Những nền tảng đạt hiệu suất cao hơn, cơ chế bảo mật mạnh và vòng đời sản phẩm dài cho phép nhà thiết kế cân bằng giữa yêu cầu trước mắt với cân nhắc trong lộ trình dài hạn, còn các công cụ tích hợp hỗ trợ tối ưu hóa, lập hồ sơ và gỡ lỗi trên toàn môi trường biên mạng sẽ rút ngắn thời gian đưa sản phẩm ra thị trường.
Tới thời điểm năm 2026, theo nhận định của chuyên gia Microchip, Edge AI đã trở thành lựa chọn thiết kế chiến lược mang tính bắt buộc đối với những hệ thống cần phản ứng nhanh, vận hành tin cậy ngay cả khi nguồn lực bị giới hạn và mang lại hiệu suất vượt trội mà không gây quá tải cho mạng hay hạ tầng tập trung. Bằng cách đưa trí tuệ về gần nguồn dữ liệu hơn, ông Nilam Ruparelia cho rằng các kỹ sư đang định hình lại giới hạn của hệ thống phân tán và thiết lập một chuẩn mực mới cho hoạt động vừa đáp ứng tốt, vừa hiệu quả lại vừa an toàn trên khắp các ngành kinh tế.
