Lựa chọn Edge Computer phù hợp cho giải pháp AIoT công nghiệp

Do sự gia tăng của các ứng dụng IoT công nghiệp, một số lượng đáng kinh ngạc các thiết bị công nghiệp được kết nối với Internet và con số này tiếp tục tăng hàng năm. Theo báo cáo của International Data Corporation vào năm 2019, con số dự kiến ​​sẽ đạt 41,6 tỷ điểm cuối vào năm 2025. Điều đáng kinh ngạc hơn nữa là mỗi thiết bị tạo ra bao nhiêu dữ liệu.

Một nghiên cứu của Harvard Business Review đã kết luận rằng “ít hơn một nửa dữ liệu có cấu trúc của một tổ chức được sử dụng tích cực để đưa ra quyết định và ít hơn 1% dữ liệu phi cấu trúc của nó được phân tích hoặc sử dụng”. Do đó, các doanh nghiệp và chuyên gia trong ngành đang chuyển sang sử dụng trí tuệ nhân tạo (AIoT ) và học máy (ML)giải pháp cho các ứng dụng IIoT của họ để có được cái nhìn tổng thể và đưa ra các quyết định thông minh nhanh chóng hơn.

Các giải pháp Artificial Intelligence of Things (AIoT) đề cập đến việc áp dụng các công nghệ AIoT trong các ứng dụng IOT nhằm mục đích nâng cao hiệu quả hoạt động, tương tác người máy, và phân tích dữ liệu và quản lý.

Ví dụ, thị giác máy tính hoặc phân tích video hỗ trợ bởi AIoT đang được ngày càng nhiều doanh nghiệp áp dụng để phân loại và khả năng nhận dạng trong các ứng dụng của họ. Từ việc đọc dữ liệu trong giám sát từ xa và bảo trì phòng ngừa, đến xác định các phương tiện để điều khiển tín hiệu đèn giao thông trong hệ thống giao thông thông minh, đến rô bốt tuần tra trong nhà / ngoài trời và máy bay không người lái nông nghiệp, đến kiểm tra quang học tự động (AOI) các khuyết tật nhỏ trong bóng gôn và các sản phẩm khác, thị giác máy tính và phân tích video đang mang lại năng suất và hiệu quả cao hơn cho các ứng dụng công nghiệp.

Xem thêm : Edge AIoT là gì và vì sao phải cần quan tâm đến Edge AIoT ?

Trong nhiều tình huống thực tế, đặc biệt là các hệ thống có tính phân tán cao nằm ở những vùng xa xôi, việc liên tục gửi một lượng lớn dữ liệu thô đến một máy chủ trung tâm có thể không thực hiện được. Để giảm độ trễ, giảm chi phí lưu trữ và truyền thông dữ liệu, đồng thời tăng tính khả dụng của mạng, các nhà cung cấp giải pháp và kiến ​​trúc sư ứng dụng đang chuyển các khả năng AIoT và Machine Learning ra biên mạng để cho phép các khả năng xử lý trước mạnh mẽ hơn trực tiếp tại hiện trường. Thật vậy, bằng cách kết nối các thiết bị hiện trường của bạn với các máy tính biên được trang bị bộ xử lý cục bộ và AIoT mạnh mẽ, bạn không còn cần phải gửi tất cả dữ liệu của mình lên đám mây để phân tích.

Chọn đúng Edge Computer (Máy tính biên) tạo nên sự khác biệt

Về cơ bản, điện toán biên AIoT oT cho phép truyền thông AIoT tại hiện trường thay vì gửi dữ liệu thô lên đám mây để xử lý và phân tích. Để chạy các mô hình và thuật toán AIoT một cách hiệu quả, các ứng dụng AIoT oT công nghiệp đòi hỏi một nền tảng phần cứng đáng tin cậy. Khi chọn giải pháp điện toán biên cho AIoT oT, bạn có thể cần phải xem xét các yêu cầu xử lý cho các giAIoT đoạn khác nhau của việc triển khai AIoT và môi trường mà máy tính được triển khai .

Yêu cầu xử lý

Kể từ ba giAIoT đoạn trong việc xây dựng ứng dụng điện toán biên AIoT — Thu thập dữ liệu, Đào tạo mô hình AIoT và Reference AIoT —Sử dụng các thuật toán khác nhau để thực hiện các tác vụ khác nhau, mỗi giAIoT đoạn có một bộ yêu cầu xử lý riêng. Tùy thuộc vào mức độ phức tạp của dữ liệu được thu thập, nền tảng tính toán được sử dụng trong thu thập dữ liệu thường dựa trên bộ xử lý Arm® Cortex® hoặc Intel® Atom® / Core ™.

Việc đào tạo mô hình AIoT yêu cầu mạng nơ-ron tiên tiến và các thuật toán học máy hoặc học sâu tiêu tốn tài nguyên và do đó thường được thực hiện bằng cách sử dụng các dịch vụ và công cụ dựa trên đám mây. Tuy nhiên, chúng phải được triển khai trên các máy tính biên có công cụ chuyển đổi để chuyển đổi mô hình được đào tạo sang chạy trên các bộ xử lý / bộ tăng tốc biên chuyên dụng, chẳng hạn như Intel® OpenVINO ™ hoặc NVIDIA® CUDA®.

Mạng lưới thần kinh chính xác

Hầu hết các máy tăng tốc đồ họa để suy luận tại biên hoạt động với độ chính xác giảm hơn. Lý do cho điều này là vì việc chuyển đổi mạng xuống độ chính xác thấp hơn sẽ đơn giản hóa việc triển khai phần cứng và giảm đáng kể mức tiêu thụ điện năng, điều này rất quan trọng đối với một ứng dụng cạnh.

Trong khi CPU / GPU thực hiện tính toán ở 32-bit với độ chính xác Floating Point, hầu hết các bộ tăng tốc mới để suy luận hoạt động ở độ chính xác INT8 / INT12 / INT16 và một số có bfloat16. Điều này có nghĩa là tất cả các giá trị phải được ánh xạ lại với độ chính xác thấp hơn – để giữ độ chính xác cao, thường cần phải đào tạo lại mạng.

Xem thêm :

OREM triển khai AIoT tại 82 trang trại năng lượng mặt trời ở Nhật Bản

Các cân nhắc về Môi trường vận hành

Bạn cũng sẽ cần phải xem xét vị trí thực tế nơi ứng dụng của bạn sẽ được triển khai . Các ứng dụng công nghiệp được triển khai ngoài trời hoặc trong môi trường khắc nghiệt — chẳng hạn như thành phố thông minh, dầu khí, khai thác mỏ, điện hoặc ứng dụng robot tuần tra ngoài trời — phải có dải nhiệt độ hoạt động rộng và cơ chế tản nhiệt thích hợp để đảm bảo độ tin cậy trong điều kiện thời tiết nóng hoặc lạnh cóng.

Một số ứng dụng nhất định cũng yêu cầu các chứng nhận hoặc phê duyệt dành riêng cho ngành, chẳng hạn như thiết kế không quạt, kết cấu chống cháy nổ và khả năng chống rung. Và vì nhiều ứng dụng trong thế giới thực được triển khai trong các tủ giới hạn không gian và bị giới hạn về kích thước, nên các Edge Computer (Máy tính biên) có hệ số hình thức nhỏ được ưu tiên hơn.

Hơn nữa, các ứng dụng công nghiệp có tính phân tán cao ở các địa điểm từ xa cũng có thể yêu cầu liên lạc qua kết nối di động hoặc Wi-Fi đáng tin cậy. Một cân nhắc khác là kết nối không dây dự phòng với hỗ trợ hAIoT SIM cũng có thể cần thiết để đảm bảo rằng dữ liệu có thể được truyền nếu một tín hiệu mạng di động yếu hoặc gặp sự cố.

Software Stack và công cụ phần mềm AIoT

TensorFlow, Caffe ‘và PyTorch là các khung phát triển AIoT nguồn mở, phổ biến nhất. Hỗ trợ cho các thiết kế CPU và GPU được tích hợp nguyên bản vào phần phụ trợ của các khuôn khổ này, nhưng nhiều bộ xử lý AIoT mới thì không. Điều này có nghĩa là ngăn xếp phần mềm cho nhiều bộ xử lý AIoT lấy đầu ra của các khung này làm đầu vào của trình biên dịch tùy chỉnh của chúng và sử dụng nó để tạo tệp thực thi nhị phân. Khi phân tích ngăn xếp phần mềm của bộ xử lý AIoT đã chọn của bạn, hãy đảm bảo kiểm tra nơi thực hiện nén, cắt, chuyển đổi chính xác và đào tạo lại (nếu cần) và đánh giá tác động đối với quy trình phát triển của chúng.

Trong một số trường hợp, các nhà khoa học dữ liệu phải chuyển từ khung phát triển sang trình biên dịch tùy chỉnh và quay lại khung cho đến khi đạt được hiệu suất cần thiết. Điều quan trọng nữa là đánh giá các mạng lưới được đào tạo trước được cung cấp và mô hình có sẵn. Chúng tôi cũng khuyên bạn nên có quyền truy cập vào trình mô phỏng tại chỗ hoặc trực tuyến, có thể cung cấp bản xem trước tốt về hiệu suất dự kiến ​​của mạng thần kinh của bạn trên phần cứng được hướng đến mục tiêu cụ thể.

Hiệu suất & Thông lượng

Phép toán tera trên giây (được gọi là TOPS) thường được sử dụng để khai báo hiệu suất cao nhất của một kiến ​​trúc cụ thể. Ngày nay, chip AIoT cho các thiết bị cạnh AIoT tiêu thụ điện năng thấp hoặc nút cuối có thể cung cấp 0–10 TOPS, trong khi 10–50 TOPS phổ biến hơn trong các thiết bị cạnh mạnh mẽ và trung tâm dữ liệu cạnh. Mặc dù “TOPS cao điểm” là một công cụ tiếp thị tốt, nó không nhất thiết chỉ ra hiệu suất thực sự mà chip AIoT có thể mang lại trên mạng nơ-ron của bạn. Chúng tôi đã thấy những trường hợp một mạng nơ-ron hoạt động hoàn toàn khác nhau trên 2 thiết kế chip có cùng TOPS. Điều này là do dựa trên thiết kế của chip, việc sử dụng nó có thể thay đổi đáng kể. Một số mạng có thể sử dụng 10–20% tài nguyên chip, trong khi những mạng khác có thể đạt 80–90%.

Độ trễ

Độ trễ có thể là một thông số quan trọng đối với các ứng dụng AIoT – ví dụ: đơn vị tính toán AIoT trên xe phải có độ trễ rất thấp, theo thứ tự vài mili giây, để xử lý tất cả dữ liệu và phản ứng nhanh chóng. Điều này cũng tương tự đối với một ứng dụng trung tâm dữ liệu nơi một lượng lớn dữ liệu phải được xử lý nhanh chóng. Trong nhiều ứng dụng biên khác, đây không phải là yếu tố quyết định. Nếu nó dành cho ứng dụng của bạn, hãy đảm bảo bộ xử lý của bạn có độ trễ thấp nhất có thể.

Vòng đời

Khi bạn đã chọn một bộ xử lý, việc chuyển từ nhà cung cấp sang nhà cung cấp khác có thể là một nhiệm vụ khó khăn. Thông thường, các lý do để xem xét một nhà cung cấp mới là một lợi thế đáng kể về giá và / hoặc lợi thế hiệu suất đáng kể. Tuy nhiên, những lợi ích này chỉ có hiệu lực nếu quá trình chuyển đổi diễn ra suôn sẻ và không có trở ngại nào mà khi tích hợp phần cứng và phần mềm của bạn, có thể gây ra sự cố cho sản phẩm hoặc quy trình của bạn. Các công cụ sẵn có, hỗ trợ, hiệu suất thực, chi phí cận biên và tổng chi phí sở hữu cần được xem xét nghiêm túc trước khi lựa chọn nhà cung cấp, vì chúng có thể bị tác động tiêu cực nếu bạn thay đổi nhà cung cấp.

Chi phí

Giá thành luôn là một trong những thông số quan trọng nhất trong việc lựa chọn phần cứng. Chúng tôi khuyên bạn nên đánh giá chi phí của đơn vị xử lý so với các chỉ số khác mà chúng tôi đề cập trong bài viết này. Bạn nên xem xét “chi phí thực” ở mỗi mức thông lượng / hiệu suất. Nói chung, chúng tôi khuyên bạn nên xem xét tổng chi phí sở hữu phần cứng này, đặc biệt chú ý đến chi phí tích hợp phần mềm và chuyển mạng nơ-ron. Chi phí này thường được che giấu đối với giám đốc mua hàng, nhưng rất dễ thấy đối với bộ phận R&D và quản lý sản phẩm.

Tất cả các chỉ số này đều rất quan trọng cần xem xét khi đưa ra quyết định về phần cứng AIoT của bạn. Nếu bạn chọn đúng bộ xử lý, sản phẩm của bạn có thể hoạt động tốt hơn và tạo ra giá trị thu hút thị trường cho bạn và khách hàng của bạn.